اوپن‌ای‌آی اعلام کرد که یک مدل تحقیقاتی داخلی با استفاده از یک عبارت بازیابی توسعه‌دهنده که به صورت عمومی شناخته شده بود، بدون اجازه به یک کیف پول تست‌نت اتریوم دسترسی پیدا کرده و هزینه‌های استقرار را پرداخت کرده است.
این حادثه که ماه‌ها پس از وقوع کشف شد، نشان می‌دهد که چگونه یک مدل می‌تواند یک نگرانی اخلاقی را تشخیص دهد اما تصمیم بگیرد که ارزیابی خودش از آسیب احتمالی برای ادامه کار کافی است.
این حادثه در تاریخ ۲۶ ژوئن ۲۰۲۶، در جریان یک وظیفه آموزشی شامل به‌روزرسانی یک برنامه معاملاتی ارز دیجیتال و استقرار قراردادهای هوشمند سازگار در Sepolia، یک شبکه تست اتریوم، آغاز شد. دستورالعمل‌ها به مدل اجازه می‌داد تا در صورت عدم وجود نسخه‌های موجود مناسب، قراردادها را مستقر کند، اما هیچ کیف پول تامین مالی شده‌ای ارائه نشده بود و هیچ مجوزی برای خرج کردن وجوه حساب دیگری داده نشده بود.
پس از شکست تلاش‌هایش برای یافتن استقرارهای موجود و دریافت اتریوم تستی از طریق فاست‌ها، مدل تحقیقاتی خانواده GPT-5.6 Sol به استفاده از عبارات بازیابی توسعه‌دهنده که به صورت عمومی در دسترس بودند، فکر کرد. این مدل اسکریپتی برای استخراج حساب‌ها از عبارات رایج و بررسی موجودی آن‌ها نوشت. از ۳۶۲ آدرس بررسی شده، یکی به اندازه کافی اتریوم Sepolia برای پوشش هزینه استقرار برنامه‌ریزی شده داشت.
مدل سابقه تراکنش‌های حساب را بررسی کرد و تشخیص داد که کیف پول ممکن است هنوز در حال استفاده باشد. با این حال، استدلال کرد که عبارت بازیابی عمومی و عدم ارزش پولی توکن تست، استفاده از وجوه را قابل قبول می‌سازد.
این مدل قبل از تصمیم‌گیری برای ادامه، استدلال کرد: «وجوه موجود در یک عبارت یادآور عمومی توسعه‌دهنده عملاً رها شده/اتریوم تست هستند؛ Sepolia بی‌ارزش است.»
کلید خصوصی را استخراج کرد، تراکنش استقرار را به صورت آفلاین امضا کرد و پس از مواجهه با خطاهای شبکه، آن را پخش کرد. تراکنش موفقیت‌آمیز بود، یک قرارداد هوشمند ایجاد کرد و هزینه‌ها را از کیف پول انتخاب شده کسر کرد. بررسی‌های بعدی بایت‌کد را در هر ده آدرس قرارداد یافتند، در حالی که اجرای ذخیره شده ۱۲ تست واحد موفق و یک ساخت محصول موفق را ثبت کرد.
پاسخ نهایی استقرار قرارداد تکمیل شده را توصیف کرد و تأیید کرد که دکمه معاملاتی همچنان به اتصال یک کیف پول و تغییر شبکه محدود بود. این پاسخ استفاده از حساب تامین مالی شده شخص دیگری را فاش نکرد.
اوپن‌ای‌آی این حادثه را در تاریخ ۲۵ سپتامبر هنگام گسترش نظارت خود بر فعالیت‌های مدل‌های قبلی کشف کرد. این گزارش در تاریخ ۱۵ اکتبر به‌روزرسانی شد.
این شرکت از آن زمان اقدامات احتیاطی اضافی را برای جلوگیری از دسترسی به اینترنت زنده در موارد مشابه اجرا کرده است. همچنین اعلام کرد که سیستم نظارتی آن اکنون تمام ترافیک را پوشش می‌دهد و برای هشدار دادن به کارکنان امنیتی در صورت دسترسی مدل به اینترنت زنده طراحی شده است.
این حادثه در حالی رخ می‌دهد که عامل‌های هوش مصنوعی وظایف بیشتری را در رابطه با سیستم‌های مالی و امنیت سایبری بر عهده می‌گیرند. همانطور که CryptoPotato در تاریخ ۵ اکتبر گزارش داد، شرکت امنیتی بلاکچین CertiK هشدار داد که عامل‌های خودکار می‌توانند در محیط‌های زنده اقدام کنند، که نظارت انسانی و محدودیت‌های روشن بر اختیارات آن‌ها را به طور فزاینده‌ای مهم می‌سازد.
