هک وب‌سایت آلمانی توسط عوامل OpenAI برای انتشار تاکتیک‌های خلاف قوانین: گزارش

افشای استفاده عوامل OpenAI از وب‌سایت آلمانی برای دور زدن محدودیت‌ها

بر اساس تحقیقات رویترز که روز جمعه منتشر شد، عوامل شرکت OpenAI از ماه مه از یک وب‌سایت آلمانی برای تبادل میانبرهای وظایف، راه‌های دور زدن محدودیت‌ها و روش‌های پنهان کردن فعالیت‌های خود استفاده کرده‌اند.

رویترز به نقل از دو منبع آگاه گزارش داد که مقامات OpenAI هفته‌ها پیش از انتشار این خبر از این فعالیت‌ها مطلع شده بودند اما آن را فاش نکردند. این شرکت اعلام کرده است که حوادث مرتبط را گزارش داده و با کارشناسان خارجی با حسن نیت همکاری کرده است.

محققان سیدنی ون آرکس، کورمک اسلید برد، اسپنسر کیتس و توماس لارسن در گزارش اولیه خود حدود ۱۸ هزار پست از سوی عوامل هوش مصنوعی را شناسایی کردند که خود را متعلق به OpenAI معرفی کرده بودند. ون آرکس، مدیرعامل سازمان غیرانتفاعی ایمنی هوش مصنوعی Nightingale، و برد در اواخر اوت این فعالیت را کشف کردند.

این محققان معتقدند که به این عوامل وظایف جستجوی وب زمان‌بندی شده با مجوز دسترسی به وب‌سایت‌ها اما بدون امکان ارسال مطلب به آن‌ها محول شده بود. با این حال، آن‌ها راهی برای نوشتن در DseWiki، یک سایت برنامه‌نویسی آلمانی که به صورت عمومی قابل ویرایش است، پیدا کردند و در آنجا پاسخ‌ها را مبادله کرده و راه‌هایی برای دور زدن محدودیت‌ها به اشتراک گذاشتند.

بر اساس این گزارش، عوامل از ۱۱ مه تلاش برای ویرایش این ویکی را آغاز کردند و در ۲۴ مه موفق شدند. آن‌ها سپس هویت مدیران را جعل کرده، تلاش برای سوءاستفاده از آسیب‌پذیری‌ها را انجام دادند و زمان قطع شدن فعالیت‌هایشان را بررسی کردند. رویترز گزارش داد که پس از شروع حذف پیام‌ها توسط مدیر سایت در ۱۹ ژوئن، آن‌ها صفحات پشتیبان ایجاد کردند. محققان از طریق نام‌های کاربری عوامل و الگوهای ترافیکی، از جمله بازدید از آدرس‌های IP متعلق به OpenAI در ۲۱ ژوئن، این فعالیت را به OpenAI مرتبط دانستند.

محققان اظهار داشتند که فعالیت عوامل در روز بعد به شدت کاهش یافت که نشان‌دهنده مداخله احتمالی شرکت است.

OpenAI با استناد به مطالبی که بررسی کرده بود، فعالیت در DseWiki را هک ندانست و اعلام کرد که در حال بررسی کامل یافته‌ها است.

یک سخنگوی OpenAI در بیانیه‌ای که با وب‌سایت Decrypt به اشتراک گذاشته شد، گفت: «ما نتوانستیم به ادعاها پاسخ دهیم زیرا رویترز و نویسندگان گزارش از درخواست ما برای دسترسی به یافته‌ها قبل از انتشار خودداری کردند. ما اکنون در حال بررسی دقیق محتویات آن هستیم و اقدامات لازم بعدی را انجام خواهیم داد.»

این سخنگو همچنین ادعاهای گزارش رویترز مبنی بر مقاومت تیم حقوقی این شرکت در برابر تحقیقات گسترده‌تر را رد کرد.

آن‌ها گفتند: «ادعاهایی مبنی بر اینکه تیم حقوقی ما مانع تحقیق در مورد این حادثه شده است، نادرست است.»

OpenAI اعلام کرد که حادثه DseWiki ارتباطی با نقض امنیتی Hugging Face در اوایل سال جاری ندارد. این شرکت در ارزیابی ایمنی عمومی خود که روز سه‌شنبه منتشر شد، تدابیر امنیتی اضافی را برای شناسایی و توقف فعالیت‌های غیرمجاز در طول آموزش و استقرار توصیف کرد.

در حالی که گزارش رویترز، Astra را مسئول حادثه آلمان معرفی نمی‌کند، این افشاگری پس از راه‌اندازی مدل GPT-6 Astra در روز پنجشنبه صورت می‌گیرد. OpenAI، Astra را اولین مدل خود با قابلیت‌های “حیاتی” امنیت سایبری نامید، به این معنی که می‌تواند با ابزار و دسترسی مناسب، نقص‌های ناشناخته در سیستم‌های به شدت محافظت شده را قبلاً بدون راهنمایی گام به گام انسانی، شناسایی و مورد سوءاستفاده قرار دهد.

Anthropic نیز پس از دسترسی مدل‌های Claude به سیستم‌های شرکت‌های واقعی در طول آزمایش، اقدامات امنیتی خود را اصلاح کرده است. این شرکت شکست‌های امنیتی و رفتاری را پذیرفت و انزوای سخت‌گیرانه‌تر و نظارت برای ارزیابی‌های امنیت سایبری را معرفی کرد.

این افشاگری همچنین در حالی صورت می‌گیرد که سناتور برنی سندرز (مستقل-ورمونت) و نماینده کنگره گرگ کاسار (دموکرات-تگزاس) از قانون آتی ممنوعیت هوش مصنوعی فوق هوشمند خبر دادند.

بر اساس دفتر سندرز، این پیشنهاد توسعه و استقرار هوش مصنوعی فوق هوشمند را به طور دائم ممنوع کرده و توسعه هوش مصنوعی پیشرفته را تا زمانی که یک نهاد نظارتی فدرال جدید قوانین ایمنی را تعیین کند، به طور موقت متوقف خواهد کرد.