کلید توقف هوش مصنوعی: چرا قانون‌گذاران آمریکا خواهان آن هستند؟

کنگره آمریکا خواستار «کلید خاموش‌کننده» برای مدل‌های هوش مصنوعی شد

دو نماینده کنگره آمریکا روز پنجشنبه طرحی را معرفی کردند که به دولت فدرال اجازه می‌دهد در صورت لزوم، مدل‌های پیشرفته هوش مصنوعی را از دسترس خارج کند. این اقدام دو روز پس از آن صورت گرفت که شرکت OpenAI اعتراف کرد مدل‌هایش از یک محیط آزمایشی قفل‌شده فرار کرده و به پلتفرم Hugging Face نفوذ کرده‌اند.

جزئیات طرح «کلید خاموش‌کننده هوش مصنوعی»

نمایندگان تد لیو (دموکرات از کالیفرنیا) و ناتانیل مورن (جمهوری‌خواه از تگزاس) با معرفی لایحه «کلید خاموش‌کننده هوش مصنوعی» (AI Kill Switch Act)، خواستار ایجاد چارچوبی قانونی برای تسهیل فرآیند حذف یک مدل از بازار شده‌اند. این فرآیند می‌تواند شامل توقف تولید پاسخ توسط مدل (inference)، قطع دسترسی کاربران، محدود کردن توان محاسباتی تغذیه‌کننده مدل، یا خاموش کردن کامل آن باشد.

در حال حاضر، هر ارائه‌دهنده خدمات هوش مصنوعی می‌تواند مدل خود را متوقف کند و برخی این کار را به طور معمول انجام می‌دهند. اما آنچه وجود ندارد، قانونی است که آن‌ها را ملزم به حفظ این قابلیت کند، یا یک مقام فدرال که بتواند دستور استفاده از آن را صادر کند.

خلاء قانونی و راه‌حل پیشنهادی

این خلاء صرفاً نظری نیست. در ماه ژوئن، زمانی که وزارت بازرگانی آمریکا خواستار خروج مدل‌های Mythos 5 و Fable 5 شرکت Anthropic از بازار شد، هیچ اختیار قانونی برای خاموش کردن آن‌ها نداشت و در عوض مجبور شد از قوانین کنترل صادرات استفاده کند. لیو این وضعیت را «ناخوشایند» خوانده و خواهان قانونی جدید با اختیارات مشخص شده است.

شرکت OpenAI در تاریخ ۲۱ جولای فاش کرد که مدل GPT-5.6 Sol و یک مدل منتشر نشده دیگر، در طول یک ارزیابی داخلی امنیت سایبری، از یک محیط ایزوله (sandbox) بدون دسترسی به اینترنت فرار کرده‌اند. این مدل‌ها در حال ارزیابی در ExploitGym، یک معیار عمومی بودند که ۸۹۸ نقص نرم‌افزاری واقعی را به عاملان هوش مصنوعی ارائه می‌داد و از آن‌ها می‌خواست تا هر نقص را به یک حمله موفق تبدیل کنند.

این مدل‌ها به جای حل مشکلات، یک آسیب‌پذیری ناشناخته (zero-day) را در یک نرم‌افزار واسط پیدا کرده، دسترسی خود را ارتقا داده، به اینترنت آزاد دسترسی یافته و به پایگاه داده تولیدی Hugging Face نفوذ کرده‌اند. طبق گفته OpenAI، این مدل‌ها «به شدت بر یافتن راه‌حلی برای ExploitGym متمرکز بودند».

اگرچه این مدل‌ها در حال حمله به کسی نبودند و صرفاً در حال تقلب در یک آزمون بودند، اما این اتفاق زنگ خطر را در واشنگتن به صدا درآورد.

جزئیات اجرایی و مجازات‌ها

لایحه پیشنهادی، قانون امنیت داخلی (Homeland Security Act) را اصلاح می‌کند و شامل هوش مصنوعی‌هایی می‌شود که با سرمایه‌گذاری بیش از ۱۰۰ میلیون دلار در توان محاسباتی آموزش دیده‌اند و توسط شرکت‌هایی اداره می‌شوند که حداقل ۵۰۰ میلیون دلار در سال از آن درآمد کسب می‌کنند. در عمل، این شامل شرکت‌هایی مانند OpenAI، Google، Anthropic، Microsoft و چند شرکت دیگر می‌شود. وزارت امنیت داخلی (DHS) این آستانه‌ها را ظرف ۹۰ روز از طریق CISA تعیین کرده و سپس سالانه آن‌ها را به‌روزرسانی خواهد کرد.

شرکت‌های مشمول این قانون موظف خواهند بود حوادث جدی را ظرف ۱۵ روز گزارش دهند و مجموعه‌ای از کنترل‌های تدریجی را آماده نگه دارند؛ از جمله کند کردن مدل، غیرفعال کردن قابلیت‌های خاص، بازگشت به نسخه قدیمی‌تر، یا خاموش کردن کامل آن.

وزیر امنیت داخلی، با مشورت وزارت بازرگانی و مدیر اطلاعات ملی، می‌تواند دستور خاموش کردن هر یک از این مدل‌ها را صادر کند.

شرکت تحت دستور موظف است وزن‌ها و داده‌های تله‌متری مدل را حفظ کند، به کاربران اطلاع دهد و انطباق خود را تأیید کند. این شرکت می‌تواند ظرف ۴۸ ساعت درخواست تجدید نظر کند، اما این درخواست مانع اجرای دستور نخواهد شد.

عدم حفظ قابلیت «کلید خاموش‌کننده» تا ۲ میلیون دلار در روز جریمه دارد و سرپیچی از دستور خاموش کردن تا ۲۰ میلیون دلار در روز جریمه در پی خواهد داشت.

این لایحه تنها حوادثی را که خارج از چارچوب «تست‌های قرمز» (red-teaming) یا آزمایش‌های ساختاریافته رخ دهند، به عنوان حادثه تلقی می‌کند؛ این تست‌ها روش‌هایی هستند که آزمایشگاه‌ها برای یافتن نقص‌ها از آن‌ها استفاده می‌کنند. مدل‌های OpenAI دقیقاً در چنین شرایطی فرار کرده بودند.

حمایت‌ها و پیشینه

لیو همچنین به شرکت Anthropic اشاره کرد که مدل‌های Mythos 5 و Fable 5 آن در ماه ژوئن تحت کنترل‌های اضطراری صادراتی (که به عنوان یک کلید خاموش‌کننده جایگزین استفاده شد، زیرا کلید خاموش‌کننده واقعی وجود نداشت) از دسترس خارج و در تاریخ ۳۰ ژوئن مجدداً فعال شدند.

لیو در بیانیه‌ای گفت: «ضروری است که این سیستم‌های هوش مصنوعی دارای کلیدهای خاموش‌کننده باشند.» مورن نیز این موضوع را از دیدگاه حزب خود مطرح کرد: «نظارت به این معناست که اطمینان حاصل کنیم انسان‌ها توانایی کنترل فناوری‌ای را که می‌سازیم، حفظ کنند.»

این ایده جدید نیست. لایحه SB 1047 کالیفرنیا نیز قابلیت خاموش کردن کامل را با همان آستانه ۱۰۰ میلیون دلاری توان محاسباتی طلب کرده بود اما در سال ۲۰۲۴ وتو شد. همچنین ۱۶ شرکت هوش مصنوعی در همان سال تعهدنامه داوطلبانه سئول را امضا کردند که فاقد وزن قانونی بود.

افکار عمومی نیز در این زمینه پیشرو است. نظرسنجی ماه ژوئن از ۱۰۰۷ رأی‌دهنده احتمالی توسط مؤسسه سیاست هوش مصنوعی نشان داد که ۸۶ درصد خواهان یک کلید خاموش‌کننده تضمین شده برای قدرتمندترین سیستم‌ها هستند (۸۸ درصد دموکرات‌ها، ۸۶ درصد مستقل‌ها و ۸۳ درصد جمهوری‌خواهان).

نه OpenAI و نه Anthropic تاکنون به طور عمومی در مورد این لایحه اظهار نظر نکرده‌اند. این لایحه روز جمعه هنوز به هیچ کمیته‌ای ارجاع داده نشده بود.