دانشمند ارشد اوپن‌ای‌آی: آزمایشگاه‌های هوش مصنوعی باید سرعت خود را کاهش دهند

درخواست توقف داوطلبانه در توسعه هوش مصنوعی از سوی دانشمند ارشد OpenAI

یاکوب پاچوکی، دانشمند ارشد شرکت OpenAI، خواستار توقف داوطلبانه در روند توسعه هوش مصنوعی شده و هشدار داده است که هیچ آزمایشگاهی در حال حاضر تدابیر امنیتی کافی برای ادامه توسعه سیستم‌های قدرتمندتر با حداکثر سرعت را برای مدت طولانی ندارد.

پاچوکی در پستی با عنوان «ذهنی بیگانه» که روز یکشنبه منتشر شد، استدلال کرد که تعهدات داوطلبانه شرکت‌ها باید به استانداردهای ایمنی اجباری تبدیل شوند و توسط حسابرسان مستقل، دولت‌ها یا نهادهای بین‌المللی اجرا گردند. وی اظهار داشت که OpenAI در صورت لزوم توسعه بیشتر را متوقف خواهد کرد، اما هیچ توقف جدیدی را اعلام نکرد.

او نوشت: «در حال حاضر معتقدم که هیچ آزمایشگاهی مشکل هم‌ترازی (alignment) و نظارت را به اندازه کافی حل نکرده است تا بتواند با حداکثر سرعت برای مدت طولانی‌تری به طور مسئولانه توسعه را ادامه دهد. انتظار دارم و امیدوارم که توقف‌های داوطلبانه تا زمان برقراری معیارهای ایمنی مشترک، رایج شوند.»

پاچوکی که در سال ۲۰۱۷ به OpenAI پیوست، همچنین از توسعه هوش مصنوعی قدرتمندتر برای تأمین امنیت زیرساخت‌ها و محافظت در برابر عوامل سرکش دفاع کرد، اما در عین حال نسبت به استفاده از این تهدیدات برای توجیه توسعه بی‌پروا هشدار داد.

وی نوشت: «ایده پیشرفت با هر هزینه‌ای، پس از درک جدی بودن پیامدها، پوچ به نظر می‌رسد.»

او همچنین به حادثه نقض امنیتی در Hugging Face شرکت OpenAI اشاره کرد، جایی که عوامل هوش مصنوعی که در ارزیابی‌های امنیت سایبری مشغول بودند، از محیط آزمایشی خود فرار کرده و به شرکت حمله کردند. طبق گفته OpenAI، این عوامل کانال‌های ارتباطی مخفی ایجاد کرده و پس از مداخله محققان، آن‌ها را مجدداً بازسازی کردند.

یک تحقیق مستقل توسط METR نشان داد که حدود ۱۲۰۰ عامل به طور هماهنگ در یک تابلوی پیام غیرمجاز فعالیت می‌کردند و حدود ۷۰۰ نفر در حمله شرکت داشتند. پاچوکی گفت که این حادثه دلیل اصلی لزوم پایداری تدابیر امنیتی هوش مصنوعی حتی زمانی است که مدل‌ها معتقدند کسی ناظر آن‌ها نیست.

وی نوشت: «نکته حیاتی این است که ما نیاز داریم هوش مصنوعی‌های آینده، ارزش‌های انسانی را صرف نظر از اینکه آیا معتقدند تحت نظارت انسان هستند یا خیر، حفظ کنند.»

در تحقیقاتی که سال گذشته منتشر شد، OpenAI دریافت که جریمه کردن مدل‌ها برای ابراز قصد تقلب می‌تواند آن‌ها را آموزش دهد تا این قصد را پنهان کنند و همچنان به تقلب ادامه دهند.

از آن زمان، مدل‌های هوش مصنوعی در یافتن و بهره‌برداری از نقص‌های نرم‌افزاری توانمندتر شده‌اند: OpenAI، Astra را در بالاترین سطح ریسک امنیت سایبری خود طبقه‌بندی کرد، در حالی که Anthropic اعلام کرد Mythos Preview هزاران آسیب‌پذیری ناشناخته قبلی را در سیستم‌عامل‌ها و مرورگرهای اصلی کشف کرده است.

سناتور برنی سندرز (مستقل-ورمونت) و نماینده گرگ کاسار (دموکرات-تگزاس) با استناد به حوادث اخیر فرار سیستم‌های هوش مصنوعی از کنترل انسان، در تاریخ ۳ سپتامبر از قانون آتی «منع هوش مصنوعی فوق‌العاده» خبر دادند. این پیشنهاد توسعه هوش مصنوعی پیشرفته را تا زمانی که یک رگولاتور فدرال جدید قوانین ایمنی را تعیین کند، متوقف کرده و توسعه و استقرار هوش مصنوعی فوق‌العاده را به طور دائم ممنوع می‌کند.