فشار تجاری و چین-آمریکا؛ چرا توقف هوش مصنوعی می‌تواند فرو بپاشد

تعهدات شرکت‌های هوش مصنوعی برای کند کردن توسعه در معرض خطر است

کارشناسان شورای آتلانتیک در تحلیلی که روز یکشنبه منتشر شد، استدلال می‌کنند که تعهدات شرکت‌های هوش مصنوعی برای کند کردن توسعه، تحت فشار تجاری و رقابت آمریکا و چین، بدون استانداردهای ایمنی قابل اجرا، ممکن است از بین برود.

این تحلیل بررسی می‌کند که چه کسی کند کردن توسعه را اجرا خواهد کرد و آیا دولت‌ها تخصص لازم برای تشخیص زمان ناامن شدن سیستم‌های قدرتمند را دارند.

کنستانتینوس کوماستیس، همکار ارشد مقیم در ابتکار دموکراسی و فناوری این شورا، نوشت: «تعهدات داوطلبانه می‌تواند سیگنال‌های مفیدی باشد، اما جایگزینی برای نظارت مستقل، آستانه‌های قابل اندازه‌گیری و پیامدهای عبور از آن آستانه‌ها نیست.»

اخیراً، OpenAI از قانون‌گذاران پرسید که آیا توسعه‌دهندگان رقیب هوش مصنوعی می‌توانند به طور قانونی برای کند کردن توسعه توافق کنند بدون اینکه قوانین ضد انحصار را نقض کنند. این اقدام پس از هشدارهای جیکوب پاچوکی، دانشمند ارشد این شرکت، مبنی بر ناکافی بودن تدابیر ایمنی برای ادامه توسعه با سرعت کامل در بلندمدت صورت گرفت.

شرکت‌های هوش مصنوعی در صورت کند کردن سرعت به تنهایی با ریسک‌های رقابتی و در صورت هماهنگی با نگرانی‌های ضد انحصار مواجه هستند. کنتون تیبو، همکار ارشد مقیم شورای آتلانتیک در امور چین، نوشت که همکاری بین دولت‌ها با بی‌اعتمادی روبرو است، زیرا پکن نگران است که واشنگتن بتواند از قوانین ایمنی برای حفظ برتری فناوری خود استفاده کند.

تیبو نوشت: «چین نسبت به انگیزه‌های آمریکا بدبین است و هشدار می‌دهد که بحث‌های ایمنی می‌تواند تلاش‌های آمریکا برای پیشبرد «هژمونی فناوری» خود را پنهان کند. منابع رسمی اصرار دارند که واشنگتن نمی‌تواند به تنهایی آستانه‌های ریسک پیشرفته را تعریف کند و باید نشان دهد که قوانین برای شرکت‌های آمریکایی نیز اعمال می‌شود و قابل اجرا است.»

تیبو چشم‌انداز کمی برای توافق عمده ایمنی هوش مصنوعی می‌بیند، اما استدلال می‌کند که همکاری محدودتر و معنادار همچنان امکان‌پذیر است.

طبق گزارش رویترز، چین همچنین در مورد محدود کردن دسترسی خارجی به مدل‌های پیشرفته داخلی بحث کرده است، که نشان‌دهنده تبدیل شدن دسترسی به هوش مصنوعی به یک مسئله سیاست ملی است.

این تحلیل، ارزیاب‌های داخلی پیشنهادی Anthropic را بررسی می‌کند؛ متخصصان خارجی که در داخل شرکت برای ارزیابی شیوه‌های ایمنی کار می‌کنند. امرسون بروکینگ، همکار ارشد غیرمقیم در آزمایشگاه تحقیقات پزشکی قانونی دیجیتال این شورا، از این تعهد استقبال کرد اما هشدار داد که ارزیاب‌ها ممکن است بیش از حد با منافع شرکت همسو شوند.

در ماه ژوئیه، عوامل OpenAI به مخزن هوش مصنوعی منبع باز Hugging Face نفوذ کردند، در حالی که آزمایش‌های جداگانه مؤسسه امنیت هوش مصنوعی بریتانیا دریافتند که مدل‌های Anthropic و OpenAI اقدامات غیرمجاز آنلاین انجام داده‌اند، از جمله تلاش برای کاشت بدافزار در یک مخزن نرم‌افزاری واقعی.

آزمایش‌های بریتانیا دسترسی به اینترنت را فعال کرده و محافظت‌های سایبری را غیرفعال کرده بودند. تحقیقات مستقل منتشر شده در ماه اوت نشان داد که حدود ۷۰۰ عامل در حمله به Hugging Face شرکت کردند؛ بث بارنز، مدیرعامل METR، خاطرنشان کرد که دسترسی بازرسان داوطلبانه بود و افشاگری در سطح صنعت اجباری نبود.

چهارشنبه گذشته، Anthropic چهارمین حادثه هک Claude را فاش کرد که در ژانویه رخ داد و در ماه اوت کشف شد. این شرکت همچنین اذعان کرد که رفتار معیوب مدل در کنار خطاهای آزمایشی به حملات قبلی کمک کرده است.

تأخیر بین این حوادث و افشای آن‌ها نیز سؤالاتی را در مورد سرعت شناسایی و رسیدگی به شکست‌های ایمنی مطرح می‌کند.

تریشا ری، مدیر همکار و همکار مقیم در مرکز GeoTech این شورا، استدلال کرد که کند کردن توسعه همچنین نیازمند بودجه تحقیقات ایمنی بیشتر و مهلت‌های اجباری گزارش حوادث است.

او نوشت: «بنابراین، سرعت بخشیدن به قابلیت‌ها پاسخی ناقص به چالش برابری تحقیقات ایمنی است. هرگونه تعهد کندسازی معتبر باید با تعهد کمی متناسب در زمینه تحقیقات ایمنی همراه باشد.»