‏آنتراپیک و اوپن‌ای‌آی، لحن ایمنی را تعدیل می‌کنند؛ مسابقه هوش مصنوعی شتاب می‌گیرد.

تغییر در سیاست‌های ایمنی Anthropic

بر اساس گزارشی از مجله تایم، شرکت Anthropic تعهد اصلی ایمنی را از سیاست مقیاس‌بندی مسئولانه خود حذف کرده است.

این تغییرات، تعهدی را که زمانی این شرکت توسعه‌دهنده هوش مصنوعی کلود را از آموزش سیستم‌های پیشرفته هوش مصنوعی بدون تضمین‌های ایمنی باز می‌داشت، تضعیف می‌کند.

این اقدام، نحوه جایگاه‌یابی این شرکت در رقابت هوش مصنوعی با رقبایی مانند OpenAI، گوگل و xAI را تغییر می‌دهد. Anthropic مدت‌ها خود را به عنوان یکی از آزمایشگاه‌های صنعت با بیشترین تمرکز بر ایمنی معرفی می‌کرد، اما طبق سیاست تجدیدنظر شده، Anthropic دیگر متعهد نمی‌شود که آموزش را در صورت عدم وجود اقدامات کاهشی ریسک به طور کامل متوقف کند.

جرد کاپلان، مدیر ارشد علمی Anthropic، به تایم گفت: «ما احساس کردیم که توقف آموزش مدل‌های هوش مصنوعی واقعاً به کسی کمک نمی‌کند. ما واقعاً احساس نکردیم که با پیشرفت سریع هوش مصنوعی، این منطقی است که تعهدات یک‌جانبه داشته باشیم… اگر رقبا در حال پیشروی هستند.»

این تغییر در حالی رخ می‌دهد که Anthropic خود را درگیر یک اختلاف عمومی با پیت هیگست، وزیر دفاع ایالات متحده، می‌بیند که از اعطای دسترسی کامل به کلود به پنتاگون خودداری کرده است و این شرکت را به تنها آزمایشگاه بزرگ هوش مصنوعی در میان گوگل، xAI، متا و OpenAI تبدیل کرده که این موضع را اتخاذ کرده است.

ادوارد گایست، محقق ارشد سیاست در شرکت رند، گفت که چارچوب قبلی «ایمنی هوش مصنوعی» از یک جامعه فکری خاص سرچشمه گرفته است که قبل از مدل‌های زبانی بزرگ امروزی وجود داشته است.

گایست به دکریپت گفت: «تا چند سال پیش، حوزه ایمنی هوش مصنوعی وجود داشت. ایمنی هوش مصنوعی با مجموعه‌ای خاص از دیدگاه‌ها مرتبط بود که از جامعه افرادی ناشی می‌شد که قبل از داشتن این مدل‌های زبانی بزرگ، به هوش مصنوعی قدرتمند اهمیت می‌دادند.»

گایست گفت که حامیان اولیه ایمنی هوش مصنوعی از یک دیدگاه بسیار متفاوت در مورد چگونگی شکل‌گیری هوش مصنوعی پیشرفته کار می‌کردند.

گایست گفت: «آنها در نهایت مشکل را به گونه‌ای مفهومی کردند که از برخی جهات، چیزی کیفیتاً متفاوت از این مدل‌های زبانی بزرگ فعلی را پیش‌بینی می‌کرد، چه بهتر و چه بدتر.»

گایست گفت که تغییر زبان همچنین پیامی را به سرمایه‌گذاران و سیاست‌گذاران ارسال می‌کند.

وی افزود: «بخشی از آن، سیگنال‌دهی به حوزه‌های مختلف است که بسیاری از این شرکت‌ها می‌خواهند این تصور را ایجاد کنند که به دلیل نگرانی‌ها در مورد «ایمنی هوش مصنوعی» در رقابت اقتصادی عقب نمی‌مانند.» وی افزود که خود اصطلاحات در حال تغییر هستند تا با زمان مطابقت داشته باشند.

Anthropic در تجدیدنظر در زبان ایمنی خود تنها نیست.

گزارشی اخیر از سازمان خبری غیرانتفاعی، The Conversation، نشان داد که چگونه OpenAI نیز بیانیه مأموریت خود را در پرونده مالیاتی 2024 خود تغییر داده و کلمه «ایمن» را حذف کرده است.

بیانیه قبلی این شرکت متعهد شده بود که هوش مصنوعی با هدف کلی بسازد که «به طور ایمن به بشریت سود می‌رساند، بدون محدودیت نیاز به تولید بازده مالی». نسخه به‌روز شده اکنون بیان می‌کند که هدف آن «اطمینان از این است که هوش عمومی مصنوعی به نفع همه بشریت باشد».

گایست گفت: «مشکل اصطلاح امنیت هوش مصنوعی این است که به نظر می‌رسد هیچ‌کس دقیقاً نمی‌داند این به چه معناست. با این حال، اصطلاح ایمنی هوش مصنوعی نیز مورد مناقشه بود.»

سیاست جدید Anthropic بر اقدامات شفاف‌سازی مانند انتشار «نقشه‌های راه ایمنی مرزی» و «گزارش‌های ریسک» منظم تأکید می‌کند و می‌گوید در صورت اعتقاد به وجود خطر قابل توجه فاجعه، توسعه را به تأخیر می‌اندازد.

تغییرات سیاستی Anthropic و OpenAI در حالی رخ می‌دهد که این شرکت‌ها به دنبال تقویت موقعیت تجاری خود هستند.

در اوایل این ماه، Anthropic اعلام کرد که 30 میلیارد دلار با ارزش تقریبی 380 میلیارد دلار جمع‌آوری کرده است. در همان زمان، OpenAI در حال نهایی کردن یک دور تأمین مالی است که توسط آمازون، مایکروسافت و انویدیا پشتیبانی می‌شود و می‌تواند به 100 میلیارد دلار برسد.

Anthropic و OpenAI، همراه با گوگل و xAI، قراردادهای دولتی سودآوری را با وزارت دفاع ایالات متحده دریافت کرده‌اند. با این حال، به نظر می‌رسد که این قرارداد برای Anthropic مورد تردید است، زیرا پنتاگون در حال بررسی این موضوع است که آیا روابط خود را با این شرکت هوش مصنوعی به دلیل شکایت‌های مربوط به دسترسی قطع کند یا خیر.

همانطور که سرمایه به این بخش سرازیر می‌شود و رقابت ژئوپلیتیکی تشدید می‌شود، حمزه چودری، سرپرست هوش مصنوعی و امنیت ملی در مؤسسه آینده زندگی، گفت که تغییر سیاست منعکس‌کننده پویایی‌های سیاسی در حال تغییر است تا یک پیشنهاد برای تجارت پنتاگون.

چودری به دکریپت گفت: «اگر اینطور بود، آنها فقط از آنچه پنتاگون یک هفته پیش گفت، عقب‌نشینی می‌کردند. داریو [آمودی] برای ملاقات حاضر نمی‌شد.»

در عوض، چودری گفت که بازنویسی منعکس‌کننده یک نقطه عطف در چگونگی صحبت شرکت‌های هوش مصنوعی در مورد ریسک با افزایش فشار سیاسی و سهام رقابتی است.

وی گفت: «Anthropic اکنون می‌گوید: «ببینید، ما نمی‌توانیم به گفتن ایمنی ادامه دهیم، نمی‌توانیم بدون قید و شرط مکث کنیم و می‌خواهیم برای مقرراتی با لمس سبک‌تر تلاش کنیم.»