آیا رئیس‌جمهور مانع آخرین فرصت آمریکا برای کنترل ابرهوش می‌شود؟

دونالد ترامپ، رئیس‌جمهور آمریکا، خواستار توسعه سریع‌تر هوش مصنوعی با موانع کمتر شده است، در حالی که بسیاری از فعالان حوزه توسعه سیستم‌های پیشرفته، خواهان تدابیر حفاظتی قوی‌تر هستند. این تضاد در اظهارات اخیر رئیس‌جمهور آمریکا آشکار شد که نگرانی‌ها در مورد ایمنی هوش مصنوعی را «شایعه» خواند.

ترامپ و موانع هوش مصنوعی

ترامپ این اظهارات را در پست‌های شبکه‌های اجتماعی خود مطرح کرد که بی‌بی‌سی به آن‌ها اشاره کرده است. این اظهارات پس از آن بیان شد که جک کلارک، یکی از بنیان‌گذاران شرکت Anthropic، گفته بود که مکانیزم خاموش‌کننده برای هوش مصنوعی خطرناک که توسط شخص ثالث قابل بررسی باشد، ممکن است در نهایت در سراسر صنعت اجباری شود.

اظهارات ترامپ در حالی بیان شد که مدیران و کارکنان شرکت‌های پیشرو در حوزه هوش مصنوعی نسبت به خطرات بالقوه این فناوری هشدار داده‌اند. بی‌بی‌سی گزارش داد که این نگرانی‌ها به فروش سهام برخی شرکت‌های فناوری منجر شده است، زیرا سرمایه‌گذاران در حال سنجش تأثیر احتمالی کند شدن توسعه هوش مصنوعی هستند.

ترامپ در پست‌های خود، بحث ایمنی هوش مصنوعی را با انتقادات خود از هشدارهای تغییرات اقلیمی مقایسه کرد و خود را به عنوان چالشی برای آنچه او «شایعه» می‌نامد، معرفی کرد.

وی همچنین استدلال کرد که هوش مصنوعی به یک رئیس‌جمهور قوی و باهوش نیاز دارد، نه موانع بیشتر. این یک بحث سیاسی در مورد چگونگی رویکرد ایالات متحده به توسعه هوش مصنوعی است، نه شواهدی از یک سیاست جدید الزام‌آور.

رویکرد مایکروسافت و بحث‌های صنعت

مایکروسافت در همان روز رویکرد متفاوتی اتخاذ کرد و سندی را منتشر کرد که آن را «هوش مصنوعی انسان‌گرا» نامیده است. مصطفی سلیمان، مدیر اجرایی این شرکت، به سی‌ان‌بی‌سی گفت که این شرکت ماه‌ها روی این راهنما کار کرده و آن را در بحبوحه بحث کنونی در مورد این فناوری منتشر کرده است. این اقدام، شرکت بزرگ دیگری را وارد بحث در مورد چگونگی توسعه و محدودیت مدل‌های پیشرفته کرد.

نیاز به مکانیزم‌های مستقل

کلارک بر نیاز به یک مکانیزم خاموش‌کننده مستقل برای سیستم‌های هوش مصنوعی خطرناک تأکید کرد و پیشنهاد داد که قانون‌گذاران ممکن است نیاز به اجباری کردن چنین اقداماتی داشته باشند.

داریو آمودئی از Anthropic از توسعه آهسته‌تر هوش مصنوعی و نظارت بر آن حمایت می‌کند، در حالی که اطمینان حاصل می‌شود که شرکت‌ها مزیت رقابتی خود را حفظ کنند. سم آلتمن از OpenAI و ایلان ماسک از xAI نیز از کاهش سرعت در سطح صنعت و نظارت مستقل مشابهی حمایت می‌کنند.

با این حال، علی‌رغم توافق بر سر اصول، هیچ سیستم اجرای مشترکی وجود ندارد. شیوه‌های ایمنی OpenAI تفاوت بین چارچوب‌های داخلی و مقررات خارجی را برجسته می‌کند، زیرا آن‌ها مدل‌هایی را که از آستانه ریسک متوسط فراتر می‌روند، بدون اقدامات مداخله‌ای کافی منتشر نخواهند کرد.

پیشنهاد کلارک مشخص‌تر از یک فراخوان کلی برای خاموش کردن سیستم در هنگام بروز نگرانی‌ها است. او راهی برای خاموش کردن کامل نرم‌افزار هوش مصنوعی در صورت خطرناک شدن بیش از حد، با امکان بررسی توسط شخص ثالث، توصیف کرد. عنصر مستقل مهم است زیرا قابلیت خاموش کردن داخلی تحت کنترل شرکتی است که مدل را اجرا می‌کند.

گزارش‌ها طراحی فنی مکانیزم‌های خاموش‌کننده موجود در آزمایشگاه‌های مختلف، نحوه تأیید مستقل آن‌ها، یا نحوه اجرای یک الزام مشترک را مشخص نمی‌کنند. دیدگاه کلارک مبنی بر اینکه قانون‌گذاران ممکن است نیاز به اجرای چنین قابلیتی داشته باشند، نشان می‌دهد که شواهد هیچ استاندارد اجباری در سطح صنعت ارائه نمی‌دهند.

نظارت مستقل نیز به طور مشابه یک پیشنهاد است تا یک سیستم عامل واحد که در سراسر صنعت به اشتراک گذاشته شده باشد. رهبران آزمایشگاه‌ها این مفهوم را تأیید کرده‌اند، اما گزارش‌های موجود هیچ مکانیزم مشترکی را که همه توسعه‌دهندگان پیشرو اتخاذ کرده باشند، شناسایی نمی‌کنند.

رقابت و نگرانی‌های ژئوپلیتیکی

ترامپ هوش مصنوعی را به عنوان یک رقابت می‌بیند که در آن پیشرفت سریع کلید برتری ملی است. در مقابل، رسانه‌های دولتی چین استدلال می‌کنند که نگرانی‌های آمریکا در مورد پیشرفت هوش مصنوعی چین ممکن است اولویت‌های سیاستی آن را منحرف کند. کارشناسانی مانند شین چیانگ از دانشگاه فودان معتقدند که مقامات آمریکایی نگرانند که کند شدن می‌تواند به چین اجازه دهد تا پیشی بگیرد.

این وضعیت تنش پیرامون محدودیت‌های داوطلبانه در توسعه هوش مصنوعی را برجسته می‌کند. در حالی که ذینفعان ممکن است بر سر نیاز به تدابیر حفاظتی توافق داشته باشند، نگرانی وجود دارد که چنین محدودیت‌هایی می‌تواند به رقبایی که به همان مقررات پایبند نیستند، سود برساند.

شواهد فعلی به جای اجماع روشن، به درگیری منافع اشاره دارد. ترامپ نیاز به مقررات سخت‌گیرانه‌تر را رد کرده است، و در حالی که برخی از رهبران اقداماتی را برای کند کردن توسعه و افزایش نظارت پیشنهاد می‌کنند، این اقدامات همچنان داوطلبانه و تأیید نشده باقی می‌مانند.

سوال اصلی سیاست این است که آیا اقدامات داوطلبانه به قوانین قابل اجرا تبدیل خواهند شد، به خصوص از آنجایی که اقدامات ایمنی می‌تواند بر منافع تجاری و سرعت توسعه تأثیر بگذارد.