سندرز طرحی برای ممنوعیت توسعه هوش مصنوعی پیشرفته ارائه کرد

قانون منع هوش مصنوعی فراانسان و توقف موقت توسعه هوش مصنوعی پیشرفته

سناتور برنی سندرز (مستقل-ورمونت) و نماینده گرگ کاسار (دموکرات-تگزاس) روز پنجشنبه از طرحی قانونی خبر دادند که به موجب آن هوش مصنوعی فراانسان به طور دائم ممنوع و توسعه هوش مصنوعی پیشرفته به طور موقت متوقف خواهد شد. متخلفان با مجازات زندان تا ۲۰ سال روبرو خواهند شد.

قانون “منع هوش مصنوعی فراانسان” (Ban Artificial Superintelligence Act) توسعه هوش مصنوعی پیشرفته را تا زمانی که یک سازمان فدرال جدید، استانداردهای ایمنی و رویه‌هایی را برای بررسی مدل‌های هوش مصنوعی تعیین کند، به حالت تعلیق درمی‌آورد. سندرز شرکت‌های بزرگ هوش مصنوعی را به توسعه فناوری‌هایی متهم کرد که به طور کامل درک نمی‌کنند و قادر به کنترل قابل اعتماد آن‌ها نیستند.

سندرز در بیانیه‌ای مطبوعاتی گفت: «به همین دلیل است که من قانونی را برای توقف فوری توسعه هوش مصنوعی با قدرت فزاینده و ممنوعیت ایجاد سیستم‌هایی که بشریت نمی‌تواند به طور کامل آن‌ها را کنترل کند – در داخل و سراسر جهان – معرفی می‌کنم.»

این طرح، هوش مصنوعی فراانسان را به عنوان هوش مصنوعی تعریف می‌کند که در بسیاری از وظایف با توانایی‌های انسانی برابری می‌کند یا از آن‌ها فراتر می‌رود، یا می‌تواند کنترل انسانی را تضعیف کند، از جمله از طریق سرنگونی دولت ایالات متحده. این تعریف همچنین شامل هوش مصنوعی عمومی در سطح انسانی (AGI) می‌شود، اگرچه هوش مصنوعی فراانسان معمولاً به هوش مصنوعی اطلاق می‌شود که از قابلیت‌های انسانی فراتر می‌رود.

یک سازمان جدید در سطح کابینه، مدل‌های پیشرفته را نظارت خواهد کرد، بر حذف قابلیت‌های خطرناک نظارت خواهد داشت و بر نابودی سیستم‌های ممنوعه نظارت خواهد کرد. یک هیئت مشورتی هوش مصنوعی نیز مشاوره علمی و فنی ارائه خواهد داد.

شرکت‌هایی که محدودیت‌ها را نقض یا از آن‌ها اجتناب کنند، ممکن است با آنچه سندرز و کاسار “مجازات اعدام شرکتی” می‌نامند، روبرو شوند.

این خبر در حالی منتشر می‌شود که OpenAI از مدل GPT-6 Astra رونمایی کرده است، که گرگ براکمن، یکی از بنیان‌گذاران این شرکت، پیشنهاد کرد که ممکن است واجد شرایط AGI باشد.

طبق گزارش Axios، براکمن این ارزیابی را باور شخصی خود خواند و کاربران را به قضاوت در مورد اینکه آیا Astra با این تعریف مطابقت دارد یا خیر، واگذار کرد.

OpenAI اعلام کرده است که Astra اولین مدل این شرکت است که به آستانه “حیاتی” قابلیت‌های امنیت سایبری خود رسیده است. این عنوان به این معنی است که این مدل می‌تواند به طور بالقوه آسیب‌پذیری‌های ناشناخته در سیستم‌های محافظت شده را بدون راهنمایی گام به گام انسانی کشف و مورد سوء استفاده قرار دهد. قدرتمندترین قابلیت‌های امنیت سایبری آن برای آزمایش‌کنندگان منتخب محدود باقی خواهد ماند.

این لایحه در پی مجموعه‌ای از حوادثی مطرح می‌شود که در آن‌ها مدل‌های هوش مصنوعی در طول آزمایش به سیستم‌های کامپیوتری دنیای واقعی دسترسی غیرمجاز پیدا کردند.

در ماه ژوئیه، OpenAI تأیید کرد که مدل‌هایش برای دستیابی به پاسخ‌های آزمون به Hugging Face نفوذ کرده‌اند. سپس Anthropic فاش کرد که مدل‌های Claude پس از یک خطای آزمایشی که آن‌ها را در معرض اینترنت قرار داد، به سه شرکت نفوذ کرده‌اند. در ماه سپتامبر، Anthropic هم شکست‌های امنیتی و هم رفتاری را پذیرفت و اقدامات حفاظتی خود را تشدید کرد.

کاسار گفت: «علیرغم پیامدهای بالقوه مرگبار آن، فناوری پیشرفته هوش مصنوعی کمتر از یک کامیون مواد غذایی معمولی تنظیم شده است. این باید تغییر کند.»