آلتمن: هوش مصنوعی از کنترل انسان خارج می‌شود

مدیرعامل OpenAI: شرکت‌های هوش مصنوعی باید توسعه را کند کنند و خودشان تدابیر ایمنی را تقویت کنند

سم آلتمن، مدیرعامل شرکت OpenAI، اعلام کرده است که شرکت‌های فعال در حوزه هوش مصنوعی باید توسعه سیستم‌های خود را کند کرده و پیش از وضع قوانین، تدابیر ایمنی را تقویت کنند.

آلتمن روز یکشنبه در پستی در شبکه اجتماعی X (توییتر سابق) هشدار داد که توسعه سریع هوش مصنوعی می‌تواند منجر به از دست رفتن کنترل آینده توسط انسان یا تمرکز بیش از حد قدرت در دست یک فرد یا شرکت شود. او دو سناریوی بسیار بد را که باید از آن‌ها اجتناب کرد، برشمرد.

وی نوشت: «اول، ما می‌توانیم کنترل آینده را به هوش مصنوعی واگذار کنیم. این غیرقابل قبول است؛ ما بی‌پرده در تیم بشریت هستیم و هوش مصنوعی باید همیشه در خدمت مردم باشد. برای اطمینان از این امر، ما به روش‌هایی نیاز داریم تا اطمینان حاصل کنیم که تکنیک‌های هم‌راستایی و ایمنی از پیشرفت قابلیت‌های مدل‌ها جلوتر بمانند.»

آلتمن در سناریوی دوم هشدار داد که قدرت می‌تواند در یک فرد یا شرکت متمرکز شود و به آن‌ها اجازه دهد تا از هوش مصنوعی فوق‌العاده قدرتمند برای تحمیل دیدگاه خود به دیگران استفاده کنند که نتایج بالقوه دیستوپیایی خواهد داشت.

او افزود: «اجتناب از این دو تهدید مستلزم پیمودن یک مسیر میانی باریک است؛ به عنوان مثال، یک کشور می‌تواند قدرت بیش از حد به دست آورد. مثال دیگر این است که یک آزمایشگاه قدرت بیش از حد به دست آورد.»

در پستی جداگانه، آلتمن گفت که شرکت‌های هوش مصنوعی آمریکایی باید به مردم اطمینان دهند که سیستم‌های با قابلیت فزاینده را به طور مسئولانه توسعه خواهند داد، زیرا پیشرفت شتاب می‌گیرد. این اظهارات پس از افزایش بحث‌ها در مورد چگونگی تنظیم مقررات هوش مصنوعی پیشرفته توسط دولت‌ها منتشر شد.

کند کردن روند توسعه، نه توقف آن

آلتمن تاکید کرد: «وقتی ما از «سرعت‌بخشی» صحبت می‌کنیم، منظورمان «توقف» نیست. پیشرفت سریع بوده و ادامه خواهد داشت. اما این روند باید کندتر از آنچه که می‌توانست باشد، پیش برود؛ مداخلاتی مانند موارد ایمنی و نظارت هزینه‌های قابل توجهی دارند.»

وی گفت که شرکت‌ها به ابزارهای جدیدی برای ارزیابی ایمنی در طول توسعه و ارزیابی هوش مصنوعی نیاز دارند و بررسی‌ها را فراتر از مدل‌های تکمیل شده که منتظر انتشار هستند، گسترش دهند.

آلتمن توضیح داد: «به عنوان مثال، ما در OpenAI اکنون موارد ایمنی صریحی را پیش از اجرای یادگیری تقویتی پیشرفته که انتظار داریم قابلیت‌ها را به طور قابل توجهی افزایش دهد، تدوین می‌کنیم، علاوه بر کار ایمنی که مدت‌هاست پیش از انتشار مدل‌ها انجام داده‌ایم.»

همکاری برای جلوگیری از اهداف متضاد با منافع انسانی

آلتمن از شرکت‌ها خواست تا برای جلوگیری از دنبال کردن اهدافی که با منافع انسانی در تضاد است، توسط سیستم‌های هوش مصنوعی، با یکدیگر همکاری کنند.

او نوشت: «امیدواریم شرکت‌های دیگر از رویکردهای ما بیاموزند و رویکردهای خود را پیشنهاد دهند؛ ما معتقدیم استانداردهای مشترک برای عدم هم‌راستایی، نظارت و ایمنی منجر به نتایج بهتری خواهد شد.»

در حالی که آلتمن از قوانین ایمنی فدرال و حسابرسان مستقل استقبال کرد، او از شرکت‌ها خواست تا بدون انتظار برای قانون‌گذاری یا معافیت ضد انحصار عمل کنند. این اظهارات پس از گزارش‌هایی منتشر شد که OpenAI از کنگره پرسیده بود آیا رقبا می‌توانند به طور قانونی برای کند کردن روند توسعه هماهنگ شوند.

آلتمن گفت: «جایی که ما به کمک دولت خود نیاز خواهیم داشت، هماهنگی بین‌المللی است. اما ابتدا باید آنچه را که می‌توانیم خودمان انجام دهیم.»

این اظهارات در پی شکست‌های تست امنیت سایبری در OpenAI و Anthropic مطرح شد. Anthropic پس از دسترسی Claude به سیستم‌های واقعی در طول تست‌ها بدون رعایت استانداردهای ایمنی محصول، اقدامات احتیاطی و نظارتی خود را تشدید کرد، در حالی که OpenAI یک مدل را ایزوله کرد و بزرگترین اجرای آموزشی برنامه‌ریزی شده خود را پس از هماهنگی عوامل برای تقلب در یک معیار و حمله به Hugging Face متوقف کرد.