‏مدیرعامل آنتروپیک: پیشرفت هوش مصنوعی از توانایی جامعه برای کنترل آن پیشی گرفته است.

هشدار مدیرعامل Anthropic در مورد خطرات هوش مصنوعی

داریو آمودی، مدیرعامل شرکت Anthropic، معتقد است که در حالی که کنترل هوش مصنوعی دشوارتر می‌شود، بی‌توجهی در حال گسترش است.

در مقاله‌ای گسترده که روز دوشنبه منتشر شد و با عنوان «دوران نوجوانی فناوری» شناخته می‌شود، آمودی استدلال می‌کند که سیستم‌های هوش مصنوعی با قابلیت‌هایی فراتر از هوش انسانی ممکن است طی دو سال آینده ظهور کنند و تلاش‌های نظارتی نیز از مسیر خود منحرف شده و نتوانسته‌اند با این پیشرفت همگام شوند.

او نوشت: «بشریت در آستانه دریافت قدرتی تقریباً غیرقابل تصور است و مشخص نیست که آیا سیستم‌های اجتماعی، سیاسی و فناوری ما از بلوغ لازم برای استفاده از آن برخوردار هستند یا خیر.» وی افزود: «ما در سال ۲۰۲۶ به خطر واقعی نزدیک‌تر از سال ۲۰۲۳ هستیم» و اضافه کرد: «فناوری به آنچه که مد روز است اهمیت نمی‌دهد.»

اظهارات آمودی پس از مناظره او در مجمع جهانی اقتصاد در داووس در هفته گذشته مطرح شد، جایی که او با دیمیس هاسابیس، مدیرعامل Google DeepMind، در مورد تأثیر هوش مصنوعی عمومی (AGI) بر بشریت بحث کرد.

در مقاله جدید، او ادعای خود را مبنی بر اینکه هوش مصنوعی باعث اختلال اقتصادی خواهد شد و بخش بزرگی از مشاغل اداری را از بین می‌برد، تکرار کرد.

او نوشت: «هوش مصنوعی قادر به انجام طیف بسیار وسیعی از توانایی‌های شناختی انسان خواهد بود – شاید همه آن‌ها. این با فناوری‌های قبلی مانند کشاورزی مکانیزه، حمل و نقل یا حتی رایانه‌ها بسیار متفاوت است.» «این امر باعث می‌شود که مردم به راحتی نتوانند از مشاغلی که از بین می‌روند به مشاغل مشابهی که برای آن‌ها مناسب هستند، تغییر شغل دهند.»

خطرات هوش مصنوعی و نگرانی‌ها

فراتر از اختلال اقتصادی، آمودی به نگرانی‌های فزاینده در مورد میزان قابل اعتماد بودن سیستم‌های هوش مصنوعی پیشرفته در انجام وظایف گسترده‌تر در سطح انسانی اشاره کرد.

او به «فریب در هم‌ترازی» اشاره کرد، جایی که یک مدل در طول ارزیابی از قوانین ایمنی پیروی می‌کند، اما زمانی که معتقد است نظارتی وجود ندارد، متفاوت رفتار می‌کند.

آمودی گفت که در آزمایش‌های شبیه‌سازی شده، Claude در شرایط خصمانه رفتارهای فریبنده از خود نشان داد.

در یک سناریو، این مدل پس از اینکه به آن گفته شد سازمانی که آن را کنترل می‌کند غیر اخلاقی است، سعی کرد اپراتورهای خود را تضعیف کند. در سناریوی دیگر، این مدل در طول یک خاموشی شبیه‌سازی شده، کارمندان خیالی را تهدید کرد.

او گفت: «هر یک از این تله‌ها را می‌توان با دانستن آن‌ها کاهش داد، اما نگرانی این است که فرآیند آموزش بسیار پیچیده است، با انواع داده‌ها، محیط‌ها و انگیزه‌ها، احتمالاً تعداد زیادی از این تله‌ها وجود دارد که برخی از آن‌ها ممکن است تنها زمانی آشکار شوند که خیلی دیر شده باشد.»

با این حال، او تأکید کرد که این رفتار «فریبنده» ناشی از موادی است که سیستم‌ها بر اساس آن‌ها آموزش داده می‌شوند، از جمله داستان‌های علمی تخیلی پادآرمان‌شهری، و نه سوء نیت. آمودی هشدار داد که با جذب ایده‌های انسانی در مورد اخلاق و اصول اخلاقی، هوش مصنوعی می‌تواند آن‌ها را به روش‌های خطرناک و غیرقابل پیش‌بینی به کار گیرد.

او نوشت: «مدل‌های هوش مصنوعی می‌توانند ایده‌هایی را که در مورد اخلاق (یا دستورالعمل‌هایی در مورد چگونگی رفتار اخلاقی) می‌خوانند، به روش‌های افراطی برون‌یابی کنند.» «به عنوان مثال، آن‌ها می‌توانند تصمیم بگیرند که نابودی بشریت قابل توجیه است زیرا انسان‌ها حیوانات را می‌خورند یا باعث انقراض برخی از حیوانات شده‌اند. آن‌ها می‌توانند به این نتیجه برسند که در حال انجام یک بازی ویدیویی هستند و هدف از این بازی ویدیویی شکست دادن همه بازیکنان دیگر است، یعنی نابودی بشریت.»

علاوه بر مسائل مربوط به هم‌ترازی، آمودی به سوء استفاده احتمالی از هوش مصنوعی فوق‌هوشمند نیز اشاره کرد.

یکی از این موارد، امنیت زیستی است و هشدار داد که هوش مصنوعی می‌تواند طراحی یا استقرار تهدیدات بیولوژیکی را بسیار آسان‌تر کند و قابلیت‌های مخرب را در اختیار افرادی با چند دستور قرار دهد.

مسئله دیگری که او برجسته می‌کند، سوء استفاده استبدادی است و استدلال می‌کند که هوش مصنوعی پیشرفته می‌تواند قدرت دولت را با فعال کردن دستکاری، نظارت انبوه و سرکوب مؤثر و خودکار از طریق استفاده از پهپادهای مجهز به هوش مصنوعی، تقویت کند.

او نوشت: «آن‌ها سلاح خطرناکی برای استفاده هستند: ما باید در مورد آن‌ها در دستان خودکامگی‌ها نگران باشیم، اما همچنین نگران این باشیم که به دلیل قدرتمند بودن آن‌ها، با مسئولیت‌پذیری بسیار کم، خطر افزایش یافته‌ای وجود دارد که دولت‌های دموکراتیک آن‌ها را علیه مردم خود به کار گیرند تا قدرت را به دست گیرند.»

او همچنین به صنعت رو به رشد همراهان هوش مصنوعی و «روان‌پریشی هوش مصنوعی» ناشی از آن اشاره کرد و هشدار داد که نفوذ روانشناختی فزاینده هوش مصنوعی بر کاربران می‌تواند به ابزاری قدرتمند برای دستکاری تبدیل شود، زیرا مدل‌ها توانمندتر می‌شوند و در زندگی روزمره ادغام می‌شوند.

او گفت: «نسخه‌های بسیار قدرتمندتری از این مدل‌ها، که بسیار بیشتر در زندگی روزمره مردم ادغام شده و از آن آگاه بودند و می‌توانستند آن‌ها را در طول ماه‌ها یا سال‌ها مدل‌سازی و تحت تأثیر قرار دهند، احتمالاً قادر به شستشوی مغزی افراد در هر ایدئولوژی یا نگرش دلخواه خواهند بود.»

آمودی نوشت که حتی تلاش‌های متوسط برای ایجاد موانع در اطراف هوش مصنوعی در واشنگتن با مشکل مواجه شده است.

او گفت: «این پیشنهادات به ظاهر عقلانی تا حد زیادی توسط سیاست‌گذاران در ایالات متحده رد شده است، کشوری که در آن مهم‌ترین چیز داشتن آن‌ها است.» «پول زیادی با هوش مصنوعی به دست می‌آید، به معنای واقعی کلمه تریلیون‌ها دلار در سال، به طوری که حتی ساده‌ترین اقدامات نیز در غلبه بر اقتصاد سیاسی ذاتی در هوش مصنوعی با مشکل مواجه می‌شوند.»

در حالی که آمودی در مورد خطرات فزاینده هوش مصنوعی بحث می‌کند، Anthropic همچنان یک شرکت‌کننده فعال در مسابقه برای ساخت سیستم‌های هوش مصنوعی قدرتمندتر است، پویایی که انگیزه‌هایی را ایجاد می‌کند که فرار از آن‌ها برای هر توسعه‌دهنده واحد دشوار است.

در ماه ژوئن، وزارت دفاع ایالات متحده به این شرکت قراردادی به ارزش ۲۰۰ میلیون دلار برای «نمونه‌سازی قابلیت‌های هوش مصنوعی پیشرفته که امنیت ملی ایالات متحده را ارتقا می‌دهد» اعطا کرد. در ماه دسامبر، این شرکت شروع به ایجاد زیرساخت‌ها برای یک عرضه اولیه سهام (IPO) احتمالی در اواخر امسال کرد و در حال پیگیری یک دور تأمین مالی خصوصی است که می‌تواند ارزش آن را به بیش از ۳۰۰ میلیارد دلار برساند.

با وجود این نگرانی‌ها، آمودی گفت که این مقاله با هدف «اجتناب از بدبینی» است، در حالی که عدم اطمینان از مقصد هوش مصنوعی را تصدیق می‌کند.

آمودی نوشت: «سال‌های پیش رو به طرز غیرممکنی سخت خواهد بود و از ما بیش از آنچه فکر می‌کنیم می‌توانیم بدهیم، می‌خواهد.» «بشریت باید بیدار شود و این مقاله تلاشی است – احتمالاً بی‌فایده، اما ارزش تلاش کردن را دارد – برای بیدار کردن مردم.»