‏آنتراپیک از بازاریابی مبتنی بر ترس برای تبلیغ کلود میتوس استفاده می‌کند: سم آلتمن

‏سام آلتمن، مدیرعامل OpenAI، در برابر نگرانی‌های فزاینده در مورد مدل جدید و قدرتمند هوش مصنوعی کلود میتوس، محصول شرکت رقیب Anthropic، موضع گرفت و پیشنهاد داد که این شرکت از “ترس” برای بازاریابی محصول خود استفاده می‌کند.

انتقاد آلتمن از بازاریابی مبتنی بر ترس

آلتمن در مصاحبه با برنامه پادکست theCore Memory که توسط اشلی ونس، روزنامه‌نگار فناوری، میزبانی می‌شود، استدلال کرد که استفاده از “بازاریابی مبتنی بر ترس” با هدف نگه داشتن هوش مصنوعی در دست “گروهی کوچک‌تر از مردم” است.

آلتمن گفت: “شما می‌توانید این را به راه‌های مختلفی توجیه کنید و برخی از آن‌ها واقعی هستند، مانند اینکه نگرانی‌های ایمنی مشروعی وجود خواهد داشت.”

“اما اگر چیزی که می‌خواهید این است که ‘ما به کنترل هوش مصنوعی، فقط خودمان، نیاز داریم، زیرا ما افراد قابل اعتمادی هستیم’، فکر می‌کنم بازاریابی مبتنی بر ترس احتمالاً مؤثرترین راه برای توجیه آن است.”

آلتمن افزود که در حالی که نگرانی‌های معتبری در مورد ایمنی هوش مصنوعی وجود دارد، “این یک بازاریابی باورنکردنی است که بگوییم: ‘ما یک بمب ساخته‌ایم. ما در شرف انداختن آن بر سر شما هستیم. ما یک پناهگاه بمب به قیمت ۱۰۰ میلیون دلار به شما می‌فروشیم. شما به آن نیاز دارید تا در همه چیزتان اجرا شود، اما فقط در صورتی که ما شما را به عنوان مشتری انتخاب کنیم.’”

وی خاطرنشان کرد که “همیشه آسان نیست” که بین قابلیت‌های جدید هوش مصنوعی و اعتقاد OpenAI به اینکه این فناوری باید در دسترس باشد، تعادل برقرار کرد.

کلود میتوس و نگرانی‌های امنیتی

مدل کلود میتوس شرکت Anthropic که ماه گذشته معرفی شد، توجه شدیدی را از سوی محققان، دولت‌ها و صنعت امنیت سایبری به خود جلب کرده است، به‌ویژه پس از آنکه آزمایش‌ها نشان داد که می‌تواند به‌طور خودکار آسیب‌پذیری‌های نرم‌افزاری را شناسایی و عملیات سایبری پیچیده را اجرا کند. این مدل تنها از طریق یک برنامه محدود به مجموعه‌ای محدود از سازمان‌ها توزیع می‌شود.

این عرضه، منعکس‌کننده یک شکاف گسترده‌تر در صنعت هوش مصنوعی در مورد نحوه استقرار سیستم‌های قدرتمند است، به طوری که برخی از شرکت‌ها بر دسترسی کنترل‌شده تأکید می‌کنند و دیگران استدلال می‌کنند که توزیع گسترده‌تر برای تسریع نوآوری و درک فناوری ضروری است.

میتوس به کانون این بحث تبدیل شده است. قابلیت‌های این مدل توسط Anthropic هم به‌عنوان یک پیشرفت دفاعی – که امکان تشخیص سریع‌تر نقص‌های حیاتی نرم‌افزار را فراهم می‌کند – و هم به‌عنوان یک خطر بالقوه تهاجمی در صورت سوء استفاده، معرفی شده است. اوایل این ماه، این مدل صدها آسیب‌پذیری را در مرورگر فایرفاکس موزیلا در طول آزمایش شناسایی کرد و همچنین توانایی انجام شبیه‌سازی حملات سایبری چند مرحله‌ای را نشان داد.

Anthropic دسترسی به این سیستم را از طریق پروژه Glasswing محدود کرده و به شرکت‌های منتخب از جمله آمازون، اپل و مایکروسافت اجازه می‌دهد تا قابلیت‌های آن را آزمایش کنند. این شرکت همچنین منابع قابل توجهی را به حمایت از تلاش‌های امنیتی منبع باز اختصاص داده است و استدلال می‌کند که مدافعان باید قبل از اینکه این فناوری به‌طور گسترده‌تری در دسترس قرار گیرد، از آن بهره‌مند شوند.

این مدل همچنین محدودیت‌هایی را در سیستم‌های ارزیابی هوش مصنوعی موجود آشکار کرده است، به طوری که Anthropic اذعان می‌کند که بسیاری از معیارهای امنیت سایبری فعلی دیگر برای اندازه‌گیری قابلیت‌های جدیدترین سیستم آن کافی نیستند.

با این حال، گروهی از محققان هفته گذشته ادعا کردند که توانسته‌اند یافته‌های میتوس را با استفاده از مدل‌های در دسترس عموم بازتولید کنند.

واکنش‌های دولتی و پیش‌بینی‌ها

علیرغم درخواست‌هایی در بخش‌هایی از دولت ایالات متحده برای توقف استفاده از این فناوری به دلیل نگرانی‌ها در مورد کاربردهای احتمالی آن در جنگ و نظارت، آژانس امنیت ملی (NSA) طبق گزارش‌ها شروع به آزمایش نسخه پیش‌نمایش این مدل در شبکه‌های طبقه‌بندی‌شده کرده است. در بازار پیش‌بینی Myriad، متعلق به شرکت مادر Decrypt یعنی Dastan، کاربران شانس ۴۹ درصدی را برای انتشار کلود میتوس برای عموم تا ۳۰ ژوئن در نظر گرفته‌اند.

آلتمن پیشنهاد داد که سخنان پیرامون سیستم‌های هوش مصنوعی بسیار خطرناک ممکن است با بهبود قابلیت‌ها افزایش یابد، اما استدلال کرد که نباید همه این ادعاها را جدی گرفت.

وی گفت: “سخنان بیشتری در مورد مدل‌هایی که برای انتشار بسیار خطرناک هستند، وجود خواهد داشت. همچنین مدل‌های بسیار خطرناکی وجود خواهند داشت که باید به روش‌های مختلف منتشر شوند. من مطمئن هستم که میتوس یک مدل عالی برای امنیت سایبری است، اما فکر می‌کنم ما برنامه‌ای داریم که در مورد نحوه ارائه این نوع قابلیت به جهان احساس خوبی داریم.”

آلتمن همچنین پیشنهاداتی مبنی بر اینکه OpenAI در حال کاهش هزینه‌های زیرساختی خود است را رد کرد و گفت که این شرکت به گسترش ظرفیت محاسباتی خود علی‌رغم تغییر روایت‌ها ادامه خواهد داد.

وی گفت: “نمی‌دانم این از کجا می‌آید… مردم واقعاً می‌خواهند داستان عقب‌نشینی را بنویسند. اما خیلی زود دوباره این‌طور خواهد بود که ‘OpenAI خیلی بی‌پروا است. چگونه می‌توانند این مقدار دیوانه‌وار را خرج کنند؟’”