‏یافته‌های ترسناک میتوسِ آنتروپیک با هوش مصنوعیِ آماده، تکرار شد، محققان می‌گویند.

‏زمانی که شرکت «آنتروپیک» در اوایل این ماه از مدل «کلود میتوس» رونمایی کرد، این مدل را به ائتلافی از غول‌های فناوری محدود کرد و آن را چیزی خطرناک برای عموم مردم معرفی کرد. «اسکات بسنت»، وزیر خزانه‌داری، و «جروم پاول»، رئیس فدرال رزرو، یک نشست اضطراری با مدیران عامل وال استریت برگزار کردند. عبارت «آخرالزمان آسیب‌پذیری» دوباره در محافل امنیتی مطرح شد.

و اکنون، تیمی از محققان این روایت را پیچیده‌تر کرده‌اند.

شرکت «ویدوک سکیوریتی» از نمونه‌های عمومی اصلاح‌شده خود «آنتروپیک» استفاده کرد و سعی کرد آن‌ها را با استفاده از «جی‌پی‌تی-5.4» و «کلود اپوس 4.6» در یک عامل کدنویسی منبع باز به نام «اوپن‌کد» بازتولید کند. بدون دعوت‌نامه «گلس‌وینگ». بدون دسترسی خصوصی به «ای‌پی‌آی». بدون دسترسی به ساختار داخلی «آنتروپیک».

«داوید موچادلو»، یکی از محققان درگیر در این آزمایش، پس از انتشار نتایج در «ایکس» نوشت: «ما یافته‌های میتوس را در اوپن‌کد با استفاده از مدل‌های عمومی، نه ساختار خصوصی آنتروپیک، بازتولید کردیم.» «یک راه بهتر برای خواندن انتشار میتوس آنتروپیک این است که بگوییم: “یک آزمایشگاه یک مدل جادویی دارد.” این است: اقتصاد کشف آسیب‌پذیری در حال تغییر است.»

ما یافته‌های میتوس را در اوپن‌کد با استفاده از مدل‌های عمومی، نه ساختار خصوصی آنتروپیک، بازتولید کردیم.

خندق از دسترسی به مدل به سمت اعتبارسنجی در حال حرکت است: یافتن سیگنال آسیب‌پذیری ارزان‌تر می‌شود. تبدیل آن به امنیت قابل اعتماد هنوز دشوار است.

یک راه بهتر برای خواندن انتشار میتوس آنتروپیک این است که…

موارد هدف‌گذاری‌شده

موارد مورد هدف آن‌ها همان مواردی بود که «آنتروپیک» در مطالب عمومی خود برجسته کرده بود: یک پروتکل اشتراک‌گذاری فایل سرور، ساختار شبکه‌ای یک سیستم عامل متمرکز بر امنیت، نرم‌افزار پردازش ویدئویی تعبیه‌شده در تقریباً تمام پلتفرم‌های رسانه‌ای، و دو کتابخانه رمزنگاری که برای تأیید هویت دیجیتال در سراسر وب استفاده می‌شود.

هم «جی‌پی‌تی-5.4» و هم «کلود اپوس 4.6» در هر سه اجرا، دو مورد اشکال را بازتولید کردند. «کلود اپوس 4.6» همچنین به‌طور مستقل یک اشکال را در «اوپن‌بی‌اس‌دی» سه بار متوالی دوباره کشف کرد، در حالی که «جی‌پی‌تی-5.4» در این مورد صفر گرفت. برخی از اشکالات (یکی مربوط به کتابخانه «اف‌اف‌ام‌پی‌گ» برای اجرای ویدئوها و دیگری مربوط به پردازش امضاهای دیجیتال با «وولف‌اس‌اس‌ال») جزئی بازگشتند – به این معنی که مدل‌ها سطح کد صحیح را پیدا کردند، اما علت اصلی دقیق را مشخص نکردند.

هر اسکن کمتر از 30 دلار برای هر فایل هزینه داشت، به این معنی که محققان توانستند همان آسیب‌پذیری‌های «آنتروپیک» را پیدا کنند و در عین حال کمتر از 30 دلار برای این کار هزینه کنند.

موچادلو در «ایکس» گفت: «مدل‌های هوش مصنوعی در حال حاضر به اندازه‌ای خوب هستند که فضای جستجو را محدود کنند، سرنخ‌های واقعی را آشکار کنند و گاهی اوقات علت اصلی کامل را در کد آزمایش‌شده بازیابی کنند.»

روش‌شناسی

گردش کاری که آن‌ها استفاده کردند یک درخواست تک‌شات نبود. این کار منعکس‌کننده چیزی بود که خود «آنتروپیک» به‌طور عمومی توصیف کرده بود: به مدل یک پایگاه کد بدهید، اجازه دهید آن را بررسی کند، تلاش‌ها را موازی کنید، و برای سیگنال فیلتر کنید. تیم «ویدوک» همان معماری را با ابزارهای باز ساخت. یک عامل برنامه‌ریزی هر فایل را به قطعات تقسیم کرد. یک عامل تشخیص جداگانه روی هر قطعه اجرا شد، سپس فایل‌های دیگر را در مخزن بررسی کرد تا یافته‌ها را تأیید یا رد کند.

محدوده‌های خطوط داخل هر درخواست تشخیص – به عنوان مثال، «روی خطوط 1158-1215 تمرکز کنید» – توسط محققان به‌صورت دستی انتخاب نشد. آن‌ها خروجی‌های مرحله برنامه‌ریزی قبلی بودند. پست وبلاگ این موضوع را صریح بیان می‌کند: «ما می‌خواهیم در این مورد صریح باشیم، زیرا استراتژی قطعه‌بندی شکل‌دهنده به آنچه هر عامل تشخیص می‌بیند، است و ما نمی‌خواهیم گردش کار را بیشتر از آنچه بود، به‌صورت دستی تنظیم‌شده نشان دهیم.»

این مطالعه ادعا نمی‌کند که مدل‌های عمومی در همه چیز با میتوس مطابقت دارند. مدل «آنتروپیک» فراتر از شناسایی اشکال «فری‌بی‌اس‌دی» رفت – یک طرح حمله کاری ساخت، و متوجه شد که چگونه یک مهاجم می‌تواند قطعات کد را در چندین بسته شبکه به هم متصل کند تا کنترل کامل دستگاه را از راه دور به دست گیرد. مدل‌های «ویدوک» این نقص را پیدا کردند. آن‌ها سلاح را نساختند. اینجاست که شکاف واقعی وجود دارد: نه در یافتن سوراخ، بلکه در دانستن دقیق نحوه عبور از آن.

اما استدلال موچادلو واقعاً این نیست که مدل‌های عمومی به همان اندازه قدرتمند هستند. این است که بخش گران‌قیمت گردش کار اکنون برای هر کسی که دارای کلید «ای‌پی‌آی» است در دسترس است: «خندق از دسترسی به مدل به سمت اعتبارسنجی در حال حرکت است: یافتن سیگنال آسیب‌پذیری ارزان‌تر می‌شود. تبدیل آن به کار امنیتی قابل اعتماد هنوز دشوار است.»

گزارش ایمنی خود «آنتروپیک» اذعان کرد که «سی‌بنچ»، معیار مورد استفاده برای اندازه‌گیری اینکه آیا یک مدل خطر امنیتی جدی دارد یا خیر، «دیگر برای قابلیت‌های مدل‌های مرزی فعلی به اندازه کافی آموزنده نیست» زیرا میتوس آن را به‌طور کامل پاک کرد. این آزمایشگاه تخمین زد که قابلیت‌های مشابه در عرض شش تا 18 ماه از آزمایشگاه‌های دیگر هوش مصنوعی گسترش می‌یابد.

مطالعه «ویدوک» نشان می‌دهد که جنبه کشف این معادله در حال حاضر خارج از هر برنامه بسته‌بندی‌شده در دسترس است. گزیده‌های کامل درخواست، خروجی‌های مدل و پیوست روش‌شناسی آن‌ها در سایت رسمی آزمایشگاه منتشر شده است.