‏درون‌نگاهی به کلود میتوس: مدل محرمانهٔ جدید آنتروپیک و بازی شفافیتش

‏در رقابتی که بدون شک به سرعت در حال شدت گرفتن در زمینه هوش مصنوعی است، شرکت آنتروپیک پروژه «گلس‌وینگ» را معرفی کرده است که بر اساس مدل جدید «کلود میتوس پریویو» این شرکت بنا شده و نشان‌دهنده جاه‌طلبی و خویشتن‌داری است.

این ابتکار به عنوان گامی رو به جلو در درک سیستم‌های پیشرفته هوش مصنوعی معرفی شده و به هیچ وجه یک پروژه تحقیقاتی مجزا نیست – این پروژه به یک مدل کاملاً جدید مرتبط است که این شرکت عمداً آن را از دسترس عموم خارج نگه داشته است.

در دنیایی که جریان ثابتی از ابزارهای مبتنی بر هوش مصنوعی در دسترس قرار دارد، مدل جدید «کلود میتوس پریویو» آنتروپیک به طور قابل توجهی برای استفاده عموم منتشر نمی‌شود.

این ابتکار که تحت پوشش پروژه گلس‌وینگ قرار دارد، در اختیار غول‌های فناوری منتخب مانند آمازون وب سرویسز، اپل، برودکام، سیسکو، کروداسترایک، گوگل، جی‌پی‌مورگان چیس، بنیاد لینوکس، مایکروسافت، انویدیا و پالو آلتو نتورکس قرار خواهد گرفت، که آنتروپیک آن را «تلاشی برای ایمن‌سازی مهم‌ترین نرم‌افزارهای جهان» توصیف می‌کند.

تصمیم برای اجتناب از عرضه گسترده در بازار، بر تنش فزاینده‌ای در صنعت نرم‌افزار تأکید دارد – ایجاد تعادل بین نوآوری و ایمنی.

به نظر می‌رسد آنتروپیک رویکردی بسیار محتاطانه در پیش گرفته و تحلیل عمیق را بر استقرار سریع اولویت داده است. دلایل این امر توسط خود تیم تشریح شده است:

میتوس پریویو تاکنون هزاران آسیب‌پذیری با شدت بالا را شناسایی کرده است – از جمله مواردی در هر سیستم عامل و مرورگر وب اصلی.

هدف از پروژه

خود این مدل به عنوان یک مدل بسیار پیشرفته توصیف می‌شود که نه تنها برای عملکرد، بلکه برای قابلیت تفسیر نیز طراحی شده است. به عبارت ساده‌تر، این مدل به همان اندازه که برای استفاده ساخته شده، برای مطالعه نیز ساخته شده است. در واقع، آنتروپیک تا ۱۰۰ میلیون دلار اعتبار استفاده از میتوس پریویو را برای شرکای این پروژه اختصاص داده و متعهد شده است که یافته‌های خود را گزارش دهد.

در قلب پروژه گلس‌وینگ، هدف شناسایی آسیب‌پذیری‌ها و سوءاستفاده‌ها با استفاده از کلود میتوس پریویو است.

آنتروپیک فاش کرد که بسیاری از هزاران اشکالی که این مدل قبلاً شناسایی کرده، حیاتی بوده و تقریباً در هر سیستم عامل اصلی و هر مرورگر وب اصلی، همراه با تعداد زیادی نرم‌افزار مهم دیگر، یافت شده است. اینها آسیب‌پذیری‌های روز صفر بودند، به این معنی که این نقص‌ها قبلاً برای توسعه‌دهندگان نرم‌افزار ناشناخته بودند.

به عنوان مثال:

میتوس پریویو یک آسیب‌پذیری ۲۷ ساله در OpenBSD پیدا کرد – که به عنوان یکی از امن‌ترین سیستم‌های عامل در جهان شناخته می‌شود و برای اجرای فایروال‌ها و سایر زیرساخت‌های حیاتی استفاده می‌شود. این آسیب‌پذیری به یک مهاجم اجازه می‌داد تا با اتصال به آن، از راه دور هر دستگاهی را که سیستم عامل را اجرا می‌کند، از کار بیندازد.

تغییر رویکرد

از این نظر، گلس‌وینگ نشان‌دهنده یک تغییر مهم در نحوه برخورد فعلی با توسعه هوش مصنوعی است. آنتروپیک به جای مسابقه برای انتشار تواناترین سیستم‌ها، در ابتدا در درک آنها سرمایه‌گذاری می‌کند.