دهه‌هاست که مهاجمان در امنیت سایبری برتری داشته‌اند. هوش مصنوعی ممکن است در شرف تغییر این وضعیت باشد.
کشف آسیب‌پذیری‌ها در فایرفاکس
در یک پست وبلاگی که روز سه‌شنبه منتشر شد، موزیلا، توسعه‌دهنده مرورگر فایرفاکس، اعلام کرد که یک نسخه اولیه از مدل هوش مصنوعی کلود میتوس (Claude Mythos) شرکت آنتروپیک (Anthropic) – که در هفته‌های اخیر به دلیل توانایی‌های سایبری خود مورد توجه قرار گرفته است – به شناسایی ۲۷۱ آسیب‌پذیری در این مرورگر در طول آزمایش‌های داخلی کمک کرده است. این باگ‌ها این هفته وصله شدند.
نتایج نشان می‌دهد که چگونه سیستم‌های هوش مصنوعی پیشرفته می‌توانند پایگاه‌های کد بزرگ را تجزیه و تحلیل کرده و نقاط ضعفی را شناسایی کنند که قبلاً به بررسی دستی گسترده توسط محققان امنیت سایبری انسانی نیاز داشت.
موزیلا نوشت: «با رسیدن این قابلیت‌ها به دست مدافعان بیشتر، بسیاری از تیم‌های دیگر اکنون همان سرگیجه‌ای را تجربه می‌کنند که ما در ابتدا با دیدن این یافته‌ها تجربه کردیم. برای یک هدف سخت‌شده، تنها یک باگ از این دست در سال ۲۰۲۵ یک هشدار قرمز بود، و تعداد زیاد آنها در یک زمان باعث می‌شود که شما متوقف شوید و تعجب کنید که آیا اصلاً می‌توان با این سرعت پیش رفت.»
موزیلا پیش از این یک مدل دیگر از آنتروپیک را آزمایش کرده بود که ۲۲ باگ حساس به امنیت را در یک نسخه قبلی فایرفاکس شناسایی کرد. با وجود این موفقیت‌ها، موزیلا اذعان کرد که صنعت امنیت سایبری مدت‌هاست که حذف کامل سوءاستفاده‌های نرم‌افزاری را به عنوان یک «هدف غیرواقعی» تلقی می‌کند.
این شرکت نوشت: «تاکنون، این صنعت تا حد زیادی در امنیت به یک تساوی رسیده است. فروشندگان نرم‌افزارهای حیاتی در معرض اینترنت مانند فایرفاکس، امنیت را بسیار جدی می‌گیرند و تیم‌هایی از افراد دارند که هر روز صبح با این فکر از خواب بیدار می‌شوند که چگونه کاربران را ایمن نگه دارند.»
موزیلا گفت که سیستم هوش مصنوعی جدید می‌تواند کد منبع را تجزیه و تحلیل کرده و آسیب‌پذیری‌ها را به روش‌هایی شناسایی کند که قبلاً به تخصص انسانی کمیاب وابسته بود. با این حال، موزیلا گفت که این شرکت از دیدن این موضوع که هیچ باگی پیدا نشده است که توسط «یک محقق انسانی نخبه» قابل کشف نباشد، دلگرم شده است.
آنها گفتند: «برخی از مفسران پیش‌بینی می‌کنند که مدل‌های هوش مصنوعی آینده، اشکال کاملاً جدیدی از آسیب‌پذیری‌ها را کشف خواهند کرد که درک فعلی ما را به چالش می‌کشد، اما ما اینطور فکر نمی‌کنیم. نرم‌افزاری مانند فایرفاکس به روشی مدولار طراحی شده است تا انسان‌ها بتوانند در مورد درستی آن استدلال کنند. پیچیده است، اما نه به طور دلخواه.»
با این حال، نتایج نشان می‌دهد که ابزارهای هوش مصنوعی می‌توانند به توسعه‌دهندگان اجازه دهند تعداد زیادی از آسیب‌پذیری‌ها را قبل از سوءاستفاده مهاجمان از آنها کشف کنند – اگرچه برعکس، در دستان اشتباه، می‌تواند برای شرکت‌های نرم‌افزاری و کاربران به طور یکسان مشکل بزرگی ایجاد کند.
میتوس: یک مدل پیشرفته
میتوس که در ماه مارس راه‌اندازی شد، پیشرفته‌ترین مدل آنتروپیک برای استدلال، کدنویسی و وظایف امنیت سایبری است. مواد داخلی شرکت این سیستم را به عنوان بخشی از یک رده مدل جدید فراتر از سری Opus قبلی این شرکت توصیف می‌کنند.
آزمایش‌هایی که قبل از انتشار این مدل انجام شد، نشان داد که می‌تواند هزاران آسیب‌پذیری ناشناخته قبلی را در سیستم‌عامل‌های اصلی و مرورگرهای وب شناسایی کند.
آنتروپیک دسترسی محدودی به این سیستم از طریق یک برنامه محدود به نام Project Glasswing دارد که به شرکت‌های فناوری منتخب – از جمله آمازون، اپل و مایکروسافت – این امکان را می‌دهد که از این مدل برای اسکن نرم‌افزارها به منظور یافتن نقاط ضعف استفاده کنند. این امر نشان‌دهنده تلاش فزاینده در صنعت امنیت سایبری برای استفاده از سیستم‌های هوش مصنوعی برای شناسایی و وصله کردن آسیب‌پذیری‌ها قبل از اینکه مهاجمان بتوانند از آنها سوءاستفاده کنند، است.
با این حال، همین فناوری می‌تواند اشکال جدیدی از حملات سایبری را نیز فعال کند. محققان امنیتی می‌گویند سیستم‌های هوش مصنوعی که قادر به تجزیه و تحلیل کد در مقیاس وسیع هستند، می‌توانند کشف آسیب‌پذیری‌های قابل سوءاستفاده را در نرم‌افزارهای پرکاربرد خودکار کنند.
پس از راه‌اندازی میتوس، آزمایش توسط مؤسسه امنیت هوش مصنوعی بریتانیا نشان داد که هوش مصنوعی می‌تواند به طور مستقل عملیات سایبری پیچیده‌ای را اجرا کند، از جمله تکمیل یک شبیه‌سازی حمله شبکه شرکتی چند مرحله‌ای بدون کمک انسان. این قابلیت‌ها توجه دولت‌ها و سازمان‌های اطلاعاتی را به خود جلب کرده است.
استفاده از میتوس در آژانس امنیت ملی آمریکا
با وجود درخواست دولت دونالد ترامپ برای توقف استفاده از فناوری آنتروپیک به دلیل اختلاف نظر در مورد استفاده از آن در جنگ و مسائل نظارتی، روز دوشنبه، آژانس امنیت ملی آمریکا (NSA) فاش کرد که در حال اجرای Claude Mythos Preview در شبکه‌های طبقه‌بندی‌شده است، به گفته منابع آگاه از این استقرار. استفاده از میتوس بر علاقه فزاینده آژانس‌های امنیتی ایالات متحده به توانایی این مدل در شناسایی آسیب‌پذیری‌های نرم‌افزاری حیاتی تأکید دارد.
عملکرد این مدل همچنین محدودیت‌هایی را در سیستم‌های ارزیابی هوش مصنوعی موجود نشان داده است. اوایل این ماه، آنتروپیک اذعان کرد که چندین معیار امنیت سایبری دیگر برای اندازه‌گیری قابلیت‌های جدیدترین مدل‌های آن کافی نیستند.
موزیلا گفت که نتایج به یک تغییر احتمالی در امنیت سایبری اشاره دارد، جایی که مدافعان ممکن است شروع به بستن برتری دیرینه مهاجمان کنند.
موزیلا نوشت: «ما فوق‌العاده به این افتخار می‌کنیم که تیم ما چگونه برای مقابله با این چالش برخاست، و دیگران نیز همین کار را خواهند کرد. کار ما تمام نشده است، اما ما این پیچ را رد کرده‌ایم و می‌توانیم آینده‌ای بسیار بهتر از صرفاً همگام بودن را ببینیم. مدافعان سرانجام این شانس را دارند که قاطعانه پیروز شوند.»
موزیلا بلافاصله به درخواست برای اظهار نظر توسط Decrypt پاسخ نداد.
