‏هکران دولتی از ابزارهای محبوب هوش مصنوعی، از جمله جمینی، استفاده می‌کنند، گوگل هشدار داد.

‏گروه اطلاعات تهدید گوگل (GTIG) بار دیگر در مورد خطرات هوش مصنوعی هشدار داده و آخرین گزارش خود را در مورد چگونگی استفاده از هوش مصنوعی توسط هکرهای خطرناک تحت حمایت دولت منتشر کرده است.

افزایش تلاش‌ها برای استخراج مدل

این تیم افزایش تلاش‌ها برای استخراج مدل را شناسایی کرده است، که روشی برای سرقت مالکیت فکری است که در آن فردی مکرراً یک مدل هوش مصنوعی را پرس و جو می‌کند و سعی دارد منطق داخلی آن را یاد بگیرد و آن را در یک مدل جدید تکرار کند.

استفاده از هوش مصنوعی توسط بازیگران تهدید

گزارش جدید گروه اطلاعات تهدید گوگل (GTIG) نحوه استفاده بازیگران تهدید از هوش مصنوعی را برای همه چیز از شناسایی پیشرفته گرفته تا فیشینگ و توسعه خودکار بدافزار تشریح می‌کند.

این گزارش در مورد چگونگی مقابله با این تهدیدات نیز توضیحاتی ارائه می‌دهد.

نگرانی‌ها در مورد دولت‌ها

اگرچه این موضوع نگران‌کننده است، اما این اصلی‌ترین خطری نیست که گوگل در مورد آن ابراز نگرانی می‌کند. این گزارش همچنین در مورد بازیگران تهدید تحت حمایت دولت که از مدل‌های زبانی بزرگ (LLM) برای تحقیقات فنی، هدف‌گیری و تولید سریع طعمه‌های فیشینگ ظریف استفاده می‌کنند، هشدار می‌دهد.

این گزارش بر نگرانی‌ها در مورد جمهوری دموکراتیک خلق کره، ایران، جمهوری خلق چین و روسیه تأکید می‌کند.

گزارش شده است که این بازیگران از ابزارهای هوش مصنوعی، مانند Gemini خود گوگل، برای شناسایی و مشخصات هدف، استفاده از جمع‌آوری اطلاعات منبع باز در مقیاس بزرگ و همچنین ایجاد کلاهبرداری‌های فیشینگ فوق‌شخصی استفاده می‌کنند.

هوش مصنوعی و فیشینگ

در گزارش گوگل آمده است: «این فعالیت، تغییری را به سمت فعال‌سازی فیشینگ با کمک هوش مصنوعی نشان می‌دهد، جایی که سرعت و دقت LLM می‌تواند از کار دستی که به طور سنتی برای مشخصات قربانی مورد نیاز است، عبور کند».

«اهداف مدت‌هاست که به نشانه‌هایی مانند گرامر ضعیف، نحو نامناسب یا فقدان زمینه فرهنگی برای کمک به شناسایی تلاش‌های فیشینگ متکی بوده‌اند. به طور فزاینده‌ای، بازیگران تهدید اکنون از LLMها برای تولید طعمه‌های فوق‌شخصی استفاده می‌کنند که می‌تواند لحن حرفه‌ای یک سازمان هدف را منعکس کند».

به عنوان مثال، اگر Gemini بیوگرافی یک هدف را دریافت کند، می‌تواند یک شخصیت خوب ایجاد کند و به بهترین شکل به تولید سناریویی کمک کند که به طور موثر توجه آنها را جلب کند. با استفاده از هوش مصنوعی، این بازیگران تهدید همچنین می‌توانند به طور موثرتری به زبان‌های محلی ترجمه کنند.

توسعه بدافزار

با افزایش توانایی هوش مصنوعی در تولید کد، این امر درها را برای استفاده مخرب از آن نیز باز کرده است، به طوری که این بازیگران با استفاده از عملکرد کدنویسی هوش مصنوعی، عیب‌یابی و تولید ابزارهای مخرب را انجام می‌دهند.

این گزارش همچنین در مورد افزایش علاقه به آزمایش با هوش مصنوعی عاملی هشدار می‌دهد. این نوعی هوش مصنوعی است که می‌تواند با درجه‌ای از استقلال عمل کند و از وظایفی مانند توسعه بدافزار و خودکارسازی آن پشتیبانی می‌کند.

اقدامات گوگل

گوگل به تلاش‌های خود برای مقابله با این مشکل از طریق عوامل مختلف اشاره می‌کند. این شرکت علاوه بر ایجاد گزارش‌های اطلاعات تهدید چندین بار در سال، تیمی دارد که به طور مداوم به دنبال تهدیدات است. گوگل همچنین در حال اجرای اقداماتی برای تقویت Gemini به مدلی است که نمی‌تواند برای اهداف مخرب استفاده شود.

از طریق Google DeepMind، این تیم تلاش می‌کند تا این تهدیدات را قبل از اینکه ممکن شود، شناسایی کند. در واقع، گوگل به دنبال شناسایی عملکردهای مخرب است و آنها را قبل از اینکه بتوانند خطری ایجاد کنند، حذف می‌کند.

اگرچه از این گزارش مشخص است که استفاده از هوش مصنوعی در چشم‌انداز تهدید افزایش یافته است، اما گوگل خاطرنشان می‌کند که هنوز هیچ قابلیت پیشرفتی وجود ندارد. در عوض، به سادگی افزایش استفاده از ابزارها و خطرات وجود دارد.