‏هوش مصنوعیِ «دسته جمعی» می‌تواند اطلاعات نادرست و دستکاری آنلاین را تشدید کند، محققان هشدار می‌دهند.

‏عصر بات‌نت‌های قابل شناسایی به پایان می‌رسد. این موضوع در گزارشی جدید که روز پنجشنبه در نشریه ساینس منتشر شد، اعلام گردید. محققان در این مطالعه هشدار دادند که کمپین‌های اطلاعات نادرست به سمت دسته‌های هوش مصنوعی خودکار در حال تغییر هستند که می‌توانند رفتار انسان را تقلید کنند، در زمان واقعی خود را تطبیق دهند و به نظارت انسانی کمی نیاز داشته باشند، که این امر تلاش‌ها برای شناسایی و متوقف کردن آن‌ها را پیچیده می‌کند.

این مقاله که توسط گروهی از محققان، از جمله محققانی از دانشگاه‌های آکسفورد، کمبریج، برکلی، نیویورک و موسسه ماکس پلانک نوشته شده است، محیط دیجیتالی را توصیف می‌کند که در آن دستکاری اطلاعات دشوارتر می‌شود. این کمپین‌های هوش مصنوعی، به جای انفجارهای کوتاه مدت مرتبط با انتخابات یا سیاست، می‌توانند یک روایت را برای مدت زمان طولانی‌تری حفظ کنند.

محققان نوشتند: «در دست دولت، چنین ابزارهایی می‌توانند مخالفت‌ها را سرکوب یا حامیان را تقویت کنند. بنابراین، استقرار هوش مصنوعی دفاعی تنها در صورتی می‌تواند در نظر گرفته شود که توسط چارچوب‌های سخت‌گیرانه، شفاف و پاسخگو به دموکراسی اداره شود.»

تعریف دسته‌ها

یک دسته، گروهی از عوامل هوش مصنوعی خودکار است که برای حل مشکلات یا تکمیل اهداف، کارآمدتر از یک سیستم واحد با هم کار می‌کنند. محققان گفتند که دسته‌های هوش مصنوعی بر نقاط ضعف موجود در پلتفرم‌های رسانه‌های اجتماعی تکیه می‌کنند، جایی که کاربران اغلب از دیدگاه‌های مخالف جدا می‌شوند.

آن‌ها نوشتند: «نشان داده شده است که اخبار دروغین سریع‌تر و گسترده‌تر از اخبار واقعی منتشر می‌شوند، واقعیت‌های پراکنده را عمیق‌تر کرده و پایه‌های مشترک واقعیت را تضعیف می‌کنند. شواهد اخیر، ارتباط بین مدیریت محتوای بهینه‌سازی شده برای تعامل و قطبی‌سازی را نشان می‌دهد، به طوری که الگوریتم‌های پلتفرم‌ها محتوای تفرقه‌انگیز را حتی به قیمت رضایت کاربر تقویت می‌کنند و این امر باعث تخریب بیشتر حوزه عمومی می‌شود.»

تغییرات در پلتفرم‌های بزرگ

به گفته شان رن، استاد علوم کامپیوتر در دانشگاه کالیفرنیای جنوبی و مدیر عامل شرکت ساهارا ای‌آی، این تغییر در حال حاضر در پلتفرم‌های بزرگ قابل مشاهده است و حساب‌های مبتنی بر هوش مصنوعی به طور فزاینده‌ای از کاربران عادی قابل تشخیص نیستند.

رن به دکریپت گفت: «من فکر می‌کنم احراز هویت دقیق‌تر حساب‌ها، یا همان کی‌یوسی (KYC)، در اینجا بسیار کمک خواهد کرد. اگر ایجاد حساب‌های جدید دشوارتر و نظارت بر هرزه‌نگاران آسان‌تر شود، برای عوامل بسیار دشوارتر می‌شود که از تعداد زیادی حساب برای دستکاری هماهنگ استفاده کنند.»

مقایسه کمپین‌های قدیمی و جدید

کمپین‌های نفوذ قبلی تا حد زیادی به مقیاس متکی بودند تا ظرافت، با هزاران حساب که پیام‌های یکسانی را به طور همزمان ارسال می‌کردند، که این امر شناسایی را نسبتاً ساده می‌کرد. در مقابل، این مطالعه می‌گوید، دسته‌های هوش مصنوعی «استقلال، هماهنگی و مقیاس بی‌سابقه‌ای» را نشان می‌دهند.

رن گفت که تعدیل محتوا به تنهایی بعید است که این سیستم‌ها را متوقف کند. او گفت، مشکل این است که پلتفرم‌ها چگونه هویت را در مقیاس مدیریت می‌کنند. او گفت، بررسی‌های قوی‌تر هویت و محدودیت‌ها در ایجاد حساب می‌تواند رفتار هماهنگ را آسان‌تر شناسایی کند، حتی زمانی که پست‌های فردی انسانی به نظر می‌رسند.

او گفت: «اگر عامل بتواند تنها از تعداد کمی حساب برای ارسال محتوا استفاده کند، شناسایی استفاده مشکوک و مسدود کردن آن حساب‌ها بسیار آسان‌تر است.»

راه‌حل‌های احتمالی

محققان به این نتیجه رسیدند که هیچ راه‌حل واحدی برای این مشکل وجود ندارد، و گزینه‌های احتمالی شامل بهبود شناسایی هماهنگی‌های غیرعادی آماری و شفافیت بیشتر در مورد فعالیت‌های خودکار است، اما می‌گویند که اقدامات فنی به تنهایی کافی نیستند.

به گفته رن، مشوق‌های مالی نیز همچنان یک عامل مداوم برای حملات دستکاری هماهنگ هستند، حتی با وجود اینکه پلتفرم‌ها اقدامات حفاظتی فنی جدیدی را معرفی می‌کنند.

او گفت: «این دسته‌های عامل معمولاً توسط تیم‌ها یا فروشندگانی کنترل می‌شوند که از طرف اشخاص یا شرکت‌های خارجی برای انجام دستکاری هماهنگ، مشوق‌های پولی دریافت می‌کنند. پلتفرم‌ها باید کی‌یوسی و مکانیسم‌های تشخیص هرزه‌نگاری قوی‌تری را برای شناسایی و فیلتر کردن حساب‌های دستکاری شده توسط عامل‌ها اعمال کنند.»