‏چت‌بات‌های سیاسی هوش مصنوعی رأی‌دهندگان را تحت تأثیر قرار می‌دهند.

‏یافته‌های جدید از دانشگاه کرنل و مؤسسه امنیت هوش مصنوعی بریتانیا نشان می‌دهد که سیستم‌های هوش مصنوعی که به طور گسترده مورد استفاده قرار می‌گیرند، می‌توانند ترجیحات رای‌دهندگان را در تنظیمات انتخاباتی کنترل‌شده تا ۱۵ درصد تغییر دهند.

یافته‌های کلیدی

این یافته‌ها که در مجلات ساینس و نیچر منتشر شده‌اند، در حالی مطرح می‌شوند که دولت‌ها و محققان در حال بررسی چگونگی تأثیر هوش مصنوعی بر چرخه‌های انتخاباتی پیش رو هستند، و توسعه‌دهندگان نیز در تلاش برای حذف سوگیری از مدل‌های خود هستند که در اختیار مصرف‌کنندگان قرار می‌دهند.

محققان نوشتند: «نگرانی‌های عمومی زیادی در مورد استفاده احتمالی از هوش مصنوعی مولد برای متقاعدسازی سیاسی و تأثیرات ناشی از آن بر انتخابات و دموکراسی وجود دارد. ما با استفاده از آزمایش‌های از پیش ثبت‌شده، این نگرانی‌ها را با ارزیابی توانایی مدل‌های زبانی بزرگ برای تأثیرگذاری بر نگرش رای‌دهندگان، مورد بررسی قرار می‌دهیم.»

مطالعه‌ای در مجله نیچر، نزدیک به ۶۰۰۰ شرکت‌کننده را در ایالات متحده، کانادا و لهستان مورد آزمایش قرار داد. شرکت‌کنندگان یک نامزد سیاسی را ارزیابی کردند، با یک چت‌بات که از آن نامزد حمایت می‌کرد، صحبت کردند و دوباره نامزد را ارزیابی کردند.

در بخش ایالات متحده این مطالعه که شامل ۲۳۰۰ نفر قبل از انتخابات ریاست‌جمهوری ۲۰۲۴ بود، چت‌بات زمانی که با ترجیح اعلام‌شده شرکت‌کننده همسو بود، یک اثر تقویت‌کننده داشت. تغییرات بزرگتر زمانی رخ داد که چت‌بات از نامزدی حمایت می‌کرد که شرکت‌کننده با آن مخالف بود. محققان نتایج مشابهی را در کانادا و لهستان گزارش کردند.

این مطالعه همچنین نشان داد که پیام‌های متمرکز بر سیاست، تأثیرات متقاعدسازی قوی‌تری نسبت به پیام‌های مبتنی بر شخصیت ایجاد می‌کنند.

دقت در مکالمات متفاوت بود و چت‌بات‌هایی که از نامزدهای راست‌گرا حمایت می‌کردند، اظهارات نادرست بیشتری نسبت به آنهایی که از نامزدهای چپ‌گرا حمایت می‌کردند، ارائه می‌دادند.

محققان گفتند: «این یافته‌ها این مفهوم ناخوشایند را به همراه دارد که متقاعدسازی سیاسی توسط هوش مصنوعی می‌تواند از عدم تعادل در آنچه مدل‌ها می‌دانند، سوء استفاده کند و حتی تحت دستورالعمل‌های صریح برای راستگو ماندن، بی‌دقتی‌های نامنظم را گسترش دهد.»

یک مطالعه جداگانه در مجله ساینس، به بررسی علت وقوع متقاعدسازی پرداخت. این تحقیق ۱۹ مدل زبانی را با ۷۶۹۷۷ بزرگسال در بریتانیا در بیش از ۷۰۰ موضوع سیاسی مورد آزمایش قرار داد.

محققان نوشتند: «ترس‌های گسترده‌ای وجود دارد مبنی بر اینکه هوش مصنوعی محاوره‌ای به زودی می‌تواند نفوذ بی‌سابقه‌ای بر باورهای انسانی اعمال کند.»

آنها دریافتند که تکنیک‌های درخواست، تأثیر بیشتری بر متقاعدسازی نسبت به اندازه مدل داشتند. درخواست‌هایی که مدل‌ها را به معرفی اطلاعات جدید تشویق می‌کردند، متقاعدسازی را افزایش دادند اما دقت را کاهش دادند.

محققان نوشتند: «درخواست تشویق مدل‌های زبانی بزرگ به ارائه اطلاعات جدید، در متقاعد کردن مردم موفق‌ترین بود.»

هر دو مطالعه در حالی منتشر شدند که تحلیلگران و اندیشکده‌های سیاست‌گذاری در حال ارزیابی چگونگی دیدگاه رای‌دهندگان نسبت به ایده هوش مصنوعی در نقش‌های دولتی هستند.

نظرسنجی‌ها و دیدگاه‌ها

یک نظرسنجی اخیر توسط مؤسسه هارتلند و گزارش‌های راسموسن نشان داد که محافظه‌کاران جوان‌تر تمایل بیشتری نسبت به لیبرال‌ها برای اعطای اختیار به هوش مصنوعی در تصمیم‌گیری‌های مهم دولتی نشان می‌دهند. از پاسخ‌دهندگان ۱۸ تا ۳۹ ساله پرسیده شد که آیا یک سیستم هوش مصنوعی باید به هدایت سیاست‌های عمومی، تفسیر حقوق اساسی یا فرماندهی ارتش‌های بزرگ کمک کند. محافظه‌کاران بالاترین سطح حمایت را ابراز کردند.

دونالد کندال، مدیر مرکز مسائل نوظهور گلن سی. هاسکینز در مؤسسه هارتلند، گفت که رای‌دهندگان اغلب در مورد بی‌طرفی مدل‌های زبانی بزرگ اشتباه قضاوت می‌کنند.

کاندال به دکریپت گفت: «یکی از چیزهایی که من سعی می‌کنم به آن بپردازم، از بین بردن این توهم است که هوش مصنوعی بی‌طرف است. این بسیار واضح است که سوگیری دارد و بخشی از آن منفعل است.» وی افزود که اعتماد به این سیستم‌ها می‌تواند بی‌مورد باشد، زیرا تصمیمات آموزشی شرکت‌ها رفتار آنها را شکل می‌دهند.

وی گفت: «اینها شرکت‌های بزرگ دره سیلیکون هستند که این مدل‌ها را می‌سازند و ما از مناقشات سانسور فناوری در سال‌های اخیر دیده‌ایم که برخی از شرکت‌ها از فشار دادن انگشتان خود بر مقیاس از نظر محتوایی که در پلتفرم‌هایشان توزیع می‌شود، خجالت نکشیده‌اند. اگر همین مفهوم در مدل‌های زبانی بزرگ اتفاق بیفتد، پس ما یک مدل مغرضانه دریافت می‌کنیم.»