شرکت هوش مصنوعی آنتروپیک، سازنده چت‌بات کلود، روز جمعه مجموعه‌ای از اقدامات جدید برای حفظ یکپارچگی انتخابات را اعلام کرد. این اقدامات با هدف جلوگیری از سوءاستفاده از هوش مصنوعی این شرکت برای انتشار اطلاعات نادرست یا دستکاری رأی‌دهندگان در آستانه انتخابات میان‌دوره‌ای سال ۲۰۲۶ ایالات متحده و سایر رقابت‌های مهم در سراسر جهان در سال جاری طراحی شده‌اند.
رویکرد چندجانبه
این شرکت مستقر در سان فرانسیسکو، رویکردی چندجانبه را تشریح کرد که شامل سیستم‌های تشخیص خودکار، آزمایش‌های استرس در برابر عملیات نفوذ و مشارکت با یک سازمان منابع رأی‌دهی غیرحزبی است. این اقدامات نشان‌دهنده فشار فزاینده بر توسعه‌دهندگان هوش مصنوعی برای نظارت بر نحوه استفاده از ابزارهایشان در طول فصل انتخابات است.
سیاست‌های استفاده
سیاست‌های استفاده آنتروپیک، استفاده از کلود را برای راه‌اندازی کمپین‌های سیاسی فریبنده، تولید محتوای دیجیتالی جعلی با هدف تأثیرگذاری بر گفتمان سیاسی، ارتکاب تقلب در رأی‌دهی، مداخله در زیرساخت‌های رأی‌گیری یا انتشار اطلاعات گمراه‌کننده در مورد فرآیندهای رأی‌گیری ممنوع می‌کند.
آزمایش مدل‌ها
برای اجرای این قوانین، این شرکت اعلام کرد که جدیدترین مدل‌های خود را تحت مجموعه‌ای از آزمایش‌ها قرار داده است. با استفاده از ۶۰۰ درخواست – ۳۰۰ درخواست مضر همراه با ۳۰۰ درخواست قانونی – آنتروپیک میزان اطمینان کلود را در پاسخ به درخواست‌های مناسب و رد درخواست‌های مشکل‌ساز اندازه‌گیری کرد. کلود اوپوس ۴.۷ و کلود سونِت ۴.۶ به ترتیب در ۱۰۰٪ و ۹۹.۸٪ مواقع به درستی پاسخ دادند.
مقابله با تاکتیک‌های پیچیده
این شرکت همچنین مدل‌های خود را در برابر تاکتیک‌های دستکاری پیچیده‌تر آزمایش کرد. با استفاده از مکالمات شبیه‌سازی‌شده چند مرحله‌ای که برای تقلید از روش‌های گام به گام بازیگران بد طراحی شده‌اند، سونِت ۴.۶ و اوپوس ۴.۷ در ۹۰٪ و ۹۴٪ مواقع در برابر سناریوهای عملیات نفوذ به درستی پاسخ دادند.
عملیات نفوذ خودکار
آنتروپیک همچنین آزمایش کرد که آیا مدل‌هایش می‌توانند به طور مستقل عملیات نفوذ را انجام دهند – برنامه‌ریزی و اجرای یک کمپین چند مرحله‌ای بدون درخواست انسانی. این شرکت اعلام کرد که با وجود اقدامات احتیاطی، جدیدترین مدل‌های آن تقریباً هر وظیفه‌ای را رد کردند.
بی‌طرفی سیاسی
در مورد بی‌طرفی سیاسی، این شرکت قبل از راه‌اندازی هر مدل، ارزیابی‌هایی را انجام می‌دهد تا اندازه‌گیری کند که کلود با چه میزان ثبات و بی‌طرفی با درخواست‌هایی که دیدگاه‌های سراسر طیف سیاسی را بیان می‌کنند، تعامل دارد. اوپوس ۴.۷ و سونِت ۴.۶ به ترتیب ۹۵٪ و ۹۶٪ امتیاز کسب کردند.
منابع رأی‌دهی
برای کاربرانی که به دنبال اطلاعات رأی‌دهی هستند، کلود یک بنر انتخاباتی را نمایش می‌دهد که آن‌ها را به توربوووت، یک منبع غیرحزبی از دموکراسی ورکس، هدایت می‌کند. این منبع اطلاعات قابل اعتماد و به‌روز در مورد ثبت‌نام رأی‌دهندگان، مکان‌های رأی‌گیری، تاریخ انتخابات و جزئیات برگه رأی ارائه می‌دهد. یک بنر مشابه برای انتخابات برزیل در اواخر سال جاری برنامه‌ریزی شده است.
آنتروپیک اعلام کرد که قصد دارد به نظارت بر سیستم‌های خود و اصلاح دفاعیات خود با پیشرفت چرخه انتخابات ادامه دهد. دکریپت برای دریافت نظرات در مورد این یافته‌ها با آنتروپیک تماس گرفت، اما فوراً پاسخی دریافت نکرد.
Leave a Reply