OpenAI برای مقابله با دخالت در انتخابات از طریق دیپ‌فیک تلاش می‌کند

OpenAI در تلاش است تا ابزارهایی را برای جلوگیری از سوءاستفاده عوامل مخرب از دیپ‌فیک‌ها در انتخابات آمریکا بسازد. با نزدیک شدن به انتخابات میان‌دوره‌ای نوامبر ۲۰۲۶، مولدهای تصویر مبتنی بر هوش مصنوعی به سطحی از واقع‌گرایی بی‌سابقه دست یافته‌اند.

گام‌های عملی در جهت حفظ یکپارچگی انتخابات

ملموس‌ترین اقدام در این زمینه، راه‌اندازی قابلیتی در ChatGPT در تاریخ ۱۱ اکتبر ۲۰۲۶ بود. این ویژگی جدید برای محدود کردن تولید تصاویر واقع‌گرایانه‌ای طراحی شده که می‌توانند رأی‌دهندگان را گمراه کنند. این محدودیت‌ها به طور خاص بر تصاویر مربوط به مکان‌های رأی‌گیری، برگه‌های رأی و لجستیک روز انتخابات متمرکز هستند.

این قابلیت اکتبر بخشی از یک استراتژی گسترده‌تر برای تضمین یکپارچگی انتخابات در سال ۲۰۲۶ است که OpenAI در ماه مه ۲۰۲۶ آن را تشریح کرد. این استراتژی ترکیبی از همکاری‌ها و اقدامات فنی را در بر می‌گیرد.

همکاری‌ها و استانداردهای فنی

در بخش همکاری‌ها، OpenAI با Democracy Works برای هدایت کاربران به سمت اطلاعات دقیق رأی‌گیری همکاری کرده است. همچنین با خبرگزاری Associated Press برای انتشار نتایج زنده انتخابات همکاری داشته است.

OpenAI در حال پیاده‌سازی فناوری واترمارکینگ SynthID با همکاری گوگل است و همچنین از استانداردهای فراداده C2PA پیروی می‌کند.

تعهد به قوانین و مقابله با نفوذ خارجی

OpenAI متعهد به حمایت از قانون “محافظت از انتخابات در برابر هوش مصنوعی فریبنده” (Protect Elections from Deceptive AI Act) شده است. این شرکت همچنین ابزارهای امنیت سایبری را در اختیار مقامات انتخاباتی قرار می‌دهد.

این شرکت از سال ۲۰۲۴ تا اکتبر ۲۰۲۶ به طور فعال عملیات نفوذ خارجی مرتبط با ایران و روسیه را مختل کرده است.

چالش‌های پیش رو و ارزیابی‌ها

در سپتامبر ۲۰۲۶، مرکز برنان برای عدالت (Brennan Center for Justice) مدل‌های هوش مصنوعی از جمله ChatGPT را مورد آزمایش قرار داد. ارزیابی این مرکز نشان داد که اقدامات امنیتی موجود قابل دور زدن هستند. آزمایش‌کنندگان توانستند با وجود محدودیت‌ها، تصاویر انتخاباتی جعلی و باورپذیر تولید کنند.

این آزمایش‌ها تقریباً یک ماه قبل از راه‌اندازی قابلیت ۱۱ اکتبر انجام شد. اینکه آیا محدودیت جدید شکاف‌های کشف شده توسط مرکز برنان را می‌بندد یا خیر، همچنان یک سوال بی‌پاسخ است.

توصیه‌ها و پیامدها

برای رأی‌دهندگان، پیامد عملی این وضعیت، هوشیاری است. برچسب‌ها، واترمارک‌ها و امتناع چت‌بات‌ها از پاسخگویی، خطر را کاهش می‌دهند، اما یافته‌های مرکز برنان نشان می‌دهد که این اقدامات خطر را به طور کامل از بین نمی‌برند.

برای صنعت هوش مصنوعی، حمایت OpenAI از قوانین فدرال نشان می‌دهد که حداقل یکی از بازیگران اصلی، قوانین را اجتناب‌ناپذیر می‌داند و می‌خواهد در شکل‌دهی به آن‌ها نقش داشته باشد. ساخت واترمارک‌ها، استانداردهای منشأ و ابزارهای تشخیص سوءاستفاده ارزان نیست و این می‌تواند موانعی برای توسعه‌دهندگان کوچک‌تر ایجاد کند.

آزمون کوتاه‌مدت، خود انتخابات میان‌دوره‌ای نوامبر ۲۰۲۶ است. OpenAI با همکاری‌ها، واترمارک‌ها، تعهدات سیاستی و یک محدودیت جدید در ChatGPT، خود را آماده کرده است. با این حال، مرکز برنان پیشتر نشان داده است که کاربران مصمم می‌توانند راهی برای دور زدن دفاعیه‌های مشابه پیدا کنند.