‏ایکس از پرداخت به سازندگان محتوای جنگی هوش مصنوعی پنهان هشدار داد.

‏پلتفرم رسانه‌های اجتماعی X متعلق به ایلان ماسک اعلام کرد که سازندگان محتوا را از برنامه اشتراک درآمد خود تعلیق خواهد کرد، اگر ویدیوهای تولید شده توسط هوش مصنوعی را که درگیری مسلحانه را به تصویر می‌کشند، بدون افشای واضح اینکه این فیلم با استفاده از هوش مصنوعی ایجاد شده است، منتشر کنند.

بازنگری در سیاست‌ها

نیکیتا بیر، رئیس محصول X، روز سه‌شنبه اعلام کرد که این شرکت در حال بازنگری در سیاست‌های اشتراک درآمد سازندگان خود است تا اصالت را در جدول زمانی پلتفرم حفظ کند و «از دستکاری برنامه جلوگیری کند».

بیر نوشت: «در زمان جنگ، دسترسی مردم به اطلاعات معتبر در صحنه بسیار مهم است. با فناوری‌های هوش مصنوعی امروزی، ایجاد محتوایی که می‌تواند مردم را گمراه کند، کار آسانی است.»

بیر نوشت که سازندگانی که این قانون را نقض کنند، به مدت ۹۰ روز از دسترسی به برنامه اشتراک درآمد سازندگان پلتفرم محروم خواهند شد. تخلفات مکرر منجر به حذف دائمی از برنامه کسب درآمد خواهد شد.

نگرانی‌ها در مورد ویدیوهای جعلی

این تغییر سیاست در حالی رخ می‌دهد که ویدیوهای تولید شده توسط هوش مصنوعی ادعا می‌کنند صحنه‌هایی از تشدید خشونت در خاورمیانه را پس از حملات موشکی هفته گذشته توسط ایالات متحده، اسرائیل و ایران نشان می‌دهند.

روز دوشنبه، یک کلیپ تولید شده توسط هوش مصنوعی در X که حمله هوایی به برج خلیفه در دبی را نشان می‌داد، بیش از ۸ میلیون بار دیده شد. در همان زمان، نسخه دیگری از این کلیپ بیش از ۴۲۰۰۰ بار در اینستاگرام دیده شد.

سازمان ملل متحد هشدار داده است که دیپ‌فیک‌ها و رسانه‌های تولید شده توسط هوش مصنوعی، یکپارچگی اطلاعات را تهدید می‌کنند، به‌ویژه در مناطق درگیری که تصاویر یا ویدیوهای ساختگی می‌توانند نفرت یا اطلاعات نادرست را در مقیاس وسیع منتشر کنند.

این نگرانی در جریان تهاجم روسیه به اوکراین محقق شد، زمانی که یک ویدیوی دیپ‌فیک در اینترنت منتشر شد که ظاهراً ولودیمیر زلنسکی، رئیس‌جمهور اوکراین را نشان می‌داد که از نیروهای اوکراینی می‌خواهد تسلیم شوند. مقامات به سرعت این ویدیو را تکذیب کردند و زلنسکی بعداً پیامی را منتشر کرد که این ادعا را رد کرد.

اجرای سیاست‌ها

به گفته بیر، اجرا به چندین سیگنال متکی خواهد بود، از جمله پست‌هایی که یک یادداشت انجمن دریافت می‌کنند که ویدیو را به عنوان تولید شده توسط هوش مصنوعی شناسایی می‌کند، همراه با ابرداده یا سایر نشانه‌هایی که نشان می‌دهد فیلم با استفاده از ابزارهای هوش مصنوعی تولید شده است.

با مرتبط کردن اجرا به کسب درآمد، سیاست X به‌طور خاص بر انگیزه‌های مالی سازندگان برای انتشار ویدیوهای جعلی که کلیک‌ها و بازدیدها را افزایش می‌دهند، متمرکز است.

بیر نوشت: «ما به اصلاح سیاست‌ها و محصول خود ادامه خواهیم داد تا اطمینان حاصل کنیم که در این لحظات حساس می‌توان به X اعتماد کرد.»