‏ویدیوهای هوش مصنوعی «چیزهای عجیب» نگرانی‌های جدیدی را درباره‌ی دیپ‌فیک‌ها برانگیخت.

‏یک پست وایرال که حاوی ویدئویی بود که ظاهراً با استفاده از کنترل حرکت 2.6 هوش مصنوعی کلینگ ساخته شده بود، این هفته در شبکه‌های اجتماعی غوغا به پا کرد، زیرا کلیپی از ادِر خاویر، تولیدکننده محتوای برزیلی، نشان می‌داد که او بی‌نقص چهره و بدن خود را با بازیگران سریال «چیزهای عجیب» یعنی میلی بابی براون، دیوید هاربر و فین ولفهارد عوض می‌کند.

ویدئوها به طور گسترده در سراسر پلتفرم‌های اجتماعی پخش شده و بیش از 14 میلیون بار در X دیده شده‌اند و نسخه‌های دیگری نیز پس از آن منتشر شده است. این کلیپ‌ها همچنین توجه تکنسین‌ها را به خود جلب کرده است، از جمله جاستین مور، شریک a16z، که این ویدئو را از حساب اینستاگرام خاویر به اشتراک گذاشت.

مور نوشت: «ما برای سرعت تغییر خطوط تولید با هوش مصنوعی آماده نیستیم. برخی از جدیدترین مدل‌های ویدئویی پیامدهای فوری برای هالیوود دارند. تعویض شخصیت‌های بی‌پایان با هزینه‌ای ناچیز.»

از آنجایی که ابزارهای تولید تصویر و ویدئو همچنان در حال بهبود هستند، با مدل‌های جدیدتری مانند کلینگ، Veo 3.1 گوگل و Nano Banana، FaceFusion و Sora 2 اوپن‌ای‌آی که دسترسی به رسانه‌های مصنوعی باکیفیت را گسترش می‌دهند، محققان هشدار می‌دهند که تکنیک‌های دیده شده در کلیپ‌های وایرال احتمالاً به سرعت فراتر از دموهای مجزا گسترش می‌یابد.

سراشیبی لغزنده

در حالی که بینندگان از کیفیت ویدئوهای تعویض بدن شگفت‌زده شده بودند، کارشناسان هشدار می‌دهند که این امر بدون شک به ابزاری برای کلاهبرداری‌های جعل هویت تبدیل خواهد شد.

امانوئل سلیبا، مدیر ارشد تحقیقات در شرکت امنیت سایبری GetRealSecurity، به Decrypt گفت: «درها باز شده‌اند. سرقت شباهت دیجیتالی یک فرد – صدای او، چهره‌اش – و اکنون، زنده کردن آن با یک تصویر واحد، هرگز آسان‌تر نبوده است. هیچ‌کس در امان نیست.»

وی گفت: «ما شاهد سوءاستفاده سیستمی در هر مقیاسی، از مهندسی اجتماعی یک به یک گرفته تا کمپین‌های اطلاعات نادرست هماهنگ‌شده و حملات مستقیم به مشاغل و مؤسسات حیاتی خواهیم بود.»

به گفته سلیبا، ویدئوهای وایرال که بازیگران «چیزهای عجیب» را نشان می‌دهند، نشان می‌دهد که گاردریل‌های اطراف سوءاستفاده در حال حاضر چقدر نازک هستند.

وی گفت: «اکنون، با چند دلار، هر کسی می‌تواند ویدئوهای تمام‌قد یک سیاستمدار، سلبریتی، مدیرعامل یا فرد خصوصی را با استفاده از یک تصویر واحد تولید کند. هیچ محافظت پیش‌فرضی از شباهت دیجیتالی یک فرد وجود ندارد. هیچ اطمینانی از هویت وجود ندارد.»

یو چن، استاد مهندسی برق و کامپیوتر در دانشگاه بینگهمتون، می‌گوید تعویض شخصیت تمام‌قد فراتر از دستکاری چهره‌ای است که در ابزارهای دیپ‌فیک قبلی استفاده می‌شد و چالش‌های جدیدی را معرفی می‌کند.

چن به Decrypt گفت: «تعویض شخصیت تمام‌قد نشان‌دهنده تشدید قابل توجهی در قابلیت‌های رسانه‌های مصنوعی است. این سیستم‌ها باید به‌طور همزمان تخمین حالت، ردیابی اسکلتی، انتقال لباس و بافت و سنتز حرکت طبیعی را در سراسر فرم انسانی انجام دهند.»

علاوه بر «چیزهای عجیب»، سازندگان ویدئوهایی از لئوناردو دی‌کاپریو از فیلم «گرگ وال استریت» را نیز منتشر کردند که در آن چهره‌ها تعویض شده بود.

ما آماده نیستیم

هوش مصنوعی به تازگی دیپ‌فیک‌ها و تعویض شخصیت‌ها را دوباره تعریف کرد.
و انجام آن بسیار آسان است.
نمونه‌های وحشیانه. این را نشانه‌گذاری کنید.
[🎞️JulianoMass در اینستاگرام]

چن گفت: «فناوری‌های دیپ‌فیک قبلی عمدتاً در یک فضای دستکاری محدود عمل می‌کردند و بر جایگزینی ناحیه صورت تمرکز داشتند و بقیه فریم را تا حد زیادی دست‌نخورده باقی می‌گذاشتند. روش‌های تشخیص می‌توانستند از ناسازگاری‌های مرزی بین چهره مصنوعی و بدن اصلی و همچنین مصنوعات زمانی زمانی که حرکات سر با حرکت بدن همخوانی نداشت، سوءاستفاده کنند.»

چن ادامه داد: «در حالی که کلاهبرداری‌های مالی و جعل هویت همچنان نگران‌کننده هستند، چندین عامل سوءاستفاده دیگر نیز شایسته توجه هستند. تصاویر صمیمی غیرتوافقی نشان‌دهنده فوری‌ترین عامل آسیب است، زیرا این ابزارها مانع فنی برای ایجاد محتوای صریح مصنوعی با حضور افراد واقعی را کاهش می‌دهند.»

تهدیدهای دیگری که هم سلیبا و هم چن به آنها اشاره کردند شامل اطلاعات نادرست سیاسی و جاسوسی شرکتی است، با کلاهبردارانی که خود را به عنوان کارمندان یا مدیران عامل معرفی می‌کنند، کلیپ‌های «لو رفته» ساختگی را منتشر می‌کنند، کنترل‌ها را دور می‌زنند و اعتبارنامه‌ها را از طریق حملاتی که در آن «یک فرد قابل‌باور در ویدئو، سوءظن را به اندازه کافی کاهش می‌دهد تا به داخل یک کسب‌وکار حیاتی دسترسی پیدا کند»، جمع‌آوری می‌کنند.

مشخص نیست که استودیوها یا بازیگرانی که در ویدئوها به تصویر کشیده شده‌اند چگونه واکنش نشان خواهند داد، اما چن گفت که از آنجایی که کلیپ‌ها به مدل‌های هوش مصنوعی در دسترس عموم متکی هستند، توسعه‌دهندگان نقش مهمی در پیاده‌سازی اقدامات احتیاطی ایفا می‌کنند.

با این حال، وی گفت که مسئولیت باید در سراسر پلتفرم‌ها، سیاست‌گذاران و کاربران نهایی تقسیم شود، زیرا قرار دادن آن صرفاً بر عهده توسعه‌دهندگان ممکن است غیرقابل اجرا باشد و استفاده‌های مفید را خفه کند.

چن گفت که با گسترش این ابزارها، محققان باید مدل‌های تشخیصی را که امضاهای آماری ذاتی محتوای مصنوعی را شناسایی می‌کنند، در اولویت قرار دهند، نه اینکه به ابرداده‌های به راحتی حذف‌شدنی متکی باشند.

وی گفت: «پلتفرم‌ها باید در هر دو خط لوله تشخیص خودکار و ظرفیت بررسی انسانی سرمایه‌گذاری کنند، در حالی که رویه‌های تشدید واضحی را برای محتوای پرمخاطره که شامل چهره‌های عمومی یا کلاهبرداری احتمالی می‌شود، توسعه می‌دهند.» وی افزود که سیاست‌گذاران باید بر ایجاد چارچوب‌های مسئولیت‌پذیری روشن و الزام الزامات افشا تمرکز کنند.

چن گفت: «دموکراتیزه شدن سریع این قابلیت‌ها به این معنی است که چارچوب‌های پاسخگویی که امروز توسعه یافته‌اند، در عرض چند ماه، نه سال‌ها، در مقیاس مورد آزمایش قرار خواهند گرفت.»