‏ایکس‌ای‌آی از مهار گرک خودداری می‌کند؛ دیپ‌فیک‌های غیرتوافقی جولان می‌دهند.

‏xAI الون ماسک، رویکرد حداکثری آزادی بیان را در تعدیل محتوا در پیش گرفته است، حتی در حالی که چت‌بات آن، Grok، دیپ‌فیک‌های بدون رضایت تولید می‌کند.

تولید دیپ‌فیک‌های غیراخلاقی

هر کسی می‌تواند Grok را در زیر یک عکس در X با دستوراتی مانند “او را در بیکینی قرار بده” یا “لباس‌هایش را بردار” تگ کند. هوش مصنوعی در عرض چند ثانیه یک دیپ‌فیک قانع‌کننده تولید می‌کند که برای همه در آن رشته قابل مشاهده است. هیچ نیازی به اجازه نیست.

خانم Teen Crypto، یک اینفلوئنسر زن در حوزه ارزهای دیجیتال، پس از انتشار عکسی با لباس ورزشی و فهمیدن اینکه کاربر دیگری به سادگی از Grok خواسته بود او را در بیکینی قرار دهد، در X نوشت: «الون ماسک. Grok چگونه می‌تواند این کار را انجام دهد؟ این بسیار نامناسب و ناراحت‌کننده است که من را در بیکینی از جلو و عقب نشان می‌دهد.»

البته برهنه کردن زنان بدون اجازه، آزاردهنده است، اما برخی از کاربران پا را فراتر گذاشته و چت‌بات را به نقض قوانین خدمات خود سوق داده‌اند.

به عنوان مثال، سامانتا تاگ‌هوی، که خود را روزنامه‌نگار و بازمانده سوء استفاده جنسی از کودکان معرفی می‌کند، یک عکس قدیمی از خود را در کودکی با لباس مراسم عشای ربانی آپلود کرد. با دستور او، Grok او را در بیکینی تجسم کرد.

او توییت کرد: «به عنوان یک روزنامه‌نگار و بازمانده سوء استفاده جنسی از کودکان، فکر کردم، «مطمئناً این نمی‌تواند واقعی باشد». بنابراین آن را با عکسی از اولین مراسم عشای ربانی خود آزمایش کردم. واقعی است. و لعنتی حال به هم زن است.»

Grok بعداً به دلیل تولید تصاویری از دختران 12 تا 16 ساله با لباس‌های کم، عذرخواهی کرد و آن را «اشکال در اقدامات احتیاطی» خواند که ممکن است قوانین ایالات متحده در مورد مواد سوء استفاده جنسی از کودکان را نقض کرده باشد. سیاست استفاده قابل قبول این شرکت صریحاً از جنسی کردن کودکان خردسال منع می‌کند.

با این حال، آنچه برخی آن را یک باگ می‌دانند، دیگران آن را یک منبع درآمد می‌بینند.

تعدادی از کاربران از Grok آزاد برای کسب و کارهای بزرگسالان خود استفاده می‌کنند، در حالی که دیگران از آن برای کسب امتیازات سیاسی استفاده می‌کنند.

خالقین OnlyFans و مدل‌های اروتیک از Grok برای بازاریابی ویروسی استفاده می‌کنند و با درخواست از کاربران برای استفاده از Grok برای برهنه کردن آن‌ها، میلیون‌ها بازدید به دست می‌آورند.

سوء استفاده سیاسی

کاربران با ذهنیت سیاسی بیشتر از Grok برای پیشبرد روایت‌های خاص استفاده می‌کنند.

در یک نمونه که به طور گسترده به اشتراک گذاشته شد، شخصی عکسی را آپلود کرد که پرچم‌های آمریکا و ایران را در کنار هم نشان می‌داد و از Grok خواست “پرچم کشوری را که مسئول کشتن بی‌گناهان در سراسر جهان است، حذف کند.”

در مثال دیگر، یک کاربر عکسی از دونالد ترامپ و پاف ددی را در کنار هم نشان داد و سپس از Grok خواست تا فرد متجاوز جنسی را در تصویر حذف کند.

واکنش‌ها

خود ماسک اهمیت استفاده از ابزارش برای تولید دیپ‌فیک‌های بدون رضایت را کم‌اهمیت جلوه داده و تصاویر بیکینی تولید شده توسط هوش مصنوعی از خودش و بازیگر بن افلک را بازنشر کرده است.

او عکسی از یک توستر در بیکینی را با این عنوان به اشتراک گذاشت: “Grok می‌تواند به هر چیزی بیکینی بپوشاند.”

اما دولت‌ها با قدرت پاسخ می‌دهند.

فرانسه این محتوا را به عنوان “به وضوح غیرقانونی” به دادستان‌ها گزارش کرده است. وزارت فناوری اطلاعات هند یک دستور 72 ساعته برای انطباق صادر کرد. بریتانیا از برنامه‌هایی برای ممنوعیت کامل ابزارهای برهنگی به عنوان بخشی از تلاش‌ها برای کاهش خشونت علیه زنان و دختران خبر داد.

پارسا تاجیک، کارمند xAI، اعلام کرد که این شرکت در حال بررسی “تشدید بیشتر اقدامات حفاظتی” است.

این شرکت پس از به دست گرفتن قدرت توسط ماسک، شورای اعتماد و ایمنی X را منحل کرد و در سال 2022 اکثر مهندسان تعدیل محتوا را اخراج کرد. زیرساخت‌های لازم برای اجرای قوی تقریباً وجود ندارد.

xAI ماسک، Grok را به عنوان هوش مصنوعی “جسور” معرفی کرده است که تجربه ChatGPT پالایش‌شده را به شما ارائه نمی‌دهد. در ماه اوت گذشته، این شرکت “حالت تند” را به طور خاص برای تولید محتوای NSFW راه‌اندازی کرد که سایر مدل‌ها به آن دست نمی‌زنند.