مینه سوتا: گرِک xAI “بازار خشونت جنسی دیجیتال” ایجاد کرد

مینه‌سوتا در برابر تلاش xAI ایلان ماسک برای مسدود کردن قانون جدیدی که ابزارهای هوش مصنوعی تولیدکننده تصاویر جنسی واقعی از افراد قابل شناسایی را هدف قرار می‌دهد، ایستادگی می‌کند.

شکایت مینه‌سوتا علیه xAI

در دادخواستی که روز جمعه ثبت شد، دادستان کل مینه‌سوتا، کیت الیسون، استدلال کرد که xAI بعید است در چالش قانون اساسی خود موفق شود و نتوانسته است نشان دهد که اجرای قانون باعث آسیب جبران‌ناپذیر می‌شود.

الیسون نوشت: «X.AI با Grok Imagine، بازاری بی‌سابقه برای خشونت جنسی دیجیتال ایجاد کرده است که تقریباً هیچ مانعی برای ورود ندارد. این بازار، همراه با قابلیت‌های عملکردی Grok Imagine، اگر نتواند قوانین خود را به سمت فناوری‌ای هدایت کند که اساساً امکان قربانی شدن دیجیتال جنسی را فراهم می‌کند، مینه‌سوتا را از ابتدا محکوم خواهد کرد.»

این قانون که در ماه آوریل تصویب شد و از اول اوت اجرایی شد، پلتفرم‌ها و توسعه‌دهندگان نرم‌افزار را از اجازه دادن به کاربران برای ایجاد تصاویر واقعی که قسمت‌های صمیمی بدن را که در تصویر اصلی شخص قابل شناسایی وجود نداشته، نشان می‌دهند، منع می‌کند.

شکایت xAI علیه مینه‌سوتا

پیش از اجرای قانون، در ماه ژوئیه، xAI از الیسون شکایت کرد تا قانون را مسدود کند و استدلال کرد که این قانون متمم اول قانون اساسی را نقض می‌کند و می‌تواند در مورد تصاویر محافظت‌شده، از جمله مردان نیمه‌برهنه، شناگران و طنز سیاسی اعمال شود. جریمه نقض این قانون تا ۵۰۰ هزار دلار برای هر تصویر است.

xAI در شکایت خود نوشت: «هیچ پناهگاه امنی برای تلاش‌های حسن نیت ارائه‌دهنده ابزارهای خلاقانه هوش مصنوعی با کاربری عمومی برای اجتناب از آسیب وجود ندارد. مسئولیت حتی اگر افراد به تصویر کشیده شده رضایت داده باشند – یا خودشان تصویر را ایجاد کرده باشند – و حتی اگر تصویر هرگز به اشتراک گذاشته نشود، اعمال می‌شود.»

مینه‌سوتا این لایحه را با ۱۳۲ رأی موافق در برابر ۱ رأی مخالف در مجلس نمایندگان و ۶۵ رأی موافق در برابر ۰ رأی مخالف در سنا تصویب کرد، پس از آنکه قانون‌گذاران گزارش‌هایی از مردی شنیدند که از عکس‌های شبکه‌های اجتماعی برای ایجاد تصاویر جنسی بیش از ۸۰ زن آشنای خود استفاده کرده بود.

سناتور مِی کواد، که رهبری این تلاش را بر عهده داشت، در بیانیه‌ای در آن زمان گفت: «امروز، ما ملت را در حفاظت از زنان، کودکان و همه افراد در زندگی عمومی در برابر آسیب ناشی از فناوری برهنگی با هوش مصنوعی رهبری کردیم. شرکت‌هایی که این فناوری را به صورت رایگان آنلاین و در فروشگاه‌های اپلیکیشن در دسترس قرار می‌دهند، دیگر اجازه نخواهند داشت به شکارچیانی که با کلیک یک دکمه به بزرگسالان و کودکان سوءاستفاده و قربانی می‌کنند، یاری رسانند.»

این پرونده اکنون بر این موضوع متمرکز است که آیا قانون، گفتار را تنظیم می‌کند یا فناوری را.

سابقه Grok در تولید محتوای نامناسب

Grok همچنین به دلیل تولید دیپ‌فیک‌های صریح جنسی مورد بررسی قرار گرفته است.

در ماه ژانویه، یک نهاد ناظر تخمین زد که Grok در ۱۱ روز بیش از ۲۳ هزار تصویر جنسی از کودکان تولید کرده است که منجر به تحقیقات در چندین کشور شد.

در ماه مارس، سه نوجوان در کالیفرنیا به دیگران پیوستند و از xAI شکایت کردند و ادعا کردند که Grok برای تبدیل عکس‌هایشان به مواد سوءاستفاده جنسی از کودکان تولید شده با هوش مصنوعی استفاده شده است. xAI اعلام کرده است که بیش از ۵۰ هزار حساب کاربری را مسدود کرده و در سال ۲۰۲۶ بیش از ۷۰ هزار گزارش را به مرکز ملی کودکان گمشده و مورد سوءاستفاده قرار گرفته ارسال کرده است.