‏هوش مصنوعی متا، بازرسان جرایم کودک‌آزاری را با اطلاعات بی‌ارزش بمباران می‌کند.

‏استفاده متا از هوش مصنوعی برای نظارت بر پلتفرم‌هایش، حجم زیادی از گزارش‌های بی‌کیفیت را تولید می‌کند که منابع را تحلیل برده و تحقیقات در مورد سوء استفاده از کودکان را کند می‌کند. این خبر بر اساس گزارشی از گاردین منتشر شده است.

شهادت مقامات مجری قانون

این خبر در حالی منتشر می‌شود که مقامات مجری قانون نیومکزیکو هفته گذشته شهادت دادند که گزارش‌های تولید شده توسط هوش مصنوعی، بازرسان را تحت فشار قرار داده و پرونده‌های سوء استفاده از کودکان را کند می‌کند.

افسران برنامه نیروی ویژه جرایم اینترنتی علیه کودکان (ICAC) به طور خاص به سیستم‌های خودکار متا اشاره کردند و گفتند که این سیستم‌ها هزاران نکته غیرقابل استفاده را هر ماه تولید می‌کنند که به مجریان قانون ارسال می‌شود.

بنجامین زویبل، یک مامور ویژه با نیروی ویژه ICAC در نیومکزیکو، در جریان محاکمه این شرکت در ایالت شهادت داد: «ما نکات زیادی از متا دریافت می‌کنیم که فقط آشغال هستند.»

یکی دیگر از افسران ICAC، که نخواست نامش فاش شود، به گاردین گفت که گزارش‌های سایبری این اداره از سال ۲۰۲۴ تا ۲۰۲۵ دو برابر شده است.

وی گفت: «این موضوع بسیار طاقت‌فرسا است زیرا ما گزارش‌های زیادی دریافت می‌کنیم، اما کیفیت گزارش‌ها واقعاً از نظر توانایی ما برای اقدام جدی، ضعیف است.»

پاسخ متا

در بیانیه‌ای که با دکریپت به اشتراک گذاشته شد، سخنگوی متا گفت که این شرکت مدت‌هاست با مجریان قانون همکاری می‌کند و خاطرنشان کرد که وزارت دادگستری و مرکز ملی کودکان گمشده و مورد سوء استفاده (NCMEC) از روند گزارش‌دهی آن تمجید کرده‌اند.

سخنگو گفت: «در سال ۲۰۲۴، ما بیش از ۹۰۰۰ درخواست اضطراری از مقامات ایالات متحده دریافت کردیم و آنها را در عرض ۶۷ دقیقه و حتی سریع‌تر برای موارد مربوط به ایمنی کودکان و خودکشی حل کردیم.»

وی افزود: «همچنین، مطابق با قانون قابل اجرا، ما تصاویر سوء استفاده جنسی از کودکان را به NCMEC گزارش می‌دهیم و از آنها حمایت می‌کنیم تا گزارش‌ها را اولویت‌بندی کنند، از کمک به ساخت ابزار مدیریت پرونده آنها گرفته تا برچسب‌گذاری نکات سایبری تا بدانند کدام موارد فوری هستند.»

با این حال، افسران ICAC گفتند که برخی از گزارش‌های ارسال شده توسط متا ماهیت جنایی ندارند، در حالی که برخی دیگر فاقد شواهد معتبری هستند که برای پیگیری یک پرونده مورد نیاز است.

قانون گزارش‌دهی

این افزایش پس از قانون گزارش‌دهی (Report Act) رخ می‌دهد که در ماه مه ۲۰۲۴ به قانون تبدیل شد و الزامات گزارش‌دهی را گسترش داد تا شامل سوء استفاده برنامه‌ریزی شده یا قریب‌الوقوع، قاچاق جنسی کودکان و سوء استفاده‌های مرتبط شود، در حالی که شرکت‌ها را ملزم به حفظ شواهد برای مدت طولانی‌تری می‌کند.

متا همچنان بزرگترین منبع گزارش‌ها به CyberTipline NCMEC است و حدود دو سوم از ۲۰.۵ میلیون نکته دریافت شده در سال ۲۰۲۴ را به خود اختصاص داده است که نسبت به ۳۶.۲ میلیون در سال ۲۰۲۳ کاهش داشته است. این کاهش تا حدی به تغییرات در شیوه‌های گزارش‌دهی متا نسبت داده شده است.

در گزارش یکپارچگی خود در آگوست ۲۰۲۵، متا اعلام کرد که فیس‌بوک، اینستاگرام و تردز در سه ماهه دوم سال ۲۰۲۵ بیش از ۲ میلیون گزارش CyberTip را به NCMEC ارسال کرده‌اند. از این تعداد، بیش از ۵۲۸۰۰۰ مورد شامل تعاملات نامناسب با کودکان بود، در حالی که بیش از ۱.۵ میلیون مورد شامل اشتراک‌گذاری یا اشتراک‌گذاری مجدد مطالب سوء استفاده جنسی از کودکان بود.

تاثیر هوش مصنوعی

با وجود این آمار، جی‌بی برانچ، مدافع سیاست در Public Citizen، گفت که اتکای فزاینده به هوش مصنوعی باعث شده است که قانون گزارش‌دهی برای بازرسان بررسی پرونده‌ها کارایی کمتری داشته باشد و استدلال کرد که در حالی که الگوریتم‌ها مدت‌هاست به کاهش حجم کار تعدیل‌کنندگان کمک کرده‌اند، بازبینان انسانی مؤثرترین فیلتر بوده‌اند.

برانچ به دکریپت گفت: «بخشی از مشکل این است که بسیاری از این شرکت‌های فناوری تعدیل‌کنندگان محتوا را اخراج کرده و آنها را با ویژگی‌های امنیتی هوش مصنوعی جایگزین کرده‌اند. در نتیجه، تعداد زیادی مثبت کاذب به دلیل احتیاط بیش از حد انتخاب می‌شوند.»

برانچ گفت که در گذشته، معمولاً بازبینان انسانی بیشتری در زنجیره بررسی وجود داشتند که می‌توانستند محتوایی را که مستحق ارتقا نبود، شناسایی و حذف کنند.

وی گفت: «از آنجایی که این شرکت‌ها تعدیل‌کنندگان یا بازبینان محتوای انسانی را از زنجیره حذف کرده‌اند، موارد بسیار بیشتری در حال عبور هستند زیرا می‌خواهند جانب احتیاط را رعایت کنند. آنها اساساً یک تور گسترده‌تر را می‌کشند و چیزهایی را که حتی واجد شرایط نیستند، به دام می‌اندازند و به شدت به ابزارهای هوش مصنوعی برای انجام این کار متکی هستند.»

بازرسان می‌گویند که تأثیر نکات معیوب تولید شده توسط هوش مصنوعی اکنون در داخل نیروهای ویژه‌ای که آنها را بررسی می‌کنند، احساس می‌شود.

یک افسر ICAC گزارش داد: «این موضوع روحیه را از بین می‌برد. ما در حال غرق شدن در نکات هستیم و می‌خواهیم بیرون برویم و این کار را انجام دهیم. ما پرسنل لازم برای حفظ این وضعیت را نداریم. هیچ راهی وجود ندارد که بتوانیم با سیل ورودی همگام باشیم.»