‏روبلاکس از هوش مصنوعی برای بازنویسی فحش‌ها و توهین‌ها در چت، در لحظه، استفاده می‌کند.

جایگزینی فیلترهای فحش با بازنویسی هوش مصنوعی

پلتفرم بازی آنلاین محبوب Roblox، روز پنجشنبه اعلام کرد که رشته‌های علامت هشتگ که هنگام شناسایی فحش در فیلترهای چت ظاهر می‌شوند را با نسخه‌های بازنویسی‌شده توسط هوش مصنوعی از پیام‌های علامت‌گذاری‌شده جایگزین می‌کند.

این ویژگی که بازنویسی چت در زمان واقعی نامیده می‌شود، فحش را در پیام‌ها اصلاح می‌کند تا مکالمات خوانا باقی بمانند و به صورت متن مسدودشده ظاهر نشوند.

این شرکت گفت: «به عنوان مثال، پیامی که سیاست‌های فحش Roblox را نقض می‌کند، مانند “زود باش!”، قبلاً به صورت “####” در چت تجربه ظاهر می‌شد. اکنون به “زود باش!” بازنویسی خواهد شد.»

به گفته راجیو بهاتیا، معاون رئیس بخش محصولات کاربری و کشف Roblox، این طراحی جدید با هدف حفظ ادب از طریق بازنویسی زبان و جایگزینی “علائم ایست” با کلمات واقعی انجام می‌شود.

بهاتیا در بیانیه‌ای گفت: «چت برای نحوه ارتباط، هماهنگی و بازی افراد در Roblox مرکزی است. بازنویسی در زمان واقعی به حفظ روند بازی و مکالمات کمک می‌کند و در عین حال زبان را به سمت آنچه مناسب است هدایت می‌کند.»

در ماه مه ۲۰۲۵، Roblox هشدارهای بلادرنگ را معرفی کرد که به کاربران در صورت نقض قوانین پلتفرم در پیام‌ها هشدار می‌دهد و آنها را به تجدید نظر در مورد کلمات خود تشویق می‌کند.

این شرکت گفت: «در آزمایش‌های سال گذشته، Roblox مشاهده کرد که صدور اعلان‌ها و مهلت‌های زمانی در چت متنی درون بازی منجر به کاهش ۵ درصدی پیام‌های چت فیلترشده و کاهش ۶ درصدی عواقب ناشی از گزارش‌های سوء استفاده شد.»

با وجود این کاهش، Roblox اعلام کرد که این تغییر جدید به یک مشکل طولانی‌مدت رسیدگی می‌کند که در آن زبان فیلترشده به صورت رشته‌هایی از کاراکترهای تصادفی ظاهر می‌شود که می‌تواند پیگیری چت‌ها را در طول بازی دشوار کند.

در حالی که به بازیکنان در چت اطلاع داده می‌شود که متن بازنویسی شده است، این شرکت می‌گوید که سیستم جدید سیاست‌های اجرای آن برای فحش را تغییر نمی‌دهد.

بهاتیا در بیانیه‌ای جداگانه در روز پنجشنبه گفت: «باید روشن کنم، وقتی پیامی را که سیاست فحش ما را نقض می‌کند، بازنویسی می‌کنیم، همچنان یک تخلف است و همان قوانین همچنان اعمال می‌شود. کاربری که همچنان سعی می‌کند در چت فحش دهد، همچنان با عواقب یکسان برای نقض مکرر سیاست ما مواجه خواهد شد.»

Roblox اعلام کرد که ویژگی بازنویسی فقط در چت‌های بین کاربران تأییدشده از نظر سن در گروه‌های سنی مشابه در دسترس است و از تمام زبان‌های موجود از طریق ابزارهای ترجمه خودکار Roblox پشتیبانی می‌کند. Roblox گفت که برای درک نحوه صحبت بازیکنان نوجوان در طول بازی، ویژگی بازنویسی جدید با همکاری اعضای شورای نوجوانان آن توسعه یافته است.

این شرکت همچنین در حال ارتقای سیستم فیلترینگ متن خود برای تشخیص بهتر تلاش‌ها برای فرار از قوانین تعدیل، از جمله انواع زبانی که اعداد یا نمادها را جایگزین حروف می‌کنند، معروف به leetspeak، است.

بازنویسی چت Roblox بخشی از یک روند رو به رشد در صنعت بازی است، به طوری که شرکت‌ها به طور فزاینده‌ای از هوش مصنوعی برای تعدیل رفتار بازیکنان در بازی‌های چندنفره استفاده می‌کنند. در سال ۲۰۲۴، Activision اعلام کرد که بیش از ۲ میلیون حساب کاربری به دلیل چت‌های مخرب پس از استقرار سیستم تعدیل ToxMod مبتنی بر هوش مصنوعی خود در چندین عنوان Call of Duty علامت‌گذاری شده‌اند. این شرکت گفت که این ابزار به کاهش متخلفان مکرر و کاهش موارد شدید چت صوتی مخرب کمک کرده است.

Roblox همچنین استفاده خود از هوش مصنوعی را در سراسر پلتفرم گسترش داده است. در فوریه ۲۰۲۴، این شرکت ترجمه چت هوش مصنوعی در زمان واقعی را معرفی کرد که به بازیکنان اجازه می‌دهد در بیش از ۱۶ زبان در چت Roblox ارتباط برقرار کنند.

بهاتیا در مورد آخرین اقدام گفت: «این یک رویکرد جدید و جسورانه است و ما همیشه چیزها را بی‌نقص بازنویسی نخواهیم کرد.» وی افزود که این شرکت به یادگیری و آزمایش این ویژگی ادامه خواهد داد. «هدف نهایی ما این است که به کاربران این امکان را بدهیم که به گونه‌ای همکاری و ارتباط برقرار کنند که هم سرگرم‌کننده و هم محترمانه باشد.»

Roblox بلافاصله به درخواست برای اظهار نظر توسط Decrypt پاسخ نداد.