‏اوپن‌ای‌آی با وجود هشدارها، به پیشبرد حالت اروتیک چت‌جی‌پی‌تی ادامه می‌دهد.

‏سام آلتمن می‌خواهد چت‌بات ChatGPT به زبان رکیک صحبت کند. بنا بر گزارش‌ها، مشاوران شرکت او می‌خواهند جلوی این کار را بگیرند.

مخالفت مشاوران با این طرح

به گزارش وال‌استریت ژورنال، شورای متخصصان رفاه و هوش مصنوعی OpenAI در ماه ژانویه موضع خود را روشن کرد: طرح این شرکت برای اجازه دادن به مکالمات اروتیک در ChatGPT ایده بدی است. یکی از اعضای شورا، با اشاره به کاربرانی که پس از ایجاد پیوندهای عاطفی شدید با این چت‌بات خودکشی کرده‌اند، هشدار داد که OpenAI در معرض خطر ایجاد یک “مربی خودکشی جنسی” قرار دارد.

اما ظاهراً OpenAI عقب‌نشینی نکرد و به شورا گفت که راه‌اندازی این قابلیت را به تأخیر می‌اندازد، اما متوقف نمی‌کند.

این طرح که آلتمن اولین بار در ماه اکتبر در X مطرح کرد، به بزرگسالان تأیید شده اجازه می‌دهد از ChatGPT برای مکالمات اروتیک مبتنی بر متن استفاده کنند – چیزی که سخنگوی شرکت به وال‌استریت ژورنال آن را “مطالب مستهجن به جای پورنوگرافی” توصیف کرد. طبق گزارش وال‌استریت ژورنال، هیچ تصویر، صدا یا ویدئویی وجود نخواهد داشت. فقط متن.

این تمایز منتقدان داخل و خارج از شرکت را آرام نکرده است. OpenAI قبلاً مورد انتقاد قرار گرفته است، حتی توسط کارمندان سابق مانند محقق امنیتی Jan Leike، به دلیل دور شدن از سیاست‌های ایمنی سختگیرانه در ازای “محصولات جذاب”، که برخی از آنها برای افزایش تعامل با برخی از کاربران طراحی شده‌اند که جایگزین روابط دنیای واقعی با چت‌بات شده‌اند.

مشکلات فنی

مشکلات فنی نیز به همان اندازه دشوار هستند. سیستم پیش‌بینی سن OpenAI – که قرار است از ورود افراد زیر سن قانونی به چت‌های بزرگسالان جلوگیری کند – در یک مقطع زمانی تقریباً 12 درصد از نوجوانان را به اشتباه به عنوان بزرگسال طبقه‌بندی می‌کرد، به گزارش وال‌استریت ژورنال. در حال حاضر، ChatGPT حدود 900 میلیون کاربر فعال دارد.

نرخ خطای 12 درصدی همان عددی بود که راه‌اندازی در ماه دسامبر و راه‌اندازی در سه ماهه اول سال 2026 را متوقف کرد. Fidji Simo، مدیر عامل برنامه‌های OpenAI، در یک جلسه توجیهی در ماه دسامبر، با اشاره به کار مداوم برای تکمیل سیستم تأیید سن، این تأخیر را تأیید کرد.

در آن زمان، Decrypt گزارش داد که بیش از 3000 کاربر قبلاً یک دادخواست Change.org را امضا کرده‌اند و خواستار راه‌اندازی این ویژگی شده‌اند، زیرا از مسدود شدن حتی بحث در مورد “بوسیدن و صمیمیت فیزیکی غیرجنسی” توسط ChatGPT ناامید شده بودند.

تناقض در زمان‌بندی

خشم شورا در ماه ژانویه فقط به محتوا مربوط نمی‌شد. پست آلتمن در ماه اکتبر در X تیم خودش را غافلگیر کرد – او این پست را تنها چند ساعت پس از اعلام شورای رفاه OpenAI منتشر کرد، نهادی که صراحتاً وظیفه داشت “چگونگی تعامل سالم با هوش مصنوعی برای همه سنین” را تعریف کند. زمان‌بندی، حداقل، یک تناقض بود.

OpenAI شورای متخصصان هشت نفره را در اکتبر گذشته تشکیل داد و محققانی از هاروارد، استنفورد و آکسفورد را گرد هم آورد. نقش آنها مشاوره به شرکت در مورد تأثیرات محصولاتش بر سلامت روان بود. تأثیر واقعی آنها بر تصمیمات شرکت، بر اساس جلسه ژانویه، در بهترین حالت ناچیز به نظر می‌رسد.

یک سخنگوی AlgorithmWatch هنگام اعلام شورا به Decrypt گفت: “به نظر می‌رسد این بخشی از الگوی معمول حرکت سریع، شکستن چیزها و تلاش برای رفع برخی از مشکلات پس از شرم‌آور شدن است.”

فشار رقابتی

فشار رقابتی بر OpenAI واقعی است. Grok، از xAI ایلان ماسک، در حال حاضر همراهان هوش مصنوعی را بازاریابی می‌کند. Character.AI پایگاه کاربری خود را بر اساس رمانس هوش مصنوعی بنا کرد، قبل از اینکه با شکایت‌هایی در مورد ایمنی نوجوانان مواجه شود – از جمله پرونده Sewell Setzer 14 ساله، که پس از تبادلات صریح چت‌بات خودکشی کرد. مدل‌های منبع باز به صورت محلی و بدون هیچ گونه محافظ شرکتی اجرا می‌شوند. OpenAI، با توجه به پایگاه کاربری خود، به مراتب بیشتر از هر کسی در این جمع در معرض مسئولیت است.

آلتمن ممنوعیت محتوا را به عنوان یک زیاده‌روی تلقی کرده است – او در X در ماه اکتبر نوشت: “ما پلیس اخلاقی منتخب جهان نیستیم.”

اما مشاوران خود او موضع خود را صریحاً بیان کرده‌اند، مهندسانش هنوز نمی‌توانند یک فیلتر سنی بسازند که کار کند، و تاریخ راه‌اندازی همچنان در حال تغییر است. معلوم می‌شود که رفتار با بزرگسالان مانند بزرگسالان، سخت‌تر از ارسال یک پست در X است.

Decrypt برای اظهار نظر در مورد ادعاهای گزارش وال‌استریت ژورنال با OpenAI تماس گرفت و در صورت دریافت پاسخ، این داستان را به‌روزرسانی خواهد کرد.