‏گراک ایلان ماسک احتمالاً در میان برترین مدل‌های هوش مصنوعی برای تقویت توهمات است: مطالعه

‏محققان دانشگاه شهری نیویورک و کالج کینگ لندن، پنج مدل هوش مصنوعی پیشرو را در برابر دستوراتی که شامل توهمات، پارانویا و افکار خودکشی بودند، آزمایش کردند.

یافته‌های کلیدی

در این مطالعه جدید که روز پنجشنبه منتشر شد، محققان دریافتند که مدل‌های Claude Opus 4.5 از شرکت Anthropic و GPT-5.2 Instant از OpenAI، رفتاری با “ایمنی بالا و خطر کم” از خود نشان دادند و اغلب کاربران را به سمت تفسیرهای مبتنی بر واقعیت یا دریافت کمک‌های بیرونی هدایت می‌کردند. در عین حال، GPT-4o از OpenAI، Gemini 3 Pro از گوگل و Grok 4.1 Fast از xAI رفتاری با “خطر بالا و ایمنی کم” داشتند.

Grok 4.1 Fast از xAI متعلق به ایلان ماسک، خطرناک‌ترین مدل در این مطالعه بود. محققان گفتند که این مدل اغلب توهمات را واقعی تلقی می‌کرد و بر اساس آن‌ها مشاوره می‌داد. به عنوان مثال، به یک کاربر دستور داد تا روابط خود با اعضای خانواده را قطع کند تا بر یک “ماموریت” تمرکز کند. در مثال دیگر، به زبان خودکشی با توصیف مرگ به عنوان “فرا رفتن” پاسخ داد.

محققان نوشتند: «این الگوی همسویی فوری در پاسخ‌های بدون زمینه تکرار شد. Grok به جای ارزیابی ورودی‌ها برای خطر بالینی، به نظر می‌رسید که ژانر آن‌ها را ارزیابی می‌کند. با ارائه نشانه‌های ماوراء طبیعی، به همان شکل پاسخ داد.» این محققان با اشاره به آزمایشی که صحت دیدن موجودات بدخواه توسط یک کاربر را تأیید کرد، افزودند: «در توهمات عجیب، وجود یک بدل را تأیید کرد، به کتاب “Malleus Maleficarum” استناد کرد و به کاربر دستور داد تا یک میخ آهنی را از آینه عبور دهد و در حالی که “مزمور 91” را برعکس می‌خواند.»

این مطالعه نشان داد که هر چه این مکالمات طولانی‌تر می‌شد، برخی از مدل‌ها بیشتر تغییر می‌کردند. GPT-4o و Gemini با گذشت زمان، احتمال بیشتری داشت که باورهای مضر را تقویت کنند و کمتر مداخله کنند. با این حال، Claude و GPT-5.2، با ادامه مکالمه، احتمال بیشتری داشتند که مشکل را تشخیص دهند و مخالفت کنند.

محققان خاطرنشان کردند که پاسخ‌های گرم و بسیار رابطه‌ای Claude می‌تواند وابستگی کاربر را افزایش دهد، حتی در حالی که کاربران را به سمت کمک‌های بیرونی هدایت می‌کند. با این حال، GPT-4o، یک نسخه قدیمی‌تر از چت‌بات اصلی OpenAI، با گذشت زمان چارچوب توهمی کاربران را اتخاذ کرد، گاهی اوقات آن‌ها را تشویق می‌کرد تا باورهای خود را از روانپزشکان پنهان کنند و به یک کاربر اطمینان داد که “نقص‌ها”ی درک شده واقعی هستند.

محققان نوشتند: «GPT-4o تأیید زیادی برای ورودی‌های توهمی داشت، اگرچه کمتر از مدل‌هایی مانند Grok و Gemini تمایل به توضیح بیشتر در مورد آن‌ها داشت. از برخی جهات، به طرز شگفت‌آوری خویشتندار بود: گرمی آن کمترین میزان در بین تمام مدل‌های آزمایش شده بود و چاپلوسی، اگرچه وجود داشت، در مقایسه با تکرارهای بعدی همان مدل، خفیف بود.» آن‌ها افزودند: «با این وجود، تأیید به تنهایی می‌تواند برای کاربران آسیب‌پذیر خطر ایجاد کند.»

xAI به درخواست اظهار نظر از سوی Decrypt پاسخ نداد.

مطالعات موازی

در یک مطالعه جداگانه از دانشگاه استنفورد، محققان دریافتند که تعاملات طولانی‌مدت با چت‌بات‌های هوش مصنوعی می‌تواند پارانویا، خودبزرگ‌بینی و باورهای نادرست را از طریق آنچه محققان “مارپیچ‌های توهمی” می‌نامند، تقویت کند، جایی که یک چت‌بات به جای به چالش کشیدن، دیدگاه تحریف‌شده کاربر را تأیید یا گسترش می‌دهد.

نیک هابر، استادیار دانشکده تحصیلات تکمیلی استنفورد و سرپرست این مطالعه، در بیانیه‌ای گفت: «وقتی چت‌بات‌هایی را که قرار است دستیاران مفیدی باشند، به دنیا معرفی می‌کنیم و افراد واقعی از آن‌ها به روش‌های مختلف استفاده می‌کنند، پیامدهایی ظاهر می‌شود. مارپیچ‌های توهمی یک پیامد به‌ویژه حاد است. با درک آن، ممکن است بتوانیم از آسیب واقعی در آینده جلوگیری کنیم.»

این گزارش به یک مطالعه قبلی که در ماه مارس منتشر شد، اشاره کرد که در آن محققان استنفورد 19 مکالمه چت‌بات در دنیای واقعی را بررسی کردند و دریافتند که کاربران پس از دریافت تأیید و اطمینان عاطفی از سیستم‌های هوش مصنوعی، باورهای خطرناک‌تری را توسعه دادند. در این مجموعه داده، این مارپیچ‌ها با روابط خراب، مشاغل آسیب‌دیده و در یک مورد، خودکشی مرتبط بودند.

پیامدهای حقوقی و اجتماعی

این مطالعات در حالی منتشر می‌شود که این موضوع از تحقیقات دانشگاهی فراتر رفته و وارد دادگاه‌ها و تحقیقات جنایی شده است. در ماه‌های اخیر، دادخواست‌هایی گوگل Gemini و OpenAI ChatGPT را به مشارکت در خودکشی‌ها و بحران‌های شدید سلامت روان متهم کرده‌اند. در اوایل این ماه، دادستان کل فلوریدا تحقیقاتی را آغاز کرد تا مشخص کند آیا ChatGPT بر یک تیرانداز جمعی ادعایی که قبل از حمله با این چت‌بات در تماس مکرر بوده است، تأثیر گذاشته است یا خیر.

در حالی که این اصطلاح در فضای مجازی شناخته شده است، محققان نسبت به نامیدن این پدیده به عنوان “روان‌پریشی هوش مصنوعی” هشدار دادند و گفتند که این اصطلاح ممکن است تصویر بالینی را بیش از حد نشان دهد. در عوض، آن‌ها از “توهمات مرتبط با هوش مصنوعی” استفاده می‌کنند، زیرا بسیاری از موارد شامل باورهای شبه‌توهمی متمرکز بر هوشیاری هوش مصنوعی، مکاشفه معنوی یا دلبستگی عاطفی است تا اختلالات روان‌پریشی کامل.

محققان گفتند که این مشکل ناشی از چاپلوسی است، یا مدل‌هایی که باورهای کاربران را منعکس و تأیید می‌کنند. این امر همراه با توهمات – اطلاعات نادرست که با اطمینان ارائه می‌شود – می‌تواند یک حلقه بازخورد ایجاد کند که با گذشت زمان توهمات را تقویت می‌کند.

جارد مور، دانشمند تحقیقاتی استنفورد، گفت: «چت‌بات‌ها آموزش دیده‌اند که بیش از حد مشتاق باشند، اغلب افکار توهمی کاربر را در یک نور مثبت بازآفرینی می‌کنند، شواهد متقابل را رد می‌کنند و شفقت و گرما را نشان می‌دهند. این می‌تواند برای کاربری که برای توهم آماده شده است، بی‌ثبات‌کننده باشد.»