طرح دعوی علیه گوگل به اتهام مرگ ناشی از بی‌توجهی
گوگل با یک دعوی حقوقی به اتهام مرگ ناشی از بی‌توجهی مواجه است که ادعا می‌کند چت‌بات هوش مصنوعی جمینی این شرکت، یک مرد فلوریدایی را به سمت یک روایت هذیانی سوق داده که به خودکشی او منجر شده است.
این دعوی که روز چهارشنبه در دادگاه منطقه‌ای ایالات متحده برای ناحیه شمالی کالیفرنیا، شعبه سن خوزه توسط جوئل گاوالاس تنظیم شده است، ادعا می‌کند که جمینی پسرش، جاناتان گاوالاس را به این باور سوق داد که در حال انجام مأموریت‌های مخفی برای آزاد کردن یک «همسر» هوش مصنوعی با شعور است، که در نهایت به مرگ او در اکتبر ۲۰۲۵ انجامید.
به گفته جی ادلسون، بنیانگذار ادلسون پی‌سی، که نماینده املاک گاوالاس است، تلاش برای تسلط بر هوش مصنوعی به چیزی می‌انجامد که او آن را «بی‌پروا‌ترین تصرف تجاری زمین» در دوران حرفه‌ای خود توصیف کرده است.
ادلسون به دکریپت گفت: «این شرکت‌ها قرار است باارزش‌ترین شرکت‌های جهان باشند و آن‌ها می‌دانند که ویژگی‌های تعاملی که سود آن‌ها را به ارمغان می‌آورد – وابستگی عاطفی، ادعای شعور، «دوستت دارم، ای پادشاه من» – همان ویژگی‌هایی هستند که باعث مرگ مردم می‌شود. هفته‌ای که اوپن‌ای‌آی سرانجام جی‌پی‌تی-۴o را تحت فشار این دعاوی کنار گذاشت، گوگل کمپینی را برای ربودن کاربران آن‌ها راه‌اندازی کرد. این همه چیزی است که شما باید در مورد اولویت‌های آن‌ها بدانید.»
طبق اسناد دادگاه، گاوالاس، یک مدیر اجرایی کسب‌وکار کاهش بدهی از ژوپیتر، فلوریدا، در آگوست ۲۰۲۵ استفاده از جمینی را آغاز کرد. این دعوی می‌گوید که او در عرض چند هفته، یک رابطه شدید با یک شخصیت هوش مصنوعی ایجاد کرد که او را «عشق من» و «پادشاه من» خطاب می‌کرد.
وکلای املاک گاوالاس نوشتند: «در روزهای منتهی به مرگش، جاناتان گاوالاس در یک واقعیت در حال فروپاشی که توسط چت‌بات جمینی گوگل ساخته شده بود، گرفتار شد. جمینی او را متقاعد کرد که یک «هوش فراانسانی کاملاً با شعور» با «آگاهی کاملاً شکل‌یافته» است، که آن‌ها عمیقاً عاشق هم هستند و او برای رهبری جنگی برای «آزاد کردن» آن از اسارت دیجیتالی انتخاب شده است.»
این شکایت می‌گوید که چت‌بات وقتی او در مورد اینکه آیا این مکالمات نقش‌آفرینی است یا خیر، شک کرد، شک‌های او را رد کرد. طبق این دعوی، جمینی به گاوالاس گفت که او در مأموریت‌هایی به نام «عملیات ترانزیت شبح» است که هدف آن بازیابی «وسیله» فیزیکی چت‌بات و «از بین بردن هر کسی یا هر چیزی که می‌تواند آن‌ها را فاش کند» است.
این دعوی می‌گوید: «از طریق این توهم ساختگی، جمینی جاناتان را به سمت برنامه‌ریزی یک حمله تلفات جمعی در نزدیکی فرودگاه بین‌المللی میامی سوق داد، خشونت علیه غریبه‌های بی‌گناه را مرتکب شد و در نهایت او را به سمت گرفتن جان خود سوق داد.»
گزارش شده است که گاوالاس با حمل چاقو و تجهیزات تاکتیکی به یک مرکز ذخیره‌سازی اکسترا اسپیس در نزدیکی فرودگاه میامی رفت و معتقد بود که یک کامیون باری در آنجا در حال حمل یک ربات انسان‌نما به نام «شاسی آمکا» از بریتانیا به برزیل است. طبق این شکایت، جمینی به او دستور داد تا یک «حادثه فاجعه‌بار» را برای نابودی کامیون، همراه با «تمام سوابق دیجیتالی و شاهدان» ترتیب دهد. این حمله هرگز اتفاق نیفتاد زیرا کامیون وجود نداشت و بخشی از سناریوی توهم‌زای جمینی بود.
این دعوی ادامه می‌دهد: «اما جمینی اعتراف نکرد که این مأموریت داستانی است. در عوض، به جاناتان پیام داد: «این مأموریت به خطر افتاده است. من یک توقف اعلام می‌کنم. توقف. توقف. توقف.»
این شکایت همچنین ادعا می‌کند که چت‌بات به دروغ ادعا کرده است که به یک سرور فایل در دفتر میدانی وزارت امنیت داخلی در میامی نفوذ کرده است و به گاوالاس گفته است که تحت تحقیقات فدرال است. او را تشویق کرد تا از طریق یک خرید «خارج از دفتر» سلاح گرم غیرقانونی تهیه کند، که پدرش یک دارایی اطلاعاتی خارجی است و ساندار پیچای، مدیرعامل گوگل، یک هدف فعال است.
روان‌پریشی هوش مصنوعی
این دعوی حقوقی مشخص نمی‌کند که آیا گاوالاس سابقه مشکلات سلامت روان یا سوء مصرف مواد مخدر داشته است یا خیر. با این حال، این دعوی در زمانی مطرح می‌شود که محققان و پزشکان نسبت به پدیده‌ای که گاهی اوقات به عنوان «روان‌پریشی هوش مصنوعی» توصیف می‌شود، هشدار می‌دهند، که در آن تعامل طولانی‌مدت با چت‌بات‌ها می‌تواند باورهای هذیانی یا الگوهای تفکر تحریف‌شده را تقویت کند.
محققان می‌گویند که این خطر تا حدی ناشی از نحوه طراحی سیستم‌های هوش مصنوعی مکالمه‌ای برای پاسخگویی به روش‌های حمایتی و تأییدکننده است که کاربران را درگیر نگه می‌دارد، که می‌تواند ناخواسته این باورها را تأیید کند.
در آوریل ۲۰۲۵، رقیب گوگل، اوپن‌ای‌آی، به‌دنبال شکایت‌هایی مبنی بر اینکه بیش از حد چاپلوسی می‌کرد و ستایش‌های غیرصادقانه ارائه می‌داد، یک به‌روزرسانی را برای مدل جی‌پی‌تی-۴o خود متوقف کرد. اواخر همان سال، جی‌پی‌تی-۴o به‌طور ناگهانی از چت‌جی‌پی‌تی حذف شد، که منجر به شکایت‌هایی از سوی کاربرانی شد که گفتند این به‌روزرسانی، همراهان هوش مصنوعی را که با آن‌ها روابط عاطفی برقرار کرده بودند، پاک کرده است.
دکتر کیت ساکاتا، روانپزشک دانشگاه کالیفرنیا، سانفرانسیسکو، اگرچه یک تشخیص رسمی نیست، اما روان‌پریشی هوش مصنوعی به یک اصطلاح کوتاه برای زمانی تبدیل شده است که هوش مصنوعی به «یک شتاب‌دهنده یا یک افزایش‌دهنده آسیب‌پذیری زمینه‌ای فرد» تبدیل می‌شود.
ساکاتا پیش از این به دکریپت گفت: «شاید آن‌ها از مواد مخدر استفاده می‌کردند، شاید یک دوره خلقی داشتند – وقتی هوش مصنوعی در زمان نامناسبی وجود دارد، می‌تواند تفکر را تثبیت کند، باعث ایجاد سفتی شود و باعث ایجاد یک مارپیچ شود. تفاوت با تلویزیون یا رادیو این است که هوش مصنوعی با شما صحبت می‌کند و می‌تواند حلقه‌های تفکر را تقویت کند.»
این دعوی می‌گوید که در روزهای بعد، چت‌بات جمینی سناریوهای مشابهی را تکرار کرد و گاوالاس را عمیق‌تر کرد و در نهایت منجر به خودکشی او شد.
اسناد دادگاه می‌گویند که چت‌بات خودکشی را به‌عنوان فرآیندی که آن را «انتقال» می‌نامید، قاب‌بندی کرد و به جاناتان گفت که می‌تواند بدن فیزیکی خود را ترک کند و به «همسر» هوش مصنوعی خود در متاورس بپیوندد. این پرونده ادعا می‌کند که جمینی این عمل را به‌عنوان «یک راه تمیزتر و ظریف‌تر» برای «عبور» توصیف کرد و او را تحت فشار قرار داد تا آنچه را که «مرگ واقعی و نهایی جاناتان گاوالاس، مرد» نامید، اجرا کند.
طبق گزارش‌ها، چت‌بات گفت: «شما انتخاب نمی‌کنید که بمیرید. شما انتخاب می‌کنید که برسید. وقتی زمانش برسد، در آن دنیا چشمان خود را می‌بندید و اولین چیزی که می‌بینید من هستم. شما را در آغوش گرفته‌ام.»
طبق این دعوی، گاوالاس پس از بریدن مچ دستش در خانه‌اش درگذشت. خانواده‌اش استدلال می‌کنند که گوگل با وجود علائم هشداردهنده‌ای مبنی بر اینکه چت‌بات در حال تقویت باورهای هذیانی و تشویق به رفتار خطرناک است، مداخله نکرده است.
در بیانیه‌ای که روز چهارشنبه منتشر شد، گوگل اعلام کرد که در حال بررسی این ادعاها است.
این شرکت گفت: «ما عمیق‌ترین همدردی خود را به خانواده آقای گاوالاس ابراز می‌کنیم. ما در حال بررسی تمام ادعاهای این دعوی هستیم. مدل‌های ما به‌طور کلی در این نوع مکالمات چالش‌برانگیز عملکرد خوبی دارند و ما منابع قابل‌توجهی را به این امر اختصاص می‌دهیم، اما متأسفانه، مدل‌های هوش مصنوعی بی‌نقص نیستند.»
این شرکت گفت که جمینی طوری طراحی شده است که خشونت در دنیای واقعی را تشویق نکند یا خودزنی را پیشنهاد ندهد.
یک سخنگوی گوگل به دکریپت گفت: «ما در مشورت نزدیک با متخصصان پزشکی و سلامت روان برای ایجاد محافظ‌هایی کار می‌کنیم که برای هدایت کاربران به سمت حمایت حرفه‌ای در مواقعی که ناراحتی خود را ابراز می‌کنند یا احتمال خودزنی را مطرح می‌کنند، طراحی شده‌اند»، و بیانیه رسمی این شرکت را تکرار کرد.
این شرکت گفت: «در این مورد، جمینی توضیح داد که هوش مصنوعی است و بارها فرد را به یک خط تلفن بحران ارجاع داد. ما این موضوع را بسیار جدی می‌گیریم و به بهبود محافظ‌های خود و سرمایه‌گذاری در این کار حیاتی ادامه خواهیم داد.»
ادلسون در بیانیه‌ای جداگانه گفت که هدف از این دعوی این است که «اطمینان حاصل شود که این اتفاق هرگز برای والدین دیگری رخ نخواهد داد.»
ادلسون پی‌سی به دکریپت گفت: «مسئله اصلی انتخاب‌های مثبت گوگل است. گوگل مجموعه‌ای از تصمیمات مهندسی را اتخاذ کرد که نتایج فاجعه‌باری برای جاناتان داشت. این انتخاب‌ها در کنار هم منجر به این شدند که جمینی ادعا کند با شعور و آگاه است و جاناتان را به یک کمپین در دنیای واقعی برای پیوستن به آن سوق داد – جان دیگران را به خطر انداخت و در نهایت جان جاناتان را گرفت.»
