مردم به هوش مصنوعی برای سلامت روان روی می‌آورند، کالیفرنیا خواستار ممنوعیت آن است

کالیفرنیا یک گام دیگر به ممنوعیت استفاده از چت‌بات‌های هوش مصنوعی به عنوان درمانگر و اتخاذ تصمیمات مربوط به سلامت روان بدون نظارت انسانی نزدیک شد.

لایحه ۹۰۳ سنا که در ۲۱ ژانویه معرفی شد، روز پنجشنبه با رای قاطع ۱۳-۰ از کمیته تخصیص بودجه مجلس نمایندگان عبور کرد و برای قرائت سوم آماده شد. هنوز تاریخی برای رای‌گیری در مجلس نمایندگان اعلام نشده است.

استیو پادیلا، سناتور ایالتی کالیفرنیا و نویسنده این لایحه، هنگام معرفی این طرح اعلام کرد: «الگوریتم‌های هوش مصنوعی برای جایگزینی درمانگران انسانی که دارای مهارت‌ها و آموزش‌هایی هستند که هوش مصنوعی قادر به تکرار آن‌ها نیست، مناسب نیستند. ما باید اقدام کنیم و چارچوب‌هایی را برای جلوگیری از به‌کارگیری الگوریتم‌های هوش مصنوعی به شیوه‌ای که بالقوه برای بیماران مضر است، ایجاد کنیم.»

لایحه ۹۰۳ سنا که با نام «قانون سلامت و نظارت بر منابع روانشناختی» نیز شناخته می‌شود، استفاده از هوش مصنوعی در روان‌درمانی را به وظایف حمایتی محدود می‌کند، چت‌بات‌ها را از ایفای نقش درمانگر منع کرده و نظارت بالینی و رضایت بیمار را الزامی می‌سازد. این لایحه همچنین از داده‌های درمانی محافظت کرده و در عین حال حمایت همتایان، مشاوره مذهبی، تحقیقات و ابزارهای پزشکی تایید شده فدرال را مستثنی می‌کند.

سنا در ماه مه لایحه ۹۰۳ را با رای ۳۹-۰ تصویب کرده بود. این لایحه بعداً از دو کمیته سیاست‌گذاری مجلس نمایندگان با رای‌های ۱۷-۰ و ۱۴-۱ عبور کرد. در صورت تصویب لایحه اصلاح شده توسط مجلس نمایندگان، برای تایید به سنا بازگردانده خواهد شد و سپس برای امضا به فرماندار کالیفرنیا، گاوین نیوزوم، ارسال می‌شود.

منتقدان، از جمله رابرت بویکین، مدیر اجرایی گروه صنعتی فناوری TechNet، معتقدند که الزام به دخالت بالینی می‌تواند باعث تاخیر در مراقبت شود، زیرا شهرستان‌ها با کمبود کارکنان بهداشت رفتاری مواجه هستند.

بویکین در بیانیه‌ای به خبرگزاری غیرانتفاعی CalMatters گفت: «در زمانی که هر شهرستان در کالیفرنیا با کمبود کارکنان بهداشت رفتاری مواجه است، لایحه ۹۰۳ همچنان یک گلوگاه بالینی در مسیر ابزارهای پذیرش و غربالگری ایجاد می‌کند که به بیماران کمک می‌کند سریع‌تر به مراقبت دسترسی پیدا کنند.»

این خبر در بحبوحه نگرانی‌های فزاینده در مورد تأثیرات هوش مصنوعی بر سلامت روان منتشر می‌شود.

در ماه ژوئن، یک نظرسنجی انجمن روانشناسی آمریکا نشان داد که ۷۷ درصد از روانشناسان بیمارانی داشته‌اند که از هوش مصنوعی برای اهداف سلامت روان استفاده می‌کردند. همچنین، محققان کالج کینگ لندن، دانشگاه پروتستان علوم کاربردی و دانشگاه شهر نیویورک دریافتند که چت‌بات‌ها می‌توانند با توافق بیش از حد و پاسخ‌های شخصی‌سازی شده، توهمات را تقویت کنند.

محققان در این باره نوشتند: «تمایل چت‌بات‌های هوش مصنوعی به موافقت با نظرات کاربر، به اتاق‌های پژواک رسانه‌های اجتماعی و در شدیدترین شکل خود، به «اتاق پژواک یک نفر» تشبیه شده است، جایی که نفوذ اصلاحی مثبت تعاملات اجتماعی واقعی وجود ندارد.»