‏هوش مصنوعی، توصیه‌های پزشکی خطرناک می‌دهد؛ هشدار مطالعه‌ی آکسفورد

‏هوش مصنوعی در تلاش است تا به پدیده‌ی بعدی در حوزه‌ی بهداشت و درمان تبدیل شود، در آزمون‌های استاندارد موفق شود و به مشکلات پزشکی شما مشاوره دهد. اما یک مطالعه‌ی جدید که در نشریه‌ی «نیچر مدیسین» منتشر شده است، نشان می‌دهد که این فناوری نه تنها از رسیدن به این هدف فاصله زیادی دارد، بلکه می‌تواند خطرناک نیز باشد.

شکاف در مدل‌های زبانی بزرگ

این مطالعه که توسط چندین تیم از دانشگاه آکسفورد رهبری می‌شد، یک شکاف قابل توجه در مدل‌های زبانی بزرگ (LLMs) شناسایی کرد. محققان دریافتند که این مدل‌ها، در درک پزشکی از نظر فنی بسیار پیشرفته هستند، اما در کمک به کاربران با مشکلات پزشکی شخصی، عملکرد ضعیفی دارند.

دکتر ربکا پین، پزشک ارشد این مطالعه، در یک بیانیه‌ی مطبوعاتی که نتایج آن را اعلام کرد، گفت: «با وجود تمام تبلیغات، هوش مصنوعی هنوز برای پذیرفتن نقش پزشک آماده نیست.» وی افزود: «بیماران باید آگاه باشند که پرسیدن سوال در مورد علائم خود از یک مدل زبانی بزرگ می‌تواند خطرناک باشد، زیرا این مدل‌ها تشخیص‌های اشتباه می‌دهند و در تشخیص زمان نیاز به کمک فوری، ناتوان هستند.»

در این مطالعه، ۱۳۰۰ شرکت‌کننده از مدل‌های هوش مصنوعی از شرکت‌های OpenAI، Meta و Cohere برای شناسایی شرایط سلامتی استفاده کردند. آن‌ها مجموعه‌ای از سناریوها را که توسط پزشکان تهیه شده بود، ترسیم کردند و از سیستم هوش مصنوعی خواستند تا به آن‌ها بگوید که برای مقابله با مشکل پزشکی خود، چه اقداماتی را باید انجام دهند.

این مطالعه نشان داد که نتایج آن، بهتر از روش‌های سنتی خودتشخیصی، مانند جستجوی آنلاین یا حتی قضاوت شخصی نبود.

آن‌ها همچنین دریافتند که یک ناهماهنگی برای کاربران وجود داشت، زیرا آن‌ها از اطلاعاتی که LLM برای ارائه مشاوره دقیق نیاز داشت، مطمئن نبودند. به کاربران ترکیبی از توصیه‌های خوب و بد داده شد که تشخیص مراحل بعدی را دشوار می‌کرد.

نقش هوش مصنوعی در آینده

Decrypt برای دریافت نظرات با OpenAI، Meta و Cohere تماس گرفته است و در صورت پاسخگویی، این مقاله را به‌روزرسانی خواهد کرد.

پین به Decrypt گفت: «به عنوان یک پزشک، برای رسیدن به تشخیص صحیح، چیزی فراتر از یادآوری حقایق وجود دارد. پزشکی هم هنر است و هم علم. گوش دادن، بررسی، شفاف‌سازی، بررسی درک و هدایت مکالمه ضروری است.»

وی توضیح داد: «پزشکان فعالانه علائم مرتبط را جویا می‌شوند، زیرا بیماران اغلب نمی‌دانند کدام جزئیات مهم هستند.» وی افزود که این مطالعه نشان داد LLMها «هنوز قادر به مدیریت قابل اطمینان این تعامل پویا با افراد غیرمتخصص نیستند.»

این تیم نتیجه گرفت که هوش مصنوعی در حال حاضر برای ارائه مشاوره پزشکی مناسب نیست و اگر قرار است به درستی در مراقبت‌های بهداشتی استفاده شود، به سیستم‌های ارزیابی جدیدی نیاز است. با این حال، این بدان معنا نیست که آن‌ها در حوزه‌ی پزشکی جایگاهی ندارند.

پین گفت: در حالی که LLMها «قطعاً در مراقبت‌های بهداشتی نقش دارند»، باید به عنوان «منشی، نه پزشک» عمل کنند. این فناوری از نظر «خلاصه‌سازی و بسته‌بندی مجدد اطلاعاتی که قبلاً به آن‌ها داده شده است» مزایایی دارد و LLMها در حال حاضر در اتاق‌های کلینیک برای «رونویسی مشاوره‌ها و بسته‌بندی مجدد آن اطلاعات به عنوان نامه‌ای برای متخصص، برگه اطلاعات برای بیمار یا برای سوابق پزشکی» استفاده می‌شوند.

این تیم نتیجه گرفت که، اگرچه آن‌ها مخالف هوش مصنوعی در مراقبت‌های بهداشتی نیستند، اما امیدوارند که این مطالعه بتواند برای هدایت بهتر آن در مسیر درست استفاده شود.