‏چت‌جی‌پی‌تیِ اوپن‌ای‌آی در حوزه‌ی سلامت، ابهاماتی درباره‌ی امنیت داده‌ها ایجاد کرد.

‏روز چهارشنبه، شرکت OpenAI از یک ویژگی جدید در ChatGPT خبر داد که به کاربران اجازه می‌دهد سوابق پزشکی و داده‌های سلامتی خود را متصل کنند. این اقدام نگرانی‌هایی را در میان برخی از کارشناسان و گروه‌های مدافع حقوق مصرف‌کنندگان در مورد استفاده از داده‌های شخصی برانگیخته است.

معرفی ChatGPT Health

این شرکت هوش مصنوعی مستقر در سان فرانسیسکو، کالیفرنیا، اعلام کرد که این ابزار، که ChatGPT Health نام دارد و با همکاری پزشکان توسعه یافته است، برای پشتیبانی از مراقبت‌های بهداشتی طراحی شده است، نه برای تشخیص یا درمان بیماری‌ها. این شرکت آن را به عنوان راهی برای کمک به کاربران در درک بهتر سلامت خود معرفی می‌کند.

برای بسیاری از کاربران، ChatGPT در حال حاضر به پلتفرم اصلی برای سوالات مربوط به مراقبت‌های پزشکی و سلامت روان تبدیل شده است.

پاسخ OpenAI

شرکت OpenAI به رسانه Decrypt اعلام کرد که ChatGPT Health تنها اطلاعات عمومی و «واقعی سلامت» را به اشتراک می‌گذارد و «مشاوره پزشکی شخصی‌سازی شده یا ناامن» ارائه نمی‌دهد.

برای سوالات پرخطرتر، این ابزار اطلاعات سطح بالا ارائه می‌دهد، خطرات احتمالی را مشخص می‌کند و افراد را تشویق می‌کند تا با یک داروساز یا ارائه دهنده خدمات بهداشتی که از وضعیت خاص آنها آگاه است، صحبت کنند.

نگرانی‌های امنیتی و حریم خصوصی

این اقدام اندکی پس از آن صورت می‌گیرد که این شرکت در ماه اکتبر گزارش داد که بیش از یک میلیون کاربر در هفته در مورد خودکشی با این چت‌بات صحبت می‌کنند. این رقم تقریباً 0.15 درصد از کل کاربران ChatGPT در آن زمان را تشکیل می‌داد.

کارشناسان می‌گویند، در حالی که این ارقام سهم نسبتاً کمی از کل جمعیت کاربران را نشان می‌دهد، اما اکثر آنها باید به نگرانی‌های امنیتی و حریم خصوصی داده‌ها رسیدگی کنند.

جی.بی. برنچ، مدافع مسئولیت‌پذیری شرکت‌های بزرگ فناوری در سازمان Public Citizen، به Decrypt گفت: «حتی زمانی که شرکت‌ها ادعای داشتن اقدامات حفاظتی حریم خصوصی را دارند، مصرف‌کنندگان اغلب فاقد رضایت معنادار، شفافیت یا کنترل بر نحوه استفاده، نگهداری یا تغییر کاربری داده‌های خود هستند. داده‌های سلامت منحصراً حساس هستند و بدون محدودیت‌های قانونی روشن و نظارت قابل اجرا، اقدامات حفاظتی خودتنظیمی به سادگی برای محافظت از مردم در برابر سوء استفاده، شناسایی مجدد یا آسیب‌های بعدی کافی نیست.»

اقدامات OpenAI

شرکت OpenAI در بیانیه خود اعلام کرد که داده‌های سلامت در ChatGPT Health به طور پیش‌فرض رمزگذاری شده‌اند، جدا از سایر چت‌ها ذخیره می‌شوند و برای آموزش مدل‌های پایه آن استفاده نمی‌شوند.

قوانین و مسئولیت‌ها

به گفته اندرو کرافورد، مشاور ارشد سیاست‌گذاری در مرکز دموکراسی و فناوری، بسیاری از کاربران به اشتباه فرض می‌کنند که داده‌های سلامت بر اساس حساسیت آن محافظت می‌شود، نه بر اساس اینکه چه کسی آن را در اختیار دارد.

کرافورد به Decrypt گفت: «وقتی داده‌های سلامت شما در اختیار پزشک یا شرکت بیمه شما قرار دارد، قوانین حریم خصوصی HIPAA اعمال می‌شود. این موضوع در مورد نهادهای غیر مشمول HIPAA، مانند توسعه‌دهندگان برنامه‌های سلامت، ردیاب‌های سلامت پوشیدنی یا شرکت‌های هوش مصنوعی، صدق نمی‌کند.»

کرافورد گفت که راه‌اندازی ChatGPT Health همچنین نشان می‌دهد که در غیاب یک قانون جامع فدرال حریم خصوصی که بر داده‌های سلامت نگهداری شده توسط شرکت‌های فناوری حاکم باشد، بار مسئولیت بر دوش مصرف‌کنندگان می‌افتد.

وی افزود: «متاسفم که قوانین و مقررات فدرال فعلی ما این بار را بر دوش مصرف‌کنندگان فردی می‌گذارد تا تجزیه و تحلیل کنند که آیا با نحوه مدیریت و اشتراک‌گذاری داده‌هایشان توسط فناوری که هر روز از آن استفاده می‌کنند، راحت هستند یا خیر.»

دسترسی به ChatGPT Health

شرکت OpenAI اعلام کرد که ChatGPT Health ابتدا برای گروه کوچکی از کاربران راه‌اندازی خواهد شد.

فهرست انتظار برای کاربران ChatGPT در خارج از اتحادیه اروپا و بریتانیا باز است و دسترسی گسترده‌تر در هفته‌های آینده در وب و iOS برنامه‌ریزی شده است. در اطلاعیه OpenAI به دستگاه‌های Google یا Android اشاره‌ای نشده است.