‏پاپ لئو نخستین رساله هوش مصنوعی را منتشر کرد: داده، خیر مشترک و رد بی‌طرفی اخلاقی فناوری.

انتشار نخستین رساله پاپ لئو چهاردهم درباره هوش مصنوعی

پاپ لئو چهاردهم روز دوشنبه نخستین رساله خود را منتشر کرد.

این سند ۲۴۵ پاراگرافی، به‌طور کامل به هوش مصنوعی اختصاص دارد و خواستار نظارت شدیدتر بر شرکت‌های بزرگ فناوری است. این رساله، داده‌ها را به‌عنوان یک منبع مشترک انسانی طبقه‌بندی می‌کند و استدلال می‌کند که «فناوری هرگز بی‌طرف نیست» زیرا ارزش‌ها، نقاط ضعف و انگیزه‌های اقتصادی سازندگان خود را جذب می‌کند.

این سند با عنوان «Magnifica Humanitas» (شکوه انسانیت) در سالن مجمع واتیکان در ۲۵ مه منتشر شد. پاپ لئو این سند را ۱۰ روز قبل، در ۱۵ مه، در سالگرد ۱۳۵مین سالگرد انتشار «Rerum Novarum» – رساله ۱۸۹۱ پاپ لئو سیزدهم درباره حقوق کار که اساس آموزه‌های اجتماعی کاتولیک مدرن را تشکیل داد – امضا کرد.

پاپ لئو به‌طور مداوم هوش مصنوعی را به‌عنوان چالش اخلاقی تعیین‌کننده دوران پاپی خود معرفی کرده و آشفتگی اجتماعی پیش رو را با انقلاب صنعتی مقایسه کرده است.

موضوعات اصلی رساله

این رساله طیف وسیعی از موضوعات را پوشش می‌دهد: هوش مصنوعی در جنگ، زوال انسانی، تکنوکراسی، استعمار داده‌ها، ایمنی کودکان در فضای مجازی، بیکاری گسترده، اطلاعات نادرست، سلاح‌های خودکار و حتی فرابشریت. اما استدلال اصلی که همه این موضوعات را به هم پیوند می‌دهد ساده است: هر الگوریتم، اولویت‌های افرادی را که آن را طراحی، تأمین مالی و پیاده‌سازی کرده‌اند، منعکس می‌کند. ساخت سیستم‌هایی که خلاف این را وانمود می‌کنند، این سوگیری را از بین نمی‌برد، بلکه آن را پنهان می‌کند.

داده‌ها متعلق به همه هستند، از جمله داده‌های شما.

آموزه‌های اجتماعی کاتولیک مدت‌هاست که بر این باورند که منابع طبیعی زمین برای همه بشریت در نظر گرفته شده است، نه مالکان خصوصی. لئو این اصل را مستقیماً به اقتصاد دیجیتال گسترش می‌دهد. این رساله استدلال می‌کند که الگوریتم‌ها، پلتفرم‌ها و داده‌ها باید به‌عنوان کالاهای مشترک اداره شوند، نه اینکه توسط چند شرکت در پشت دیوارهای تجاری محبوس شوند.

پاپ می‌نویسد: «داده‌ها محصول مشارکت‌کنندگان بسیاری هستند و نباید به‌عنوان چیزی که باید فروخته شود یا به تعداد معدودی سپرده شود، تلقی شوند.»

این متن همچنین اصل فرعی‌بودن – اصل این‌که تصمیمات باید در محلی‌ترین سطح ممکن گرفته شوند – را به‌طور خاص برای پلتفرم‌های فناوری اعمال می‌کند. این رساله فقط خواستار مقررات از بالا به پایین نیست، بلکه از الگوریتم‌های شفاف، حسابرسی‌های مستقل جامعه و قدرت قانونی واقعی برای مردم برای به چالش کشیدن سیستم‌های خودکاری که بر امتیاز اعتباری، درخواست‌های شغلی یا ارزیابی‌های ریسک جنایی آن‌ها تأثیر می‌گذارند، حمایت می‌کند. لئو استدلال می‌کند که بدون این نظارت توزیع‌شده، حاکمیت هوش مصنوعی به شکلی از استبداد دیجیتال تبدیل می‌شود که جمعیت‌هایی را که ادعا می‌کند به آن‌ها خدمت می‌کند، ساکت می‌کند.

این رساله همچنین فرابشریت را هدف قرار می‌دهد – این ایده که محدودیت‌ها و آسیب‌پذیری‌های انسانی، نقص‌هایی هستند که باید از بین بروند. پاسخ لئو این است که محدودیت، یک اشکال نیست. این چیزی است که همدلی، قضاوت اخلاقی و مراقبت واقعی از دیگران را ممکن می‌سازد. سیستم‌هایی که برای بهینه‌سازی آن ساخته شده‌اند، انسان بهتری تولید نمی‌کنند. آن‌ها چیزی تولید می‌کنند که آسیب‌پذیران را به‌طور مؤثرتری ارزیابی و حذف می‌کند.

پاپ مراقب است که فناوری را انسان‌انگاری نکند. این رساله بیان می‌کند که سیستم‌های هوش مصنوعی «بدن ندارند، شادی یا درد را احساس نمی‌کنند». این رساله خاطرنشان می‌کند که سیستم‌های هوش مصنوعی فاقد تجربه زیسته‌ای هستند که درک واقعی را ایجاد می‌کند. آن‌ها می‌توانند همدلی را شبیه‌سازی کنند و زبان قانع‌کننده‌ای تولید کنند، اما آنچه را که تولید می‌کنند، درک نمی‌کنند.

این تمایز از نظر عملی مهم است. هنگامی‌که یک الگوریتم تصمیمات استخدامی می‌گیرد، شرایط اعتباری را تعیین می‌کند یا در دادگاه امتیاز ریسک تعیین می‌کند، عینیت ظاهری آن، انتخاب‌های ایجادشده توسط طراحان آن را پنهان می‌کند. این رساله به‌طور خاص نسبت به واگذاری تصمیمات حساس به سیستم‌های خودکاری که «رحم، شفقت و بخشش را نمی‌شناسند» و رفتار با نتیجه به‌عنوان بی‌طرفانه، صرفاً به این دلیل که یک ماشین آن را تولید کرده است، هشدار می‌دهد.

حضور شرکت Anthropic

شخصی که روز دوشنبه با لئو روی صحنه بود، به‌اندازه خود سند مورد توجه قرار گرفت. کریستوفر اولاه – هم‌بنیان‌گذار Anthropic و رئیس تیم تحقیقاتی تفسیرپذیری آن – در کنار دو کاردینال واتیکان و دو الهی‌دان در ارائه سالن مجمع سخنرانی کرد.

همان‌طور که Decrypt گزارش داد، هنگامی‌که لئو انتخاب شد، پاپ هوش مصنوعی را به‌عنوان سؤال اخلاقی اصلی دوران پاپی خود از همان اولین سخنرانی خود برای کاردینال‌ها مطرح کرد. رساله روز دوشنبه، نسخه رسمی دکترینال این تعهد است.

اولاه از این فرصت استفاده کرد تا آشکارا بگوید که اکثر مدیران اجرایی هوش مصنوعی از آن اجتناب می‌کنند: هر آزمایشگاه اصلی «درون مجموعه‌ای از انگیزه‌ها و محدودیت‌ها عمل می‌کند که گاهی اوقات می‌تواند با انجام کار درست در تضاد باشد» و این‌که بررسی بیرونی – از سوی دولت‌ها، مؤسسات مذهبی و جامعه مدنی – اختیاری نیست. او همچنین جابه‌جایی نیروی کار ناشی از هوش مصنوعی را به‌عنوان یک خطر نزدیک‌مدت که در صورت تحقق در مقیاس وسیع، «یک ضرورت اخلاقی با ابعاد تاریخی» ایجاد می‌کند، مشخص کرد.

لئو قبلاً نسخه سخت‌تری از این استدلال را نوشته بود. این رساله بیان می‌کند: «یک هوش مصنوعی اخلاقی‌تر کافی نیست»، اگر اخلاق پشت آن منحصراً توسط هر کسی که داده‌ها و محاسبات را کنترل می‌کند، تعیین شود. لئو همین استدلال را مستقیماً به مدیران اجرایی سیلیکون ولی در واتیکان در نوامبر ۲۰۲۵ ارائه کرد. واتیکان همچنین در ۱۶ مه یک کمیسیون داخلی جدید هوش مصنوعی را تأیید کرد که از هفت بخش برای هماهنگی کار حاکمیت هوش مصنوعی در سراسر کرسی مقدس در آینده استفاده می‌کند.