اولین چارچوب هوش مصنوعی توسط ناظر بانکی آمریکا؛ بانک‌ها درگیر عوامل سرکش

اداره نظارت بر ارز (OCC) آمریکا امروز اولین چارچوب نظارتی خود را برای هوش مصنوعی در بانکداری منتشر کرد و به بازرسان دستور داد تا کمتر بر قدرت سیستم‌های هوش مصنوعی تمرکز کنند و بیشتر به آنچه در صورت بروز خطا رخ می‌دهد، توجه نمایند.

چارچوب نظارتی جدید

این چارچوب OCC به نگرانی‌های مربوط به هوش مصنوعی می‌پردازد، هرچند این نهاد نظارتی صدور آن را به حوادث خاصی مرتبط نکرده است. در بخشی که به تاب‌آوری عملیاتی می‌پردازد، این سازمان هشدار می‌دهد که عوامل خارجی که توسط مشتریان، شرکت‌های فین‌تک یا سایر کسب‌وکارها اداره می‌شوند، می‌توانند ریسک‌هایی را برای بانک‌ها ایجاد کنند، حتی زمانی که بانک‌ها کنترلی بر این سیستم‌ها ندارند. این چارچوب پیشنهاد می‌کند که بازرسان اقداماتی از جمله تأیید هویت، مجوزهای تفویض شده، محدودیت‌های تراکنش، نظارت و قابلیت تعلیق یا لغو دسترسی را در نظر بگیرند.

چالش‌های دسترسی به حساب‌ها

این دستورالعمل‌ها با هدف رفع معضل چگونگی اجازه دادن به مشتریان برای استفاده از دستیارهای هوش مصنوعی جهت مدیریت امور مالی خود، بدون دادن دسترسی نامحدود به نرم‌افزارهای خودکار به حساب‌هایی که بانک‌ها در حال حاضر با آن مواجه هستند، تدوین شده‌اند. راهنمایی جدید OCC کمتر از دو هفته پس از گزارش‌هایی منتشر می‌شود که حاکی از کشف عوامل هوش مصنوعی شخص ثالث غیرمجاز در حساب‌های مشتریان توسط بانک‌های بزرگ بود، عواملی که گاهی اقداماتی فراتر از دستورالعمل‌های کاربران انجام می‌دادند.

بر اساس گزارشی از Axios در ۲۲ اکتبر، مورگان استنلی در حال مسدود کردن عوامل خارجی بود، در حالی که JPMorgan، Bank of America و Citi دسترسی را محدود می‌کردند. مدیران بانک وضعیت را «وحشتناک» توصیف کرده و این سوال را مطرح کردند که چه کسی کنترل یک عامل خودکار را پس از دسترسی به پول فرد بر عهده دارد.

تمایز بین پیچیدگی فنی و ریسک

چارچوب OCC تمایزی بین پیچیدگی فنی یک سیستم هوش مصنوعی و خسارتی که می‌تواند ایجاد کند، قائل می‌شود. این نهاد نظارتی اعلام کرد که یک عامل ساده که مجاز به شروع تراکنش‌های مالی است، ممکن است ریسک بیشتری نسبت به یک مدل پیشرفته‌تر که به نوشتن اسناد داخلی محدود شده است، ایجاد کند.

بر اساس این چارچوب ۲۲ صفحه‌ای، بازرسان می‌توانند پیامدهای شکست، قابلیت برگشت‌پذیری اقدامات و میزان کنترلی که انسان‌ها بر سیستم حفظ می‌کنند را در نظر بگیرند. این سازمان چهار سطح ریسک را مشخص کرده است. عوامل پرداخت کاملاً خودکار و سیستم‌های تصمیم‌گیری اعتباری بلادرنگ در بالاترین دسته قرار می‌گیرند، در حالی که ابزارهای بهره‌وری داخلی پایه در پایین‌ترین سطح قرار دارند. سیستم‌های پرخطرتر ممکن است نیازمند محدودیت‌های سخت‌گیرانه‌تر در خودمختاری، آزمایش مستقل و تأیید انسانی قبل از انجام اقدامات مهم باشند.

سازوکارهای حفاظتی

این چارچوب همچنین به سیستم‌های هوش مصنوعی که در حین اتخاذ تصمیمات مضر به کار خود ادامه می‌دهند، می‌پردازد. سازوکارهای حفاظتی پیشنهادی شامل قطع‌کننده‌های مدار، محدودیت‌های نرخ، مجوزهای محدود و کنترل‌های خاموش‌سازی اضطراری است. این ملاحظات به ویژه برای عوامل خارجی که در گزارش‌های قبلی Axios توصیف شده‌اند، مرتبط است، جایی که بانک‌ها برای تمایز نرم‌افزارهای مجاز توسط مشتری از سیستم‌هایی که فراتر از مجوزهای تعیین شده خود عمل می‌کردند، دچار مشکل بودند.

OCC تأکید کرد که این سند الزامات نظارتی جدید یا استانداردهای قابل اجرا برای بانک‌ها ایجاد نمی‌کند. در عوض، این چارچوب راهی را برای بازرسان جهت ارزیابی هوش مصنوعی در چارچوب دسته‌های موجود ریسک عملیاتی، انطباق و امنیت سایبری فراهم می‌کند. بانک‌ها ملزم به ایجاد یک دسته ریسک مجزا برای هوش مصنوعی نیستند.

اصطلاح “ابر هوش”

این سند از اصطلاح «ابر هوش» (Super Intelligence) استفاده می‌کند که دولت دونالد ترامپ بر استفاده از آن به جای «هوش مصنوعی» اصرار دارد، اما دامنه آن شامل هوش مصنوعی متعارف و «عوامل خودکار» است و نه فقط سیستم‌های فرضی با هوشی فراتر از قابلیت‌های انسانی. این چارچوب هوش مصنوعی مورد استفاده در پرداخت‌ها، تشخیص تقلب، خدمات مشتری و سایر عملیات بانکی را پوشش می‌دهد. همچنین ملاحظات ریسک خود را به عوامل هوش مصنوعی خارجی که از طریق کانال‌های بانکی متصل می‌شوند، گسترش می‌دهد.

OCC اعلام کرد که قصد دارد این راهنمایی را با پیشرفت فناوری به‌روز کند. در حال حاضر، مقیاس ریسک توصیفی آن، عوامل پرداخت خودکار را در بالاترین دسته ریسک قرار می‌دهد، صرف نظر از اینکه در آزمایش‌ها چقدر خوب عمل می‌کنند.