نظارت آمریکا بر ریسک‌های هوش مصنوعی در بانک‌ها تشدید شد

نظارت دقیق‌تر نهادهای نظارتی آمریکا بر هوش مصنوعی در بانک‌ها

نهادهای نظارتی بانکی آمریکا در حال تشدید نظارت خود بر نحوه استفاده بانک‌ها از مدل‌های پیشرفته هوش مصنوعی هستند. فدرال رزرو، دفتر کنترل ارز (OCC) و مؤسسه بیمه سپرده فدرال (FDIC) در ۱۳ اکتبر ۲۰۲۶، رویکرد خود را در قبال به‌کارگیری هوش مصنوعی در بانک‌ها تقویت کردند. تمرکز اصلی بر امنیت سایبری، سیستم‌های خودکار فزاینده و توانایی انسان برای مداخله در مواقع اضطراری است.

کلیدهای اضطراری

نکته آخر صرفاً یک اصطلاح نیست. نهادهای نظارتی به طور خاص در مورد “کلیدهای اضطراری” (kill switches) پرس‌وجو می‌کنند؛ مکانیزم‌های خاموش‌کننده اضطراری که برای توقف یک سیستم هوش مصنوعی پیش از ایجاد خسارت طراحی شده‌اند.

حوزه‌های تمرکز

این سه نهاد فدرال بر چند حوزه کلیدی تمرکز کرده‌اند. یکی از این حوزه‌ها، استفاده از عامل‌های هوش مصنوعی (AI agents) در دفاع سایبری است، جایی که نرم‌افزارها به طور فزاینده‌ای برای شناسایی و پاسخ به تهدیدات به صورت مستقل مورد اعتماد قرار می‌گیرند.

حوزه دیگر، نحوه مدیریت سیستم‌هایی است که با ورودی انسانی کمتر و کمتر تصمیم‌گیری می‌کنند. نهادهای نظارتی همچنین خواستار اطمینان از وجود نظارت انسانی کافی هستند. این شامل مکانیزم‌هایی برای جلوگیری از آنچه در تحقیقات “تجاوز هوش مصنوعی” (AI overreach) نامیده می‌شود، یعنی سیستمی که فراتر از دامنه تعیین شده عمل می‌کند، می‌شود.

وابستگی به فناوری شخص ثالث

وابستگی به فناوری شخص ثالث یک موضوع مهم است. بانک‌ها به ندرت تمام ابزارهای هوش مصنوعی را در داخل سازمان خود توسعه می‌دهند و نهادهای نظارتی در حال بررسی فروشندگان پشت این ابزارها، از جمله فناوری‌های توسعه‌یافته در چین هستند.

در حال حاضر، این پرس‌وجوها عمدتاً در جهت جمع‌آوری اطلاعات است و هیچ بانک یا فروشنده خاصی را هدف قرار نمی‌دهد.

حوادث سایبری اخیر

این اقدامات پس از مجموعه‌ای از حوادث ناخوشایند امنیتی رخ می‌دهد. یکی از این حوادث شامل یک عامل هوش مصنوعی توسعه‌یافته در چین بود که بانک‌های کره‌جنوبی را هک کرد.

یک نفوذ جداگانه نیز شامل عامل‌هایی از OpenAI بود. جزئیات متفاوت است، اما نتیجه‌گیری برای ناظران مشابه است: نرم‌افزارهای خودکار می‌توانند به یک سطح حمله تبدیل شوند، چه ابزار مهاجم باشند و چه ابزاری که مورد سوءاستفاده قرار می‌گیرد.

واکنش نهادهای بین‌المللی

نهادهای نظارتی در خارج از آمریکا نیز واکنش نشان می‌دهند. بانک انگلستان و بانک مرکزی اروپا از بانک‌ها خواسته‌اند تا برنامه‌های بازیابی و تاب‌آوری قوی‌تری ارائه دهند و اساساً می‌پرسند که موسسات مالی پس از یک شکست مرتبط با هوش مصنوعی، با چه سرعتی می‌توانند به حالت عادی بازگردند.

اقدامات پیشین

این فشارها بر اساس کارهای قبلی بنا شده است. در ۱۷ آوریل ۲۰۲۶، نهادهای فدرال راهنمایی‌های مدیریت ریسک مدل خود را که شامل قوانین اعتبارسنجی و نظارت بر مدل‌های کمی مورد استفاده بانک‌ها است، بازنگری کردند.

نکته قابل توجه این است که آن به‌روزرسانی، هوش مصنوعی مولد یا عامل را پوشش نمی‌داد. دلیل این امر، سرعت بالای تکامل این فناوری‌ها ذکر شد.

چارچوب نظارتی ایالتی

نهادهای نظارتی ایالتی نیز اقداماتی انجام داده‌اند. در حدود ۱۶ سپتامبر ۲۰۲۶، کنفرانس ناظران بانکی ایالتی (CSBS) یک چارچوب نظارتی اختیاری برای هوش مصنوعی منتشر کرد.

این چارچوب، ساختاری را برای ارزیابی ریسک‌های هوش مصنوعی در بانک‌های دارای مجوز ایالتی در اختیار بازرسان قرار می‌دهد. از آنجایی که این چارچوب اختیاری است، بازرسان می‌توانند از آن به عنوان یک راهنما استفاده کنند نه یک چک‌لیست اجباری.

در مجموع، این اقدامات نشان‌دهنده یک پاسخ لایه‌لایه است. نهادهای فدرال راهنمایی‌های کلی مدل خود را به‌روز کردند، ایالت‌ها ابزارهای بازرسی هوش مصنوعی خود را ساختند و اکنون نهادهای نظارتی فدرال در حال بررسی مستقیم پیشرفته‌ترین کاربردها هستند.

پیامدهای فوری

مهم‌ترین پیامد فوری این اقدامات، هزینه است. بانک‌ها احتمالاً با افزایش هزینه‌های انطباق مواجه خواهند شد، زیرا باید حاکمیت هوش مصنوعی را مستند کنند، وابستگی‌های فروشندگان را ترسیم کنند و مکانیزم‌های خاموش‌کننده را بسازند یا آزمایش کنند.

مدیریت ریسک فروشنده قرار است اهمیت بیشتری پیدا کند. اگر نهادهای نظارتی در حال بررسی فناوری شخص ثالث، از جمله ابزارهای توسعه‌یافته در چین هستند، بانک‌ها ممکن است نیاز داشته باشند اطلاعات بسیار بیشتری در مورد مبدأ و عملکرد داخلی نرم‌افزارهایی که مجوز آن را دریافت می‌کنند، داشته باشند.

مزیت رقابتی

همچنین یک زاویه رقابتی وجود دارد. بانک‌هایی که دارای کنترل‌های قوی و استراتژی‌های انطباق شفاف هستند، می‌توانند مزیت کسب کنند، هم در برابر نهادهای نظارتی و هم در برابر سرمایه‌گذارانی که حاکمیت را به عنوان معیاری برای انضباط ریسک در نظر می‌گیرند.

نکات قابل توجه در آینده

چندین نکته در آینده قابل توجه خواهد بود. اول، اینکه آیا نهادهای فدرال با صدور راهنمایی‌های رسمی برای هوش مصنوعی مولد و عامل، که دسته‌هایی هستند که از به‌روزرسانی ۱۷ آوریل ۲۰۲۶ کنار گذاشته شدند، پیگیری خواهند کرد.

دوم، اینکه آیا این پرس‌وجوها از درخواست‌های اطلاعاتی گسترده به سمت بانک‌ها یا فروشندگان خاص محدود خواهد شد. سوم، هماهنگی بین‌المللی است. با توجه به اینکه بانک انگلستان و بانک مرکزی اروپا همزمان بر برنامه‌های تاب‌آوری فشار می‌آورند، بانک‌های جهانی ممکن است با انتظارات همپوشان در حوزه‌های قضایی مختلف روبرو شوند.