آیا هوش مصنوعی میتواند زمینهساز یک بحران مالی شود؟ جیلین تت، رئیس هیئت تحریریه و دبیر ارشد بخش آمریکا در فایننشال تایمز، در یادداشتی که ۳ مهر ۱۴۰۵ منتشر شده، این پرسش را از دو زاویه بررسی میکند: نخست ریسکهایی مانند حملات سایبری به زیرساخت مالی، تمرکز بانکها بر ارائهدهندگان فناوری و رفتارهای جدید بازار؛ و دوم، تلاش رگولاتورها برای استفاده از خودِ هوش مصنوعی در نظارت. تجربه یک هکاتون جهانی «رگولاتور عاملمحور» در کمبریج نشان میدهد برخی نهادهای ناظر دیگر منتظر تدوین چارچوبهای جامع نماندهاند و در حال آزمایش عاملهای هوش مصنوعی برای کشف تقلب، رصد جریان سرمایه و شناسایی آسیبپذیریها هستند.
آیا هوش مصنوعی میتواند یک بحران مالی به راه بیندازد؟ این یکی از پرسشهایی است که همزمان با برگزاری مجمع عمومی سازمان ملل در نیویورک، در بحثهای مربوط به آینده هوش مصنوعی مطرح شده است.
یک دسته از نگرانیها به خودِ رونق اقتصادی هوش مصنوعی مربوط میشود: احتمال افت شدید ارزش سهام شرکتهای مرتبط با AI یا بروز مشکل در بدهیهایی که برای توسعه مراکز داده ایجاد شدهاند. اما نگرانی دیگری نیز وجود دارد؛ اینکه بازیگران مخرب از مدلهای قدرتمند هوش مصنوعی برای حمله سایبری به زیرساختهای حیاتی، از جمله سامانههای مالی، استفاده کنند.
جیلین تت مینویسد بیل گیتس، بنیانگذار مایکروسافت و رئیس بنیاد گیتس، در گفتوگو با او هوش مصنوعی را «با فاصله، خطرناکترین فناوریای که تاکنون ساخته شده» توصیف کرده است. به روایت تت، گیتس خواهان استفاده دولتها و شرکتهای فناوری از سامانههای نظارتی مبتنی بر هوش مصنوعی برای شناسایی و، در صورت امکان، جلوگیری از استفاده مخرب از این فناوری است.
در سطح دولتها نیز گفتوگو درباره سازوکارهای مدیریت این ریسکها آغاز شده است. آمریکا و چین در سپتامبر ۲۰۲۶ درباره ایجاد یک سازوکار اطلاعرسانی برای رخدادهای هوش مصنوعی با پیامدهای امنیت ملی گفتوگو کردند؛ طرحی که رسانهها از آن با تعبیر «خط تماس هوش مصنوعی» یاد کردهاند، اما در زمان انتشار این مطلب هنوز سازوکار نهایی و عملیاتیشدهای نبود.
تنظیمگری نمیتواند منتظر قانونگذاری بماند
از نگاه تت، در کنار مذاکرات کلان دولتها، تحولی کمسروصداتر در خود نهادهای ناظر در جریان است: برخی رگولاتورها میخواهند برای کنترل پیامدهای هوش مصنوعی، از هوش مصنوعی عاملمحور (Agentic AI) استفاده کنند. به بیان ساده، آنها در حال آزمایش این ایدهاند که با ابزارهای همان فناوری، بخشی از ریسکهای ناشی از آن را شناسایی و مدیریت کنند.
نمونهای از این رویکرد در «هکاتون جهانی رگولاتور عاملمحور» دیده شد؛ برنامهای مرتبط با «ابتکار نوآوری و تنظیمگری دیجیتال کمبریج» که تت نیز در متن اصلی تصریح میکند مشاور آن است. این برنامه با مشارکت نهادها و بازیگران حوزه تنظیمگری، فناوری مالی و فناوری برگزار شد و هدف آن ساخت نمونههای عملی از عاملهای هوش مصنوعی برای نهادهای عمومی و رگولاتورها بود.
آمار نهایی برگزارکننده نشان میدهد مرحله مقدماتی هکاتون ۳۳۶ تیم از بیش از ۶۵ کشور را جذب کرد. از میان آنها ۳۶ تیم به مرحله ساخت نمونه اولیه رسیدند و ۱۹ تیم نهایی از نهادهای تنظیمگر یا سایر نهادهای عمومی بودند یا با آنها ارتباط داشتند. بیش از ۲۶۰ ناظر رگولاتوری نیز در جلسات ارائه و رأیگیری شرکت کردند. بنابراین عدد «نزدیک به ۳۰۰ تیم» در متن اولیه مقاله را میتوان با آمار نهایی برگزارکننده دقیقتر کرد.
تت از این تجربه سه نتیجه اصلی میگیرد. نخست اینکه رگولاتورها نمیتوانند برای همه مسائل هوش مصنوعی منتظر قوانین تازه یا توافقهای بینالمللی بمانند. سرعت توسعه فناوری در بسیاری از موارد بیشتر از فرایند قانونگذاری است و نهادهای ناظر ناچارند بررسی کنند چگونه میتوان از اختیارات موجود برای مواجهه با ریسکهای تازه استفاده کرد.
یکی از مقامهای حاضر در نشست، به روایت تت، این وضعیت را چنین توصیف کرده است: «باید در استفاده از اختیاراتی که همین حالا در قانون داریم، بسیار خلاق باشیم.»
وقتی ریسک بیرون از مرز سنتی نظارت شکل میگیرد
یکی از دشواریهای اصلی این است که همه ریسکهای فناوری در محدوده مستقیم اختیارات بانکهای مرکزی یا رگولاتورهای مالی ایجاد نمیشوند. وابستگی مؤسسات مالی به تعداد محدودی از ارائهدهندگان زیرساخت ابری نمونه روشنی از این مسئله است: اختلال در یک تأمینکننده بزرگ میتواند همزمان بر تعداد زیادی از بانکها و خدمات مالی اثر بگذارد.
بریتانیا در سال ۲۰۲۶ نخستین مرحله از رژیم نظارتی «طرفهای ثالث حیاتی» را عملیاتی کرد. از ۱۳ ژوئیه، بانک انگلستان، اداره مقررات احتیاطی و سازمان راهبری مالی بریتانیا نظارت مشترک بر چهار ارائهدهنده تعیینشده شامل Amazon Web Services EMEA ،Google Cloud EMEA ،Microsoft Ireland Operations و Oracle Corporation UK را آغاز کردند. تمرکز این چارچوب بر تابآوری خدماتی است که اختلال در آنها میتواند به ثبات نظام مالی بریتانیا آسیب بزند.
نگرانی مشابهی در آمریکا نیز دیده شده است. اسکات بسنت، وزیر خزانهداری آمریکا، و جروم پاول، رئیس وقت فدرال رزرو، در ۷ آوریل ۲۰۲۶ با مدیران شماری از بانکهای بزرگ درباره ریسکهای سایبری ناشی از مدل Claude Mythos انتروپیک جلسه برگزار کردند. محور نگرانی، توان مدلهای پیشرفته برای شناسایی و بهرهبرداری از آسیبپذیریهای نرمافزاری بود.
این موارد نشان میدهد تنظیمگری هوش مصنوعی صرفاً مسئله کنترل خود مدلها نیست؛ وابستگی زیرساختی بانکها، امنیت سایبری و ارتباط میان رگولاتورهای مالی و نهادهای فناوری نیز بخشی از مسئلهاند.
«توضیحپذیری» دیگر بهتنهایی کافی نیست
دومین نکته مورد توجه تت، مفهوم توضیحپذیری (Explainability) است؛ اینکه تصمیم یک مدل تا چه اندازه برای انسان شفاف، قابل تفسیر و قابل پاسخگویی باشد.
رگولاتورهای مالی سالهاست درباره لزوم توضیحپذیری مدلهایی که بر تصمیمهای مالی اثر میگذارند بحث میکنند، اما هرچه مدلها پیچیدهتر میشوند، توضیح گامبهگام منطق درونی آنها دشوارتر میشود.
تت مینویسد یک واکنش ممکن، کنارگذاشتن یا ممنوعکردن این ابزارهاست، اما چنین گزینهای را واقعبینانه نمیداند. به برداشت او، بخشی از رگولاتورها بهتدریج توجه بیشتری به نتیجه و رفتار مدل نشان میدهند: خروجی مدل باید قابل پایش باشد، محدودیتهای عملیاتی و سازوکارهای توقف اضطراری برای آن تعریف شود و مسئولیت حقوقی تصمیمها نیز روشن باقی بماند.
این تغییر رویکرد، مسئله توضیحپذیری را حذف نمیکند؛ بلکه سؤال نظارتی را تا حدی تغییر میدهد: اگر فهم کامل سازوکار درونی مدل ممکن نباشد، چگونه میتوان رفتار آن را آزمود، محدود کرد، ثبت کرد و در صورت خطا مسئولیت را مشخص کرد؟
رگولاتورها هم باید ابزار هوش مصنوعی بسازند
سومین نتیجه تت این است که نهادهای ناظر برای شناخت بهتر فناوری نمیتوانند فقط از بیرون به آن نگاه کنند. آنها باید خود نیز ابزارهای هوش مصنوعی بسازند و آزمایش کنند.
در هکاتون کمبریج، نمونههایی برای نظارت بر پرداخت و تجارت عاملمحور، کشف تقلب و کلاهبرداری، زیرساخت بازار غیرمتمرکز، احراز هویت عاملها و شناسایی دستکاری بازار یا رفتار گلهای طراحی شد. خود برگزارکنندگان نیز هدف برنامه را توسعه نمونههای «عملی، توضیحپذیر و قابل استقرار» برای بانکهای مرکزی، رگولاتورها و دیگر نهادهای عمومی اعلام کرده بودند.
تت به تنوع جغرافیایی ایدههای ارائهشده نیز اشاره میکند و مینویسد برخی از طرحهای خلاقانه از کشورهایی مانند هند، پاکستان، رواندا، کنیا و امارات متحده عربی آمدهاند. دادههای برگزارکننده حضور تیمهایی از بیش از ۶۵ کشور را تأیید میکند و برای نمونه، تیمی با مشارکت بانک ملی رواندا در میان فینالیستهای حوزه مقابله با تقلب قرار داشت.
امارات نیز جدا از این هکاتون، برنامهای دولتی برای استفاده گسترده از هوش مصنوعی عاملمحور دارد. دولت امارات در آوریل ۲۰۲۶ اعلام کرد هدفش این است که ظرف دو سال، ۵۰ درصد بخشها، خدمات و عملیات دولت فدرال را به استفاده از مدلهای Agentic AI منتقل کند. این صورتبندی دقیقتر از تعبیر «نیمی از خدمات دولتی تا اواسط ۲۰۲۸» است که در متن اولیه آمده بود.
از نظارت واکنشی به نظارت پیشگیرانه
این آزمایشها هنوز به این معنا نیست که رگولاتورها راهحلی برای ریسکهای سیستمی هوش مصنوعی یافتهاند. بسیاری از پرسشها درباره مسئولیت حقوقی، کیفیت داده، خطاهای مدل، تمرکز زیرساخت، امنیت سایبری و حدود مداخله انسان همچنان باز هستند.
اما جهت حرکت قابل توجه است: همان فناوریای که میتواند سرعت و پیچیدگی رفتار بازارها، کلاهبرداری یا حملات سایبری را افزایش دهد، ممکن است ابزار رگولاتورها برای تحلیل سریعتر همان رفتارها نیز باشد.
این موضوع برای صنعت مالی اهمیت ویژهای دارد. اگر عاملهای هوش مصنوعی بتوانند مستقلتر از نرمافزارهای سنتی تصمیم بگیرند و عمل کنند، مدل نظارت پس از وقوع تخلف با محدودیت بیشتری روبهرو میشود. رگولاتور به ابزارهایی نیاز خواهد داشت که بتوانند رفتار و ریسک را با سرعتی نزدیکتر به خود سامانههای تحت نظارت شناسایی کنند.
تت در پایان استدلال میکند که همکاری دولتها برای مدیریت ریسکهای کلان هوش مصنوعی باید در کنار این آزمایشهای عملی ادامه پیدا کند. از نگاه او، نوآوری در هوش مصنوعی نباید فقط در اختیار شرکتهای فناوری باشد؛ نهادهای عمومی نیز برای فهم بهتر فناوری و تقویت ظرفیت نظارتی خود به تجربه عملی با آن نیاز دارند.
نکته تعیینکننده این است که استفاده رگولاتور از هوش مصنوعی، خود به مسئلهای تازه برای حکمرانی تبدیل میشود: چه کسی بر عاملهایی نظارت میکند که قرار است بر بازار و سایر عاملهای هوش مصنوعی نظارت کنند؟
درباره نویسنده
جیلین تت (Gillian Tett) رئیس هیئت تحریریه و دبیر ارشد بخش آمریکا در فایننشال تایمز است و هر هفته درباره موضوعات اقتصادی، مالی، سیاسی و اجتماعی مینویسد. او پیشتر سمتهایی از جمله مدیرمسئول آمریکا، معاون سردبیر، دبیر بازارهای سرمایه، رئیس دفتر توکیو و خبرنگار فایننشال تایمز در روسیه و بروکسل را بر عهده داشته است. تت پیش از ورود به روزنامهنگاری مالی، در رشته انسانشناسی فرهنگی فعالیت میکرد و این پیشینه در بخش مهمی از نوشتههای او درباره بازارها، سازمانها و رفتار اقتصادی دیده میشود. او در سال ۲۰۱۴ عنوان «ستوننویس سال» جوایز مطبوعاتی بریتانیا را دریافت کرد و پیشتر نیز «روزنامهنگار سال» و «روزنامهنگار اقتصادی سال» شده بود.
