خطرات سیستمیک و چارچوب سیاستی برای هوش مصنوعی در حوزه مالی

به گزارش رویداد روز، تمرکز بر ریسک‌های حریم خصوصی، امنیت، قابلیت توضیح، قابلیت اطمینان و به‌ویژه ریسک سیستمی ناشی از همگرایی مدل‌ها، تمرکز بازار و ابهام است.

در حالی که هوش مصنوعی پتانسیل بهبود کارایی، شمول و تاب‌آوری در حوزه مالی را دارد، آسیب‌پذیری‌های جدیدی – از نابرابری در دسترسی گرفته تا ریسک‌های سیستمی – را نیز ایجاد می‌کند که نیازمند پاسخ‌های نظارتی تطبیقی است. خطرات مرتبط با استفاده از

هوش مصنوعی GenAI گسترده هستند:

• نگرانی‌های مربوط به حریم خصوصی و مسائل مربوط به انصاف (مثلاً القای تبعیض نامطلوب، سوگیری الگوریتمی مدل‌ها از داده‌های آموزشی ناقص)،
• تهدیدات امنیتی (مثلاً تسهیل حملات سایبری یا خروجی مخرب)،
• نقض مالکیت معنوی (مثلاً نقض مواد قانونی محافظت‌شده)،
• عدم قابلیت توضیح (مثلاً عدم قطعیت در مورد نحوه تولید یک پاسخ)،
• مسائل مربوط به قابلیت اطمینان (مثلاً خروجی‌های تصادفی منجر به توهم)
• و اثرات زیست‌محیطی (مثلاً انتشار CO2 و مصرف آب).

علاوه بر این، هوش مصنوعی منابع جدیدی از ریسک سیستمی را معرفی می‌کند. ابهام و عدم قابلیت توضیح مدل‌های هوش مصنوعی، پیش‌بینی یا درک ریسک‌های سیستمی را تا زمان تحقق آنها دشوار می‌کند و بر نیاز به تنوع در طراحی مدل و پروتکل‌های تست تنش قوی تأکید می‌کند. علاوه بر این، استفاده از مدل‌های هوش مصنوعی ممکن است همبستگی در پیش‌بینی‌ها و استراتژی‌ها را افزایش دهد و خطر سقوط ناگهانی را تشدید کند، که با سرعت، پیچیدگی و ابهام معاملات مبتنی بر هوش مصنوعی تشدید می‌شود.

در نهایت، افزایش بازده به مقیاس در خدمات هوش مصنوعی ممکن است منجر به یک بازار متمرکز برای برخی از خدمات هوش مصنوعی به واسطه‌های مالی (یعنی خدمات ابری) شود و ریسک‌های سیستمی را افزایش دهد.

برای مواجهه با این چالش‌ها، سه مثال چالش‌های سیاست‌گذاری را نشان می‌دهند:

1. سیستم‌های هوش مصنوعی که به عنوان عامل عمل می‌کنند: سیستم‌های هوش مصنوعی خودمختار چالش‌هایی مانند ناهماهنگی اهداف، ابهام و ظرفیت برای سوءرفتارهای نوظهور را ایجاد می‌کنند. این چالش‌ها مستلزم پاسخ‌های نظارتی هدفمند، از جمله مسئولیت مبتنی بر نتیجه (مسئول دانستن شرکت‌ها در قبال آسیب‌های ناشی از هوش مصنوعی، صرف نظر از نیت)، تفسیرپذیری اجباری تصمیمات (اطمینان از اینکه مصرف‌کنندگان می‌توانند به نتایج ناعادلانه اعتراض کنند)، آزمون تنش سیستم و استانداردسازی حاکمیت (حاکمیت ترکیبی انسان و ماشین) است.

2. عدم تقارن اطلاعاتی جدید در استفاده از اطلاعات عمومی: هوش مصنوعی نابرابری‌ها در پردازش داده‌ها و دسترسی به داده‌های جایگزین را تشدید کرده و به‌روزرسانی چارچوب‌های نظارتی سنتی (مثلاً قانون ثبت اختراع) را ضروری ساخته است. سیاست‌گذاران باید با استانداردسازی افشای اطلاعات شرکت‌ها، ترویج استفاده منصفانه از داده‌های جایگزین و پرداختن به رفتار الگوریتمی برای جلوگیری از تحریف‌ها (مثلاً تبانی الگوریتمی)، دسترسی برابر را بازتعریف کنند.

3. تعهد و انعطاف‌پذیری در قراردادهای هوش مصنوعی: ایجاد تعادل بین ارزش تعهد و نیاز به انعطاف‌پذیری در قراردادهای مبتنی بر هوش مصنوعی می‌تواند از طریق محرک‌های از پیش تعریف‌شده برای مذاکره مجدد (مثلاً شاخص‌های اقتصاد کلان)، قراردادهای ترکیبی هوش مصنوعی-انسان و با مکانیسم‌های سازگار با انگیزه که مانع از رفتار استراتژیک می‌شوند و در عین حال انعطاف‌پذیری لازم را فراهم می‌کنند، محقق شود.

ادغام هوش مصنوعی در سیستم‌های مالی، یک تحول ساختاری است، نه یک تعدیل حاشیه‌ای. مزایای آن – از نظر کارایی، دقت و شمول – قابل توجه است، اما خطرات آن برای ثبات، عدالت و حاکمیت نیز به همین ترتیب است. اگر سیاست‌گذاران با این چالش روبرو شوند، می‌توان از هوش مصنوعی برای بهبود عملکرد و شمول سیستم مالی استفاده کرد. اگر این کار را نکنند، همین فناوری‌ها ممکن است پایه‌هایی را که اعتماد مالی به آنها وابسته است، تضعیف کنند.