بانک مرکزی امارات متحده عربی دستورالعمل جامعی را در خصوص پذیرش و استفاده مسئولانه از هوش مصنوعی و یادگیری ماشین در بخش مالی این کشور صادر کرد. این اقدام، گامی مهم در عرصه قانون‌گذاری برای محافظت از مصرف‌کنندگان در عین تسهیل نوآوری در امور مالی دیجیتال به شمار می‌رود.

این چارچوب برای تمامی مؤسسات مالی دارای مجوز اعمال می‌شود و هدف آن اطمینان از این موضوع است که استقرار سریع هوش مصنوعی در خدمات بانکی، بیمه و مالی، حقوق مصرف‌کننده، شفافیت یا ثبات مالی را به خطر نیندازد. به گفته این نهاد نظارتی، این اقدام نشان‌دهنده رویکرد پیشگیرانه آن نسبت به تحول دیجیتال بوده و با چشم‌انداز گسترده‌تر امارات برای تبدیل شدن به یک قطب جهانی در خدمات مالیِ مبتنی بر هوش مصنوعی همسو است.

بانک مرکزی اعلام کرد که این دستورالعمل ساختار روشنی را برای استقرار ایمن و مسئولانه فناوری‌های هوش مصنوعی و یادگیری ماشین ایجاد کرده و مؤسسات مالی را ملزم می‌کند تا حاکمیت، پاسخگویی و استانداردهای اخلاقی را در سیستم‌های تصمیم‌گیری خودکار نهادینه کنند. این مقررات همچنین به دنبال تقویت اعتماد عمومی به استفاده روزافزون از خدمات مالی مبتنی بر هوش مصنوعی است؛ از سیستم‌های امتیازدهی اعتباری و کشف تقلب گرفته تا چت‌بات‌های خدمات مشتری و محصولات مالی شخصی‌سازی‌شده.

خالد محمد بالعمى، رئیس کل بانک مرکزی امارات، در این باره گفت که هدف از این دستورالعمل، ایجاد تعادل میان نوآوری و حمایت همه‌جانبه از مصرف‌کننده است. وی افزود: «این سند راهنما، چارچوب روشنی را برای استفاده مسئولانه از هوش مصنوعی و یادگیری ماشین در بخش مالی پایه‌گذاری می‌کند؛ به‌گونه‌ای که ضمن ارتقای حمایت از مصرف‌کننده و تقویت اصول حاکمیت و شفافیت، بر اهمیت نظارت انسانی و الزامات حفاظت از داده‌ها تأکید دارد.»

تحلیلگران معتقدند این اقدام امارات در شرایطی صورت می‌گیرد که نهادهای نظارتی در سراسر جهان در حال تشدید نظارت بر استفاده از هوش مصنوعی در امور مالی هستند تا با خطرات مرتبط با حریم خصوصی داده‌ها، سوگیری سیستم‌ها و تصمیم‌گیری‌های خودکار مقابله کنند.

بر اساس تحلیل اخیر شعبه خاورمیانه شرکت «PwC»، مؤسسات مالی در سراسر منطقه به سرعت در حال ادغام هوش مصنوعی در عملیات اصلی خود هستند، اما شفافیت نظارتی برای اطمینان از استقرار مسئولانه این فناوری ضروری است.

الزامات حاکمیتی و مقابله با سوگیری

بر اساس دستورالعمل جدید بانک مرکزی، مؤسسات مالی باید چارچوب‌های حاکمیتی مدونی را برای هوش مصنوعی و یادگیری ماشین، متناسب با مقیاس و پیچیدگی عملیات خود ایجاد کنند. هیئت‌مدیره و مدیریت ارشد مستقیماً در قبال سیستم‌ها و نتایج مرتبط با هوش مصنوعی (از جمله انتخاب مدل، استقرار، نظارت و مدیریت ریسک) پاسخگو خواهند بود.

مؤسسات موظف‌اند فهرستی دقیق از تمامی مدل‌های هوش مصنوعی خود تهیه کرده و گزارش‌های منظمی از عملکرد، خطرات و میزان انطباق آن‌ها را به مدیریت ارشد ارائه دهند. این نهاد نظارتی همچنین بر رعایت انصاف و عدم تبعیض تأکید کرده و مؤسسات را ملزم ساخته است تا اطمینان حاصل کنند که تصمیمات مبتنی بر هوش مصنوعی منجر به رفتار سوگیرانه یا ناعادلانه با مشتریان نمی‌شود؛ به‌ویژه در حوزه‌های حساسی مانند وام‌دهی، صدور بیمه‌نامه یا قیمت‌گذاری.

شفافیت و نظارت انسانی

شفافیت و قابلیت توضیح، یکی دیگر از ارکان اصلی این چارچوب است. مؤسسات مالی باید به وضوح به مشتریان اعلام کنند که در حال تعامل با سیستم‌های هوش مصنوعی هستند و توضیحات قابل‌فهمی درباره نحوه اتخاذ تصمیمات خودکار ارائه دهند. همچنین، در شرایطی خاص باید به مشتریان این امکان داده شود که درخواست بازبینی انسانی کنند، خواستار شفاف‌سازی شوند یا از پذیرش تصمیمات مبتنی بر هوش مصنوعی انصراف دهند.

گزارش چشم‌انداز فناوری بانکداری جهانی شرکت «دیلویت» (Deloitte) نیز با تأیید این روند نشان می‌دهد که نهادهای نظارتی در مراکز مالی پیشرو، برای جلب اعتماد مشتریان، تأکید روزافزونی بر اصول «هوش مصنوعی مسئولانه» دارند.

حریم خصوصی، امنیت داده‌ها و برون‌سپاری

دستورالعمل بانک مرکزی همچنین بر اهمیت کیفیت داده‌ها، حریم خصوصی و امنیت سایبری تأکید می‌کند. مؤسسات مالی باید اطمینان حاصل کنند که داده‌های مورد استفاده در سیستم‌های هوش مصنوعی با قوانین حفاظت از داده‌های شخصی امارات مطابقت دارد. اصول «حریم خصوصی و امنیت در طراحی» باید در سیستم‌های هوش مصنوعی گنجانده شوند.

نظارت انسانی همچنان در مرکز این چارچوب قرار دارد. بانک مرکزی مقرر کرده است که سیستم‌های هوش مصنوعی باید تحت نظارت انسانیِ معنادار فعالیت کنند. نهاد نظارتی همچنین نسبت به استفاده از هوش مصنوعی برای فروشِ تحت فشار یا هدف قرار دادن مشتریان با محصولات مالی نامناسب هشدار داد.

این دستورالعمل شامل مقررات سخت‌گیرانه‌ای برای برون‌سپاری و مدیریت ریسک شخص ثالث نیز می‌شود. تحلیلگران صنعت فین‌تک بر این باورند که این اقدام، جایگاه امارات را به عنوان یک قطب مالی آینده‌نگر و قانون‌مند ارتقا می‌دهد؛ جایی که پیشرفت تکنولوژی با ضمانت‌های اجرایی روشن برای محافظت از مصرف‌کنندگان همراه است.