نگاهی به پتانسیل‌های هوش مصنوعی در صنعت بانکداری

هوش مصنوعی مفهومی بود که در طول دهه ۱۹۸۰ و ۱۹۹۰ میلادی، در بسیاری از فیلم‌های علمی تخیلی به نمایش گذاشته می‌شد. از هوش مصنوعی در این فیلم‌ها اغلب برای القای وحشت و ترسیم ویران‌شهر آینده؛ جایی که بشریت در حال مبارزه با وسوسه‌های فناوری پیشرفته خواهد بود، استفاده می‌شد. با عبور از آن دوران، امروزه ما در عصر جدیدی زندگی می‌کنیم که توسط داده تعریف می‌شود و هوش مصنوعی ایفاگر نقش اصلی در بسیاری از بخش‌هاست.

این تغییر تدریجی به لطف توانایی ما در ذخیره‌سازی، سازمان‌دهی و تجزیه‌وتحلیل کارآمد داده‌ها رخ داده و بعدتر به وسیله اینترنت اشیا که داده‌ها و اطلاعات بیشتری در خصوص زندگی روزمره‌مان فراهم می‌آورد، تکمیل شده است. اساساً در دسترس بودن داده و توانایی ما در استفاده از آن‌ها به وسیله قدرت محاسباتی بیشتر و ارزان‌تر، بازی را تغییر داده است.

---

هوش مصنوعی تا چه اندازه قابل‌اعتماد است؟

---

به تدریج افراد بیشتری به ارزشی که هوش مصنوعی می‌تواند به‌طور فزاینده‌ای به جهان غنی از داده ما اعطا کند، پی برده‌اند. با این حال نیاز جدید و در حال ظهوری که امروزه برای مصرف‌کنندگان به وجود آمده و در قالب یک سوال مطرح می‌شود این است که هوش مصنوعی تا چه اندازه قابل‌اعتماد است؟ احساس نیاز به یک هوش مصنوعی قابل توضیح (XAI) به شدت وجود دارد.

از آنجایی که مردم فرآیندهایی که منجر به ایجاد بینش‌ها و تصمیمات سیستم‌های هوش مصنوعی می‌شود را درک نمی‌کنند و همچنین نمی‌توانند به داده‌هایی که آن‌ها را تعیین می‌کند دسترسی داشته باشند، چرا باید به این تصمیمات و بینش‌ها اعتماد کنند؟

اگر هوش مصنوعی شفاف نباشد، آیا می‌توانیم مطمئن شویم که این تصمیمات دقیق هستند و سوگیری در آن وجود ندارد؟ این سؤال مهمی است که نیاز به پاسخی روشن دارد. فناوری XAI می‌تواند به کمک ما بیاید.

اخیراً برخی از شرکت‌های پیشرو جهانی نسبت به سوگیری الگوریتم‌های هوش مصنوعی در خدمات و محصولات‌شان مورد سرزنش واقع شده‌اند. شاید مشهورترین این موارد به شرکت‌های کارت اعتباری مربوط شود که الگوریتم‌های هوش مصنوعی که آن‌ها در رتبه‌بندی اعتباری‌شان به کار گرفته‌اند مردان را ۱۰ تا ۲۰ برابر بالاتر از همسرانشان رتبه‌بندی کرده بود. این موضوع جنجال زیادی به پا کرد و در نهایت منجر به این شد که دپارتمان خدمات مالی ایالت نیویورک به بررسی آن بپردازد.

در خارج از صنعت مالی نیز بازیگران اصلی این حوزه به دلیل استفاده از هوش مصنوعی جانب‌دارانه زیر ذره‌بین منتقدان قرار گرفته‌اند. اگر این حقیقت را در نظر بگیریم که اغلب شرکت‌ها امروزه با سیستم‌های هوش مصنوعی جعبه‌سیاه (Blackbox) کار می‌کنند، از اینکه مصرف‌کنندگان اعتماد کاملی به سیستم‌های هوش مصنوعی نداشته باشند، متعجب نخواهید شد.

این شک و تردید و عدم اعتماد قابل توجیه است، چراکه سیستم‌های هوش مصنوعی غیرشفاف صرفا به داده‌ها متکی هستند و اگر داده‌ و ورودی‌ نامناسبی به آن‌ها داده شود، می‌توانند بر همین اساس تصمیم‌گیری‌های ضعیفی انجام دهند.

این سیستم‌های جعبه‌سیاه همچنین کاربر نهایی را در تاریکی رها می‌کنند و هیچ اقدامی برای جلب اعتماد مشتری به فناوری انجام نمی‌دهند. اغلب شرکت‌ها تا زمانی که دیگر خیلی دیر شده است، معمولاً نیازی احساس نمی‌کنند که سیستم‌های هوش مصنوعی‌شان را از نظر سوگیری مورد بررسی قرار دهند.

---

XAI؛ یک سناریو برد-برد برای مشتریان و شرکت‌ها

---

راه‌حل همه این مسائل استفاده از سیستم‌های XAI جعبه‌سفید است که به گونه‌ای ساده نحوه کار نرم‌افزار و چگونگی تصمیم‌گیری را توضیح می‌دهد و همچنین قادر است با هدف حداکثر کردن رضایت مشتری به سوالاتی که بعدها برای آنان پیش می‌آید نیز پاسخ دهد.

ایجاد شفافیت به وسیله توضیح چگونگی و چرایی اتخاذ تصمیمات، کلید اصلی ایجاد اعتماد است. XAI می‌تواند به مشتریان و شرکت‌ها کمک کند تا بدانند برای دستیابی به نتیجه متفاوت چه‌کاری باید انجام دهند. در عمل این روند می‌تواند منجر به پذیرش یک درخواست وثیقه یا وامی شود که پیش از این (به علت اشتباهات الگوریتمی) مورد پذیرش قرار نگرفته است.

XAI یک سناریو برد-برد برای مشتریان و شرکت‌هاست. از یک طرف مشتری می‌تواند از دیدگاه‌های ارائه شده توسط فناوری XAI برای بهبود وضعیت خود بهره ببرد و از طرف دیگر شرکت می‌تواند از اطلاعات اضافی مشتری استفاده کند تا محصولات و خدمات سفارشی‌سازی شده بهتری برای مشتریان فراهم و یا حتی خطوط کسب‌وکاری کاملاً جدیدی ایجاد کند. علاوه بر این برای افزایش شفافیت، مدل‌های XAI قابلیت بهبود و اصلاح زیادی دارند. بدین معنی که با مداخلات انسانی می‌توان به راحتی آن‌ها را مورد تجزیه‌وتحلیل قرار داد و یا تکمیل کرد و نتایج عادلانه‌تر و ایمن‌تری به دست آورد. زیرا در این پلتفرم‌ها نواقص را می‌توان به تدریج و در طول زمان برطرف کرد. پلتفرم‌های XAI تنها به داده‌ها متکی نیستند، بلکه در حقیقت از تجربه انسانی نیز بهره می‌برند.

---

پتانسیل XAI‌ در صنعت بانکداری

---

پتانسیلی که XAI‌ در صنعت بانکداری و برای بهبود تجربه مشتری دارد، بسیار عظیم است. امروزه تصمیمات مهمی در زمینه ریسک اعتباری، مدیریت ثروت و حتی ارزیابی ریسک جرائم مالی به وسیله هوش مصنوعی اتخاذ می‌شود. مشاوره رباتیک، قیمت‌گذاری هوشمند، توصیه محصول، خدمات سرمایه‌گذاری و تحصیلداری از دیگر کاربردهای مهم هوش مصنوعی است.

از منظر قوانین و مقررات نیز مزایای زیادی در به کارگیری هوش مصنوعی در عصر بانکداری باز و PSD2 وجود دارد، چراکه نیازی واقعی برای تهیه چارچوبی برای به اشتراک‌گذاری حجم زیادی داده وجود دارد که می‌تواند منجر به ارائه راهکارهای مشتری‌محور شود. در نتیجه ما باید منتظر مقررات سخت‌گیرانه‌تری در آینده باشیم که تمرکز ویژه‌ای بر الگوریتم‌های هوش مصنوعی دارند تا سوگیری کمتری داشته باشند و تا حد امکان شفاف باقی بمانند.

با نگاهی به آینده، می‌توان انتظار داشت که نقش XAI در این حوزه بیشتر و بیشتر شود. نه صرفاً به دلیل حمایت از ارائه خدمات یکپارچه و به‌شدت سفارشی‌سازی‌شده که امروزه مشتریان انتظار دارند، بلکه به دلیل فراهم کردن دیدگاه‌های داده‌محور مهمی که برای به دست آوردن اعتماد مشتریان و رگولاتورها به صورت همزمان مورد نیاز است. به طور خلاصه، XAI صرفاً یک چیز خواستنی و محبوب نیست بلکه یک باید است.

هوش مصنوعی