هوش مصنوعیِ توضیح‌پذیر در بیمه: هنگامی‌كه دقت كافی نیست

عنوان گروه خبري / نوآوری و فن‌آوری بیمه .

ساعت : ۰۹:۳۴
تاريخ :
۱۴۰۵/۰۴/۲۸
تعداد بازدید : 15

ترجمه، تدوین و ویراستاری: دفتر پایگاه خبری تازه‌های بیمه ایران و جهان

در صنعت بیمه، جایی که هر تصمیم می‌تواند بر قیمت‌گذاری، پذیرش ریسک، رسیدگی به خسارت و اعتماد مشتری اثر بگذارد، دقت به‌تنهایی کافی نیست؛ تصمیم باید قابل‌فهم و قابل‌دفاع هم باشد. این یادداشت نشان می‌دهد هوش مصنوعیِ توضیح‌پذیر (XAI) چگونه به شرکت‌های بیمه کمک می‌کند منطق تصمیم‌های الگوریتمی را روشن کنند، از ابهام «جعبه‌سیاه» فاصله بگیرند و با ابزارهایی مانند توضیح‌های افزایشیِ شاپلی (SHAP) و توضیح‌های محلیِ مستقل از مدل (LIME)، تصمیم‌هایی دقیق‌تر، شفاف‌تر و پاسخ‌گوتر در حوزه‌های قیمت‌گذاری، تشخیص تقلب و ارزیابی خسارت بگیرند.

در صنعتی که بر پایه‌ی اعتماد، محاسبه‌ی ریسک و تعهد مالی بنا شده است، تصمیم‌های مبهم صرفاً یک نقص فنی نیست، بلکه می‌تواند به مسئله‌ای حقوقی، عملیاتی و حتی اعتباری تبدیل ‌شوند. بیمه، بیش از سایر حوزه‌ها، به تصمیم‌هایی متکی است که نه‌ تنها باید درست باشند، بلکه باید توضیح‌پذیر نیز باشند. هنگامی‌که یک مدل یادگیری ماشین[1] درباره‌ی حق‌بیمه، پذیرش ریسک، بررسی خسارت یا تشخیص تقلب تصمیم می‌گیرد، پرسش اصلی این نیست که «آیا مدل پیش‌بینی درستی داشته است؟» بلکه این است که «چرا به این نتیجه رسیده است؟» اینجاست که هوش مصنوعیِ توضیح‌پذیر (XAI) [2] [3] وارد میدان می‌شود؛ رویکردی که می‌کوشد منطق درونی سامانه‌های پیچیده را برای انسان قابل فهم، قابل پیگیری و قابل‌دفاع کند (DeepFA, 2025; TensorBlue, 2025).

این رویکرد، تلاش می‌کند تصمیم‌های مدل‌های پیچیده، را قابل‌فهم، قابل پیگیری و قابل‌اعتماد نماید. در صنعتی مانند بیمه که اساس آن بر ارزیابی ریسک، اعتماد مشتری و الزامات نظارتی استوار است، شفافیت در تصمیم‌های الگوریتمی دیگر یک انتخاب لوکس نیست، بلکه به ضرورتی راهبردی تبدیل شده است.

چرا بیمه به هوش مصنوعیِ توضیح‌پذیر نیاز دارد؟

مدل‌های پیشرفته‌ی یادگیری ماشین، به‌ویژه شبکه‌های عصبی عمیق[4]، تقویت گرادیان[5] و جنگل تصادفی[6]، توانایی چشمگیری در شناسایی الگوهای پنهان دارند. اما همین توانایی، در بسیاری از موارد، به قیمت از دست رفتن شفافیت، تمام می‌شود. مدل ممکن است بگوید یک متقاضی، ریسک بالاتری دارد، اما نگوید که سهم هر عامل مانند سابقه‌ی خسارت، سن، منطقه‌ی سکونت یا نوع دارایی در این نتیجه چه بوده است. در بیمه، این ابهام تنها یک مسئله‌ی فنی نیست؛ چون خروجی مدل می‌تواند بر قیمت‌گذاری، دسترسی به پوشش، رسیدگی به خسارت و حتی تجربه‌ی مشتری اثر مستقیم بگذارد (TensorBlue, 2025).

از منظر حرفه‌ای، شرکت بیمه نمی‌تواند به مشتری بگوید: «الگوریتم، این‌طور تصمیم گرفت.» چنین پاسخی، هم از نظر ارتباط با مشتری ضعیف است و هم از منظر نظارتی و حقوقی آسیب‌پذیر. صنعت بیمه برای بقا و رشد، به سامانه‌هایی نیاز دارد که نه‌ تنها باید دقیق باشند، بلکه باید مستند، توضیح‌پذیر و پاسخ‌گو نیز باشند. هوش مصنوعیِ توضیح‌پذیر، دقیقاً در همین نقطه ارزش پیدا می‌کند: در تبدیل تصمیم‌های الگوریتمی[7] از یک «جعبه‌سیاه»[8] به فرایندی که بتوان آن را تحلیل، بازبینی و دفاع کرد (DeepFA, 2025; TensorBlue, 2025).

هوش مصنوعیِ توضیح‌پذیر چگونه کار می‌کند؟

هوش مصنوعیِ توضیح‌پذیر یک ابزار واحد نیست، بلکه خانواده‌ای از روش‌هاست که با هدف تفسیر و روشن‌سازی درباره رفتار مدل‌ها به کار می‌روند. این روش‌ها معمولاً در دو دسته‌ی کلی قرار می‌گیرند:

نخست، مدل‌هایی که ذاتاً تفسیرپذیرند، مانند رگرسیون خطی[9] و درخت تصمیم[10]. دوم، روش‌هایی که برای مدل‌های پیچیده‌ی جعبه‌سیاه، توضیح پسینی[11] تولید می‌کنند. در این دسته، دو نام بیش از همه شناخته‌شده‌اند: توضیح‌های محلیِ مستقل از مدل (LIME) [12] و توضیح‌های افزایشیِ شاپلی (SHAP) [13] (DeepFA, 2025; TensorBlue, 2025).

توضیح‌های محلیِ مستقل از مدل، با ساختن یک الگوی ساده‌ی محلی در اطراف یک پیش‌بینی خاص، تلاش می‌کند بفهمد کدام ویژگی‌ها در همان مورد مشخص، بیشترین اثر را داشته‌اند. به بیان ساده‌تر، این نوع مدل توضیحی، به جای آنکه کل مدل را از نو تفسیر کند، اطراف یک تصمیم را روشن می‌سازد.

توضیح‌های افزایشیِ شاپلی، نیز بر پایه‌ی ایده‌ی مقادیر شاپلی[14] عمل می‌کند و نشان می‌دهد هر ویژگی چه سهمی در بالا یا پایین بردن خروجی نهایی داشته است. مزیت این نوع مدل توضیحی، آن است که در بسیاری از مدل‌ها کاربرد دارد و می‌تواند تصویر دقیق‌تری از نقش هر متغیر ارائه دهد (TensorBlue, 2025).

برای مثال، اگر یک سامانه‌ی بیمه‌ای احتمال وقوع خسارت را بالا ارزیابی کند، هوش مصنوعیِ توضیح‌پذیر می‌تواند نشان دهد که این پیش‌بینی بیشتر تحت تأثیر چه عواملی بوده است: سابقه‌ی خسارت‌های قبلی، الگوی رفتار بیمه‌گزار، ویژگی‌های دارایی، یا ترکیبی از آنها. این شفافیت برای کارشناس خسارت، مدیر ریسک و حتی مشتری ارزش دارد، چون تصمیم را از سطح نتیجه به سطح منطق منتقل می‌کند.

کاربردهای هوش مصنوعیِ توضیح‌پذیر در بیمه

یکی از مهم‌ترین حوزه‌های کاربرد هوش مصنوعیِ توضیح‌پذیر در بیمه، قیمت‌گذاری[15] و ارزیابی ریسک[16] است. اگر مدل‌های پیچیده‌ی قیمت‌گذاری نتوانند توضیح دهند چرا حق‌بیمه‌ای بالاتر یا پایین‌تر پیشنهاد شده است، اعتماد بازار آسیب می‌بیند. در مقابل، هنگامی‌که شرکت بیمه بتواند اثر متغیرهای کلیدی را توضیح دهد، نه تنها دفاع‌پذیری تصمیم افزایش می‌یابد، بلکه امکان شناسایی سوگیری‌های ناخواسته بیشتر می‌شود.

حوزه‌ی دوم، تشخیص تقلب[17] است. در منابع موجود، حتی در بحث‌های مربوط به تشخیص تقلب مالی، از تقلب بیمه‌ای نیز به‌صراحت یاد شده است و استفاده از ابزارهایی مانند توضیح‌های محلیِ مستقل از مدل (LIME) و توضیح‌های افزایشیِ شاپلی (SHAP)، برای توضیح نتایج مدل توصیه شده است (HamiCourse, 2025). این موضوع در بیمه بسیار حیاتی است، زیرا برچسب‌گذاری یک پرونده با ‌عنوان «مشکوک» می‌تواند پیامدهای مالی و اعتباری مهمی در پی داشته باشد. در چنین شرایطی، کارشناس باید بداند مدل بر چه اساسی هشدار داده است. توضیح‌پذیری، این فرایند را از حد یک هشدار خام به یک استدلال تحلیلی قابل بررسی ارتقا می‌بخشد.

حوزه‌ی سوم، رسیدگی به خسارت[18] است. در اینجا هوش مصنوعیِ توضیح‌پذیر به کارشناسان کمک می‌کند تا پرونده‌هایی را که نیازمند بررسی بیشتر هستند، دقیق‌تر تحلیل کنند. اگر مدلی یک درخواست خسارت را با ریسک بالا یا احتمال تقلب زیاد مشخص کند، توضیحات آن باید روشن سازد که چه الگوهایی در داده‌ها، این نتیجه را ساخته‌اند. این کار، نه تنها سرعت تصمیم‌گیری را بالا می‌برد بلکه احتمال خطا و تصمیم‌های سلیقه‌ای را کاهش می‌دهد.

در نهایت، هوش مصنوعیِ توضیح‌پذیر در حاکمیت داده[19]، حاکمیت مدل[20] و پاسخ‌گویی سازمانی نیز نقش کلیدی دارد. در سازمان‌های بیمه‌ای، مدل‌ها تنها ابزار تحلیل نیستند؛ آن‌ها بخشی از سازوکار تصمیم‌گیری‌اند. بنابراین، هر جا که تصمیم‌سازی به مدل‌های پیچیده واگذار می‌شود، نیاز به ردیابی، ثبت و توضیح منطقِ تصمیم نیز بیشتر می‌شود.

شفافیت، تنها یک فضیلت اخلاقی نیست؛ یک ضرورت تجاری است

در بیمه، اعتماد صرفاً یک ارزش نیست؛ یک دارایی اقتصادی است. مشتری زمانی در برابر پرداخت حق‌بیمه، ارائه‌ی اطلاعات شخصی و پذیرش شروط قراردادی همراهی می‌کند که احساس کند با سیستمی منصفانه، قابل‌پیش‌بینی و پاسخ‌گو روبه‌روست. اگر تصمیم‌های الگوریتمی غیرشفاف بمانند، اعتماد به‌تدریج فرسوده می‌شود. در این میان، هوش مصنوعیِ توضیح‌پذیر به شرکت بیمه کمک می‌کند تا به جای اتکا به جمله‌ی سرد و ناتمامِ «سامانه چنین تشخیص داده»، توضیحی ساختاریافته و قابل‌فهم ارائه دهد.

افزون بر این، توضیح‌پذیری تنها برای مشتری نیست؛ در درون سازمان نیز ضروری است. مدیران، تحلیلگران ریسک و گروه‌های انطباق با قانون[21] نیاز دارند بدانند که مدل‌ها بر چه مبنایی عمل می‌کنند. بدون این فهم، بهره‌گیری از هوش مصنوعی بیشتر شبیه واگذاری مسئولیت به یک سازوکار ناشناخته است تا استفاده از یک ابزار مدیریتی. از این منظر، هوش مصنوعیِ توضیح‌پذیر نه رقیب دقت مدل، بلکه شرطِ تبدیل دقت به تصمیمِ قابل‌اتکا است (DeepFA, 2025).

چالش‌های پیاده‌سازی هوش مصنوعیِ توضیح‌پذیر

با وجود تمامی مزایا، پیاده‌سازی هوش مصنوعیِ توضیح‌پذیر بی‌دردسر نیست. نخستین چالش، تعارض میان دقت و تفسیرپذیری است. گاهی اوقات مدل‌هایی که بیشترین دقت را دارند، خروجی غیرشفاف نیز ارائه می‌دهند. در این شرایط، سازمان باید تصمیم بگیرد که در هر کاربرد، چه سطحی از توضیح‌پذیری لازم است و آیا مدلِ پیچیده‌ی دقیق‌تر بر مدل ساده‌تر اما شفاف‌تر برتری دارد یا خیر.

چالش دوم، کیفیت داده است. اگر داده‌های آموزشی ناقص، سوگیرانه یا نامتوازن باشند، توضیحات هوش مصنوعیِ توضیح‌پذیر نیز همان سوگیری را آشکار می‌کنند، نه اینکه لزوماً آن را برطرف سازند. به بیان دیگر، هوش مصنوعیِ توضیح‌پذیر می‌تواند بگوید مدل چرا به نتیجه‌ای خاص رسیده است، اما نمی‌تواند به‌تنهایی داده‌ی نامطلوب را به داده‌ی مطلوب تبدیل کند.

چالش سوم، تفاوت مخاطب است. توضیحی که برای متخصص داده مناسب است، ممکن است برای مشتری یا حتی مدیر ارشد بسیار پیچیده باشد. بنابراین، هوش مصنوعیِ توضیح‌پذیر باید در چند سطح طراحی شود: توضیح فنی برای متخصص، توضیح مدیریتی برای تصمیم‌گیر و توضیح ساده و روشن برای مشتری. یک نظام توضیح‌پذیر موفق، نظامی است که زبان خود را با مخاطب، تنظیم می‌کند.

جمع‌بندی

اگر قرار باشد آینده‌ی بیمه را در یک جمله خلاصه کنیم، شاید بهترین تعبیر این باشد: آینده، متعلق به مدل‌های دقیقِ توضیح‌پذیر است، نه صرفاً مدل‌های دقیق. در جهانی که تصمیم‌های الگوریتمی روزبه‌روز بیشتر وارد زنجیره‌ی ارزش بیمه می‌شوند، هوش مصنوعیِ توضیح‌پذیر به‌تدریج از یک مزیت فنی به یک ضرورت حرفه‌ای تبدیل می‌شود. این رویکرد، نه تنها به شرکت‌های بیمه کمک می‌کند تصمیم‌هایی مستندتر و منصفانه‌تر بگیرند، بلکه به نهادهای نظارتی، این امکان را می‌دهد تا کنترل مؤثرتری اعمال کنند و درعین‌حال به مشتریان اطمینان می‌دهد که در پشت صحنه، با یک «جعبه‌سیاه» بی‌نام‌ونشان روبه‌رو نیستند، بلکه با سامانه‌ای مواجه‌اند که می‌توان از آن پرسید، سنجید و فهمید.

منابع

DeepFA. (2025, October 9). هوش مصنوعی توضیح‌پذیر: چرا باید بدانیم چگونه تصمیم می‌گیرد؟ https://deepfa.ir/blog/explainable-ai-interpretable-machine-learning

HamiCourse. (2025, December 27). تشخیص تقلب با الگوریتم‌های یادگیری ماشین: یک پروژه عملی. https://hamicourse.ir/2025/12/27/تشخیص-تقلب-fraud-detection-با-الگوریتمهای-یادگی/

TensorBlue. (2025). Explainable AI (XAI) 2025: SHAP, LIME & model interpretability | Complete guide. https://tensorblue.com/blog/explainable-ai-xai-shap-lime-model-interpretability-2025

[1] Machine Learning: یادگیری ماشین، شاخه‌ای از هوش مصنوعی است که در آن سامانه‌های رایانه‌ای به‌جای آن‌که صرفاً با مجموعه‌ای از دستورهای ثابت برنامه‌نویسی شوند، از داده‌های الگو می‌آموزند و بر همان اساس پیش‌بینی یا تصمیم‌گیری می‌کنند. به بیان ساده، سامانه با بررسی نمونه‌های گذشته یاد می‌گیرد، در موقعیت‌های مشابه چه نتیجه‌ای محتمل‌تر است.

[2] Explainable AI

[3] در ادبیات فارسی، برای هوش مصنوعیِ توضیح‌پذیر معمولاً دو برگردان بیش از همه به چشم می‌خورند: هوش مصنوعی توضیح‌پذیر و هوش مصنوعی قابل تفسیر. این دو، هرچند در کاربرد روزمره گاه به جای یکدیگر به کار می‌روند، دقیقاً یکسان نیستند. در منابع، میان معنای تفسیرپذیری (Interpretability) و توضیح‌پذیری (Explainability) تمایز گذاشته می‌شود؛ ازاین‌رو، برای متن‌های تخصصی، ترکیب هوش مصنوعی توضیح‌پذیر در کنار هوش مصنوعی تفسیرپذیر (Interpretable AI) دقیق‌تر و کم‌ابهام‌تر است (DeepFA, 2025). این تمایز برای بیمه اهمیت ویژه‌ای دارد، زیرا در این صنعت، هم «فهم‌پذیر بودن» و هم «توجیه‌پذیر بودن» تصمیم‌ها ارزش عملی حتی حقوقی دارند.

[4] Deep Neural Network: شبکه عصبی عمیق، نوعی مدل محاسباتی الهام‌گرفته از ساختار شبکه‌های عصبی در مغز که از لایه‌های متعدد پردازشی تشکیل شده است. هر لایه بخشی از الگوی موجود در داده را استخراج می‌کند و لایه‌های بعدی این اطلاعات را به‌تدریج ترکیب می‌کنند تا در نهایت به یک پیش‌بینی یا تشخیص برسند. چنین ساختاری به مدل اجازه می‌دهد الگوهای بسیار پیچیده را در داده‌ها شناسایی کند.

[5] Gradient Boosting:‌ تقویت گرادیان، روشی برای ساخت مدل‌های پیش‌بینی است که در آن چندین مدل ساده به‌صورت مرحله‌به‌مرحله ساخته می‌شوند. در هر مرحله، مدل جدید بر خطاهای مرحله پیشین تمرکز می‌کند و تلاش می‌کند آن‌ها را اصلاح کند. حاصل این فرایند، ترکیبی از مدل‌های متعدد است که در کنار هم پیش‌بینی دقیق‌تری ارائه می‌دهند.

[6] Random Forest: جنگل تصادفی، روشی مبتنی بر مجموعه‌ای از درخت‌های تصمیم است که هرکدام با داده‌ها و انتخاب‌های متفاوت ساخته می‌شوند. هر درخت به‌طور مستقل پیش‌بینی خود را ارائه می‌دهد و نتیجه نهایی از ترکیب نظر همه آن‌ها به دست می‌آید. این تنوع در مدل‌ها باعث می‌شود پیش‌بینی نهایی پایدارتر و کمتر وابسته به خطاهای یک مدل واحد باشد.

[7] Algorithmic Decision‑Making: به فرایندی گفته می‌شود که در آن یک سامانه رایانه‌ای بر اساس قواعد محاسباتی و تحلیل داده‌ها به یک نتیجه یا انتخاب می‌رسد؛ نتیجه‌ای که می‌تواند بر قیمت‌گذاری، پذیرش یا رد درخواست، ارزیابی ریسک یا سایر تصمیم‌های عملی اثر بگذارد. در این حالت، نقش انسان از تصمیم‌گیری مستقیم به طراحی، نظارت و ارزیابی منطق سامانه، منتقل می‌شود.

[8] Black box: اصطلاحی برای توصیف مدل‌ها یا سامانه‌هایی که می‌توانند خروجی‌های دقیق تولید کنند، اما منطق درونی تصمیم‌گیری آن‌ها به‌سادگی قابل مشاهده یا توضیح نیست. در چنین سامانه‌هایی مشخص است چه داده‌ای وارد شده و چه نتیجه‌ای به دست آمده، اما روشن نیست دقیقاً کدام روابط و محاسباتِ درون مدل به آن نتیجه خاص، منتهی شده است. در بحث هوش مصنوعی، این اصطلاح معمولاً برای مدل‌های بسیار پیچیده به کار می‌رود که فهم سازوکار درونی آن‌ها برای انسان دشوار است.

[9] Linear Regression: رگرسیون خطی یکی از ساده‌ترین و شفاف‌ترین روش‌های پیش‌بینی است که رابطه‌ای خطی میان متغیرهای ورودی و نتیجه برقرار می‌کند. در این روش، هر عامل ضریبی مشخص دارد و می‌توان به‌روشنی دید هر متغیر چه اندازه بر نتیجه اثر می‌گذارد. به همین دلیل، رگرسیون خطی اغلب به‌عنوان نمونه‌ای از مدل‌هایِ ذاتاً قابل فهم شناخته می‌شود.

[10] Decision Tree: درخت تصمیم، مدلی است که فرایند تصمیم‌گیری را به‌صورت مجموعه‌ای از پرسش‌های پیاپی و شاخه‌دار نمایش می‌دهد. در هر گام، بر اساس پاسخ به یک پرسش، مسیر به یکی از شاخه‌ها هدایت می‌شود تا در نهایت به یک نتیجه برسد. ساختار مرحله‌به‌مرحله این مدل باعث می‌شود منطق تصمیم آن برای انسان قابل‌پیگیری و توضیح باشد.

[11] Post-hoc explanation

[12] Local Interpretable Model-agnostic Explanations

[13] Shapley Additive Explanations

[14] Shapley values

[15] Pricing

[16] Risk Assessment

[17] Fraud Detection

[18] Claims Processing

[19] Data Governance

[20] Model Governance

[21] Compliance

امتیاز : ۰ | مجموع : ۰

برچسب ها