گزارش سالانه 2024 شاخص هوش مصنوعی (AI)[1] توسط دانشگاه استنفورد[2] نشان می‌دهد که «تامین مالی برای هوش مصنوعی مولد[3] از سال 2022 تاکنون، تقریباً هشت برابر افزایش یافته است و به 25.2 میلیارد دلار رسیده است» و «مردم جهان از تأثیر بالقوه هوش مصنوعی آگاه‌تر و نگران‌تر شده‌اند.» در پاسخ به این آگاهی بیشتر و نگرانی در مورد هوش مصنوعی، نهادهای نظارتی شروع به اقداماتی کرده‌اند که با هدف دستیابی به مزایای نوآوری هوش مصنوعی و در عین حال اجتناب یا کاهش خطرات ناشی از پذیرش سریع و گسترش آن، انجام می‌شود.

صنعت بیمه نیز از این قاعده مستثنی نیست. نمونه‌هایی از روش‌هایی که نهادهای نظارتی بیمه و جامعه بیم‌سنجی به استفاده از هوش مصنوعی در بیمه پاسخ می‌دهند عبارتند از بازنگری الزامات آموزش مستمر برای استاندارد صلاحیت ایالات متحده[4]^-[5] (موضوع سوگیری[6] - الزامات جدید در بخش 2.2.6) و ایجاد کمیته اچ[7] ^{ـ [8]}، در انجمن ملی ناظران بیمه (NAIC)[9] در ایالات متحده.

بیم‌سنج‌ها باید راه‌هایی را که محیط نظارتی نوظهور احتمالاً بر کار و مسئولیت حرفه‌ای آنها تأثیر می‌گذارد، درک کنند. اولین مرحله حیاتی در این فرآیند، آگاهی است. بر این اساس، گزارش حاضر، با هدف ارائه اطلاعات اولیه به بیم‌سنج‌ها، درباره روندهای نظارتی جاریِ مرتبط با استفاده از هوش مصنوعی در بیمه، تهیه شده است. این گزارش، به طور ویژه بر چهار حوزه قضایی متمرکز است که بیشتر مربوط به انجمن بیم‌سنج‌ها[10] و سایر سازمان‌های حامی در ایالات متحده، اتحادیه اروپا (EU)، کانادا و چین است.

مطالعه‌کنندگان باید توجه داشته باشند که این حوزه، به سرعت در حال توسعه است و هدف از این گزارش، ارائه آخرین تحولات و یک مرور کلی درباره چشم انداز نظارتی است.

چکیده مدیریتی

نیاز به مقررات هوش مصنوعی توسط مقامات نظارتی در هر چهار حوزه قضایی موردبررسی این گزارش، قابل درک است (جدول ۱). اگرچه اشتراکاتی در میان حوزه‌ها وجود دارد که احتمالاً ناشی از ماهیت فرامرزی فناوری‌های درگیر است، اما تفاوت‌های موجود و اصول و رویکرد نظارتی در هرحوزه قضایی، منجر به افتراق‌های اساسی شده است. موضوعات مشترک شامل تمرکز بر شفافیت، قابلیت ردیابی، حاکمیت، مدیریت ریسک، آزمایش و مستندسازی و پاسخگویی است. به نظر می‌رسد که تفاوت‌ها، اساساً نتیجه فلسفه‌های نظارتی متنوع (به عنوان مثال، الگوی فدرالی مقررات دولتی در ایالات متحده در مقابل الگوی متمرکز در چین)، رویکرد قانون‌گذاری (مقررات صنعتی در مقابل مقررات بین‌صنعتی) و رویکرد نظارتی (به عنوان مثال، تمرکز بر حفظ حقوق در مقابل تمرکز بر تقویت نوآوری فناورانه).

جدول ۱: جدول چکیده.

بخش 1: ایالات متحده

1.1.هوش مصنوعی و مقررات صنعت بیمه

در ایالات متحده، صنعت بیمه از این نظر منحصر به فرد است که عمدتاً توسط ایالت‌ها تنظیم‌مقررات و نظارت می‌شود تا دولت فدرال. نقش پیشرو ایالت‌ها به عنوان نهادهای نظارتی اصلی بازار بیمه، با قانون مک کاران-فرگوسن[14] در سال 1945 تثبیت شد. دولت‌ها مسئول رفتار بازار[15] و نظارت بر جنبه‌های توانگری مالی[16] صنعت را بر عهده دارند. شاید بارزترین مثال از تسلط دولت در ‌تنظیم‌مقررات بیمه این واقعیت باشد که محصولات بیمه‌شده، از جمله هرگونه مواد بازاریابی مرتبط و فرم‌های بیمه‌نامه و در بسیاری از موارد، حق بیمه‌ای که باید دریافت شود، بایستی توسط نهادهای نظارتی دولتی، ثبت و تایید شود.

هوش مصنوعی در ایالات متحده، یک فناوری در حال ظهور است که به سرعت در تمامی صنایع، در حال استفاده است. ماهیت غیرمعمول صنعت فناوری هوش مصنوعی به این معنی است که اصول نظارتی عمومی، مانند تأکید بر بازارهای رقابتی و آزاد که نوآوری را تقویت می‌کنند، رویکردی غالب در مقررات فعلی دارند. با این حال، تنش‌ها به سرعت در میان ایالت‌ها و به صورت بین‌ایالتی و دولت فدرال، در حال ظهور است، زیرا ایالت‌ها، در غیاب قوانین فدرال جامع در حوزه حفظ حریم خصوصی داده‌ها و مقررات هوش مصنوعی، رهبری را در دست گرفته‌اند.

2.1. نهادهای نظارتی مرتبط با تنظیم‌مقررات هوش مصنوعی در صنعت بیمه

هر ایالت، سازمان خاصی را تأسیس کرده است که اغلب به آن اداره بیمه می‌گویند، با یک مدیر منصوب یا منتخب که قوانین و مقررات ایالت مربوطه را اجرا می‌نماید. نقش دولت فدرال محدود است، به ویژه در مورد بیمه‌های اشخاص مانند زندگی، مستمری و از‌کارافتادگی.

برای پیشگیری از واگرایی بی‌رویه بازار بیمه بین 50 ایالت و مناطق مرتبط، انجمن ملی ناظران بیمه (NAIC)، یک فرآیند اعتباربخشی را ایجاد کرده است تا اطمینان حاصل شود که هر ایالت، استاندارد پایه تنظیم‌مقررات را محقق می‌‌سازد و بار نظارتی بر شرکت‌های بیمه چندایالتی را ساده می‌کند. همچنین، هم‌گام با بروزرسانی چارچوب‌های تنظیم‌مقرراتی و نظارتی در هر ایالت‌، انجمن ملی ناظران بیمه، دستورالعمل‌هایی را در مورد موضوعات خاص به همه آنها ابلاغ می‌کند تا انسجام و یکپارچگی آنها را تقویت کند.

سایر نهادهای شبه‌دولتی مرتبط عبارتند از: شورای ملی قانونگذاران بیمه (NCOIL)[17] که به تدوین قوانین یکپارچه کمک می‌کند که می‌تواند متعاقباً از طریق رویه قانونی مربوط به هر ایالت ارائه شود و اداره بیمه فدرال (FIO)[18] که بخشی از وزارت خزانه‌داری ایالات متحده و دارای ترکیبی از وظایف داخلی است، مانند رصد کلی صنعت و برنامه‌های خاص فدرال (به عنوان مثال، طرح بیمه ریسک تروریسم[19] که توسط کنگره و پس از حملات 11 سپتامبر ایجاد شد) و برخی وظایف بین المللی دیگر.

3.1. تحولات فعلی

در این حوزه‌ی در حال‌توسعه که تحولات جدید در آن، به صورت هفتگی رخ می‌دهد، بسیاری از ذی‌نفعان به طور مستقل، اما در یک جهت کلی حرکت می‌کنند. در سطح فدرال، شاخه اجرایی[20]، طرحی را برای منشور حقوق هوش مصنوعی [21] ^{- [22]} از طریق یک حکم لازم‌الاجرا[23] در 30 اکتبر 2023، به همراه سایر اقدامات قانونی، صادر نمود.

احتمالاً دستورالعمل‌های بیشتری در سال آینده عرضه می‌شود. نکته مهم آن است که دستورالعمل فعلی نشان می‌دهد، ممکن است برای محتوای تولیدشده هوش مصنوعی، برچسب‌گذاری لازم باشد.

در رابطه با صنعت بیمه، ایالت‌ها در دسامبر ۲۰۲۳، از بولتن هوش مصنوعی انجمن ملی ناظران بیمه[24] به منظور به‌روزرسانی چارچوب‌های خود بهره‌برداری نمودند. برخی از ایالت‌ها از این هم فراتر رفته و دستورالعمل‌های خاصی را ابلاغ می‌کنند.

در میان ایالت‌ها، کلرادو در زمینه استفاده از هوش مصنوعی چه در بیمه و چه به طور کلی، فعال‌ترین بوده است. در اواسط سال 2021، کلرادو قانون SB21-169 - حفاظت از مصرف‌کنندگان در برابر تبعیض ناعادلانه در رویه‌های بیمه‌ای[25] ^- [26] را تصویب کرد، که «مصرف‌کنندگان کلرادو را در برابر اقدامات بیمه‌ای که منجر به تبعیض ناعادلانه بر اساس نژاد، رنگ، منشاء ملی یا قومیتی، مذهب، جنسیت، گرایش جنسی، ازکارافتادگی، هویت جنسی یا بیان جنسیتی می‌شود، محافظت می‌کند.» این قانون، بیمه‌گران را مسئول آزمایش سامانه‌های کلان‌داده خود - از جمله داده‌های مصرف‌کننده خارجی و منابع اطلاعاتی، الگوریتم‌ها و مدل‌های پیش‌بینی‌کننده- می‌داند، تا اطمینان حاصل شود که آنها به‌طور ناعادلانه علیه مصرف‌کنندگان بر اساس یک طبقه محافظت‌شده[27]، تبعیض قائل نمی‌شوند. قانون SB21-169 طبق رویه اداره سازمان‌های نظارتی کلرادو (DORA)[28]، از بیمه‌گران می‌خواهد «اقدامات اصلاحی برای رسیدگی به هرگونه آسیب به مصرف‌کننده که یافت می‌شود» انجام دهند. مقررات 10-1-1 برای صنعت بیمه عمر[29] از 14 نوامبر 2023 لازم‌الاجرا شد و این رویه برای مقررات بیمه خصوصی خودرو و سلامت در حال اجرا است. در این اسناد، هیچ معیار قبولی یا ردی، وجود ندارد، اما یک چارچوب مدیریت ریسک، الزامی شده است که براساس آن، باید داده‌ها و منابع اطلاعاتی مصرف‌کننده خارجی به شرح ذیل، مستند شود: ارزش و هدف، ساختار حاکمیت، مسئولیت‌های مدیریت ارشد، تشکیل کمیته اخلاقی، سیاست‌های کمیته اخلاقی و رویه‌ها، فرآیند رسیدگی به شکایات مصرف‌کننده، چک‌لیست ارزیابی ریسک مدل، موجودی داده‌ها و کنترل نسخه‌ها، مدیریت تغییر موجودی، آزمایش انجام شده، رصد مستمر، فرآیند انتخاب فروشنده ثالث و فرآیند بررسی سالانه جامع. در یک جمله، «لطفاً کار درست را انجام دهید و لطفاً به ما بگویید چه کار می‌کنید.»‌ شایان ذکر است که نسخه‌های پیش‌نویس این مقررات شامل یک الزام آزمون کمّی مشخص، با آستانه و شرح لازم در صورت شکست آزمون، می‌شود.

فراتر از کلرادو، نیویورک نیز به طور ویژه‌ای، فعال بوده است. اداره خدمات مالی نیویورک[30] در 11 ژوئیه 2024، بخشنامه‌ای[31] با جزئیات مشابه با مفاد موجود در مقررات 10-1-1 کلرادو صادر کرد. بخشنامه‌ نیویورک، خاص‌تر از مقررات کلرادو است، اما کاملاً تجویزی نیست. برای مثال، در بخش ارزیابی کمّی، این بخشنامه نشان می‌دهد که «بیمه‌گران تشویق می‌شوند از معیارهای آماری متعدد در ارزیابی داده‌ها و خروجی‌های مدل به منظور حصول اطمینان از درک و ارزیابی جامع، استفاده کنند». بخشنامه مذکور،‌ نمونه‌هایی از سنجه‌ها ارائه می‌کند، از جمله نسبت اثر مغایر[32]، نسبت شانس انکار[33]، اثرات حاشیه‌ای و تفاضل میانگین استانداردشده[34].

سایر ایالت‌ها، الزامات مبتنی بر اصول[35]، وضع کرده‌اند که به بولتن هوش مصنوعی انجمن ملی ناظران بیمه، نزدیک‌تر است. توجه داشته باشید که برخی مقررات، محدوده طبقات محافظت شده را کمی تغییر داده‌اند.

بخش 2: اتحادیه اروپا

1.2.هوش مصنوعی و مقررات صنعت بیمه

در اروپا، صنعت بیمه عمدتاً از طریق قوانین قابل‌اجرا در سطح اروپا تنظیم می‌شود و به طور کلی، در قالب یکی از این دو شکل ذیل نمود پیدا می‌کند: دستورالعمل‌ها، که بعدها از طریق اقدامات قانونی جداگانه توسط هر کشور، در قوانین آن کشور، گنجانده می‌شوند؛ و مقررات، که به طور خودکار برای همه کشورهای عضو، الزام‌آور است.

صنعت فناوری نیز در سطح اتحادیه اروپا تنظیم می‌شود، با قوانین اخیر از جمله حفاظت از داده‌ها و مقررات عمومی (GDPR)[36] و قانون تاب‌آوری عملیاتی دیجیتال (DORA)[37]. علاوه بر این، بیمه باز[38]-[39] ابتکاری است که چارچوب تبادل داده در کشورهای اتحادیه اروپا را تعیین می‌نماید.

2.2. نهادهای نظارتی مرتبط با ‌تنظیم‌مقررات هوش مصنوعی در صنعت بیمه

قانون‌گذاری در اروپا از طریق بحث‌های سه جانبه (سه‌گانه) بین کمیسیون اروپا (شاخه اجرایی)، پارلمان اروپا (متشکل از افراد منتخب) و شورای اتحادیه اروپا (رئیس دولت یا وزارت مربوطه) صورت می‌پذیرد. سازمان‌های فنی در اتحادیه اروپا، توصیه‌های فنی در مورد قوانین پیشنهادی ارائه می‌دهند. نهاد اصلی مرتبط با صنعت بیمه، سازمان بیمه و بازنشستگی شغلی اروپا (EIOPA)[40] است که به عنوان «یک نهاد مشاوره مستقل برای کمیسیون اروپا، پارلمان اروپا و شورای اتحادیه اروپا»، عمل می‌نماید. این سازمان، یکی از سازمان‌های اتحادیه اروپا است که وظیفه آن، اجرای وظایف قانونی، فنی یا علمی خاص و ارائه مشاوره مبتنی بر شواهد، برای کمک به شکل‌گیری سیاست‌ها و قوانین آگاهانه در سطح اتحادیه اروپا و ملی است.» نهادهای مشابه متعددی برای صنایع مرتبط با بیمه وجود دارد، مانند سازمان بانکداری اروپا (EBA)[41]، سازمان اوراق بهادار و بازارهای اروپا (ESMA)[42] و مؤسسه نوآوری و فناوری اروپا (EIT)[43]، که برخی اختیارات آنها با یکدیگر همپوشانی دارد. این سازمان‌ها، در شیوه‌های تعامل با ذی‌نفعان صنعت (کسب و کار، آموزش، تحقیقات) متفاوت هستند.

در صورت لزوم، تبدیل دستورالعمل اتحادیه اروپا به قوانین کشورهای عضو، باید به موقع انجام شود[44]، و نهادهای نظارتی خاص کشورها، رصد اولیه را انجام می‌دهند، اگرچه برخی از رصدها ممکن است در سطح کل اتحادیه اروپا نیز انجام شود (مانند هیئت حفاظت از داده‌های اروپا[45]، که تحت مقررات حفاظت از داده‌ها و مقررات عمومی (GDPR)، مسئولیت رصد دارد). به عنوان مثال، مرجع نظارت احتیاطی و حل اختلاف (ACPR)[46] فرانسه، بر هر دو بخش بانک و بیمه نظارت دارد و توسط بانک مرکزی فرانسه[47]، حمایت می‌شود. این بانک، هم مسئولیت ثبات مالی و هم حمایت از مصرف‌کننده را بر عهده دارد. سایر کشورهای اروپایی، نظام‌هایی دارند که اساساً مشابه به هم هستند. با این حال، تفاوت‌های شدیدی بین کشورهای اروپایی به دلیل انتظارات، نظام‌های مالیاتی و فرهنگ متفاوت بیمه‌گزاران، وجود دارد. شیوه اجرای یک مقررات خاص نیز در بین کشورها متفاوت است.

3.2. تحولات فعلی

اخیراً قانون هوش مصنوعی[48] در 9 دسامبر 2023، تصویب شد. اورسولا فون در لاین[49]، رئیس کمیسیون اروپا، در خبر مربوط به تصویب این قانون، اظهار می‌دارد:

«قانون هوش مصنوعی اتحادیه اروپا، اولین چارچوب قانونی جامع هوش مصنوعی در سراسر جهان است. قانون هوش مصنوعی، ارزش‌های اروپایی را به عصر جدیدی منتقل می‌کند. با تمرکز مقررات بر روی ریسک‌های قابل‌شناسایی، توافق‌نامه امروز، باعث تقویت نوآوری مسئولانه در اروپا خواهد شد. با تضمین ایمنی و حقوق اساسی مردم و مشاغل، از توسعه، استقرار و استفاده از هوش مصنوعی قابل‌اعتماد در اتحادیه اروپا، حمایت خواهد شد. قانون هوش مصنوعی ما، کمک قابل‌توجهی به توسعه قوانین و اصول جهانی برای هوش مصنوعی انسان‌محور، خواهد کرد.»

سند نهایی برای تأیید قانون هوش مصنوعی توسط کشورهای عضو، امضا شد. نسخه انگلیسی این قانون 458 صفحه است[50]، اما اتحادیه اروپا خلاصه‌ای از قانون هوش مصنوعی را در وب‌سایتی که به بحث درباره قانون، اختصاص دارد، ارائه می‌کند[51].

جدول ۲: الزامات مبتنی بر ریسک برای جمعت

برخی از کاربردهای هوش مصنوعی در صنعت بیمه به طور خودکار با ریسک بالا، در نظر گرفته می‌شود، به ویژه فرآیندهای بیمه‌گری (ارزیابی ریسک)[52] و قیمت‌گذاری، همانطور که به طور خاص در ماده 6 (2).5.C اشاره شده است: «سامانه‌های هوش مصنوعی که با هدف ارزیابی ریسک و قیمت‌گذاری در رابطه با اشخاص حقیقی در مورد بیمه عمر و سلامت، استفاده می‌شوند.» سایر کاربردهای هوش مصنوعی در صنعت بیمه ممکن است در گروه ریسک بالا یا ریسک محدود، قرار گیرند. چنین بهره‌برداری‌هایی باید طبق تعاریف و نمونه‌های ارائه‌شده در قانون، ارزیابی شوند.

بیمه بازرگانی، تحت تأثیر طبقه‌بندی ریسک بیمه‌شده قرار می‌گیرد (به عنوان مثال، قرارداد بیمه سایبری که نیازهای فناوری اطلاعات یک نیروگاه هسته‌ای را پوشش می‌دهد یا پوشش قصور و خطا (E&O)[53] برای مدیران ارشد یک شرکت امنیت فرودگاه با استفاده از تشخیص چهره به منظور جلوگیری از ورود افراد غیرمجاز). ‌هم‌اکنون، سایر بخش‌های صنعت بیمه، در حال بررسی تأثیر دقیق و تعاملات بالقوه ناشناخته بین این مقررات جدید، مقررات حفاظت از داده‌ها و مقررات عمومی (GDPR)و اداره سازمان‌های نظارتی کلرادو (DORA) هستند. مقاله مشورتی سازمان بیمه و بازنشستگی شغلی اروپا (EIOPA) در ژانویه 2023 در مورد بیمه باز، تلاش‌ها برای ایجاد تعادل بین نوآوری و مقررات را نشان می‌دهد.

در ژانویه 2024، اتحادیه اروپا یک بسته نوآوری هوش مصنوعی[54] را به منظور حمایت از شرکت‌های کوچک و متوسط ​​در توسعه هوش مصنوعی قابل‌اعتماد، راه‌اندازی نمود. این بسته، شامل طرح ابتکاری GenAI4EU، به منظور کمک به توسعه موارد استفاده و برنامه‌های کاربردی در حال ظهور تهیه شده است. دفتر هوش مصنوعی اتحادیه اروپا[55] ، رسماً در ژوئن 2024 با اهداف ذیل راه‌اندازی شد: توسعه و پیاده‌سازی هوش مصنوعی قابل‌اعتماد (از جمله ارائه پشتیبانی به کشورهای عضو به منظور تبدیل چارچوب به قوانین محلی)، ارائه برخی حمایت‌های مالی برای طرح‌های هوش مصنوعی مولد و دیگر برنامه‌های مشارکت دولتی/خصوصی.

بخش 3: چین

1.3.هوش مصنوعی و مقررات صنعت بیمه

مقررات بیمه در چین توسط اداره ملی تنظیم مقررات مالی (NFRA) نظارت می‌شود. چنین مقرراتی شامل الزامات صدور مجوز سختگیرانه برای بیمه‌گران، نظارت بر توانگری مالی و مدیریت ریسک و اجرای استانداردهای رفتار بازار است. همچنین، این اداره گزارش و ممیزی منظم را موظف می‌کند، قوانین احتیاطی را در مورد کفایت سرمایه[56] و ذخایر تعیین می‌نماید و انطباق با قوانین حمایت از مصرف‌کننده، را رصد می‌کند. استفاده از هوش مصنوعی در بخش بیمه نیز در حیطه اختیارات اداره ملی تنظیم مقررات مالی چین قرار می‌گیرد و این اداره وظیفه دارد، اطمینان حاصل کند که استفاده خاص بیمه از هوش مصنوعی با استانداردهای ملی و دستورالعمل‌های اخلاقی، همسو است. این امر شامل بررسی دقیق برنامه‌های هوش مصنوعی در ارزیابی ریسک، بیمه‌گری و خدمات مشتری به منظور جلوگیری از مسائلی مانند سوگیری و نقض قوانین حفاظت از داده‌ها است.

در چین، همچنان، مقررات خاصی برای هوش مصنوعی،‌ منحصراً برای صنعت بیمه وجود ندارد. در عوض، مقررات هوش مصنوعی در چین توسط یک چارچوب جامع و فراگیر اداره می‌شود که در صنایع مختلف از جمله بیمه، اعمال می‌شود. چارچوب اصلی نظارتی برای هوش مصنوعی در چین «اقدامات موقت برای مدیریت خدمات هوش مصنوعی مولد»[57] است که در سال 2023 استقرار یافت. به طور خاص برای صنعت بیمه، این مقررات عمومی هوش مصنوعی در کنار مقررات بیمه موجود، اعمال می شود.

2.3. نهادهای نظارتی مرتبط با مقررات هوش مصنوعی در صنعت بیمه

نظارت دولتی بر هوش مصنوعی در چین شامل چندین سازمان دولتی و نهادهای نظارتی است که منعکس‌کننده رویکرد چندوجهی این کشور برای مدیریت و ترویج توسعه هوش مصنوعی است.

در این میان، وزارت علوم و فناوری (MOST)[58] اصلی است، اما چندین سازمان دیگر نیز نقش مهمی دارند، از جمله:

· اداره فضای سایبری چین (CAC)[59]، که نقش مهمی در رابطه با حریم خصوصی داده‌ها، امنیت سایبری و استفاده اخلاقی از هوش مصنوعی ایفا می‌کند.

· کمیسیون ملی توسعه و اصلاحات (NDRC)[60]، که در برنامه‌ریزی راهبردی و جنبه‌های اقتصادی توسعه هوش مصنوعی نقش دارد.

· وزارت صنعت و فناوری اطلاعات (MIIT)[61]، که بخش‌های صنعتی و فناوری اطلاعات را تنظیم می‌کند و نقش مهمی در استانداردسازی، سیاست‌‌گذاری صنعتی و ترویج فناوری‌های هوش مصنوعی در صنایع مختلف ایفا می‌کند.

· آکادمی فناوری اطلاعات و ارتباطات چین (CAICT)[62]، که یک موسسه تحقیقاتی تحت وزارت صنعت و فناوری اطلاعات است و پشتیبانی فنی، تحقیقات سیاستی و توسعه استاندارد را برای هوش مصنوعی ارائه می‌کند.

• اتحادیه صنعت هوش مصنوعی چین (AIIA)[63]، که با پشتیبانی وزارت صنعت و فناوری اطلاعات، شرکت‌ها، مؤسسات تحقیقاتی و سایر ذی‌نفعان را به منظور ارتقای استانداردهای صنعت هوش مصنوعی، نوآوری و همکاری گرد هم می‌آورد.

• اداره استاندارد چین (SAC)[64]، که مسئول تنظیم استانداردهای فنی، از جمله استانداردهای فناوری‌های هوش مصنوعی است.

اداره ملی تنظیم مقررات مالی، یک نهاد نظارتی مالی تحت نظر شورای دولتی جمهوری خلق چین است که در 10 مارس 2023 و جایگزینِ کمیسیون تنظیم مقررات بانکی و بیمه چین (CBIRC)[65]، تأسیس شد. این اداره، دامنه کمّی گسترده‌تری نسبت به سازمان سَلَف خود دارد و نقشی جامع و محوری در تنظیم‌مقررات و نظارت بر صنعت بیمه در سراسر کشور ایفا می‌کند. این سازمان، مسئول توسعه و اجرای سیاست‌ها و چارچوب‌های نظارتی برای صنعت بیمه، از جمله تهیه پیش‌نویس مقررات، دستورالعمل‌ها و استانداردهایی است که بر عملکرد شرکت‌های بیمه، کارگزاران و نمایندگان نظارت می‌کنند. در سطح محلی، مقامات بیمه استانی، سیاست‌های ملی بیمه را متناسب با شرایط محلی تطبیق و اجرا می‌کنند. این امر ممکن است شامل تنظیم‌مقررات برای رسیدگی به مسائل خاص منطقه‌ای یا حمایت از طرح‌های توسعه اقتصاد محلی باشد.

3.3. تحولات فعلی

چین، چارچوب جامعی را برای تنظیم مقررات الگوریتم‌ها و هوش مصنوعی از طریق سه قانون عمده ایجاد کرده است: مقررات 2021 در مورد الگوریتم‌های پیشنهادی[66]. قوانین 2022 برای محتوای تولید‌شده مصنوعی[67]؛ و پیش‌نویس 2023 و مقررات موقت در مورد هوش مصنوعی مولد. در مرکز این مقررات، کنترل اطلاعات قرار دارد، اما الزامات قابل‌توجهی درخصوص افشا، حسابرسی مدل و استانداردهای عملکرد فنی را نیز در بر می‌گیرد. این مقررات بر الگوریتم‌های پیشنهادی، رسانه‌های مصنوعی تولیدشده و سامانه‌های هوش مصنوعی مولد مانند چت‌جی‌پی‌تی[68] شرکت اوپن ای‌آی[69] تمرکز دارند.

مقررات مدیریت الگوریتم‌های پیشنهادی 2021 [70]^-[71] توسط اداره فضای سایبری چین (CAC) برای رسیدگی به چالش‌های برخط این نوع الگوریتم‌ها تصویب شد. هدف از این مقررات ترویج توسعه سالم، حفاظت از حقوق کاربران و حفظ امنیت ملی و ثبات اجتماعی است. این مقررات طیف گسترده‌ای از خدمات، از جمله رسانه‌های اجتماعی و تجارت الکترونیک و شفافیت اجباری در مورد عملیات الگوریتم را پوشش می‌دهند. ارائه‌دهندگان خدمات باید اصول، هدف و عملکرد الگوریتم‌های خود از جمله جمع‌آوری و استفاده از داده‌ها را به صورت عمومی افشا کنند. کاربران حق دارند الگوریتم‌های پیشنهادی را غیرفعال کنند و برای تصمیمات الگوریتمی مهم، درخواست توضیح داشته باشند. این مقررات بر کنترل محتوا برای جلوگیری از ترویج محتوای غیرقانونی یا مضر تأکید دارد که نیازمند سازوکارهای نظارتی قوی است. سامانه ثبت الگوریتم برای مستندسازی انطباق با قانون، ایجاد شده است و از مطابقت الگوریتم‌ها با استانداردهای نظارتی، اطمینان حاصل می‌کند. ملاحظات اخلاقی بسیار مهم است و تبعیض بر اساس نژاد، ملیت یا جنسیت را ممنوع می‌کند. در نهایت، ارائه‌دهندگان باید اقدامات امنیتی را برای محافظت از الگوریتم‌ها در برابر سوءاستفاده و انجام ارزیابی‌های منظم ریسک، اجرا کنند. اداره فضای سایبری چین، انطباق با قانون را از طریق بازرسی، ممیزی و مجازات در صورت تخلف، اعمال می‌کند.

مقررات مدیریت خدمات اطلاعات اینترنتی مصنوعی عمیق 2022[72]^-[73]، به استفاده و تأثیر فناوری‌های مصنوعی عمیق[74]، از جمله تولید و اصلاح تصاویر، ویدیوها، صدا و متن می‌پردازد. هدف از اجرای این مقررات از 10 ژانویه 2023، ارتقای توسعه سالم، حمایت از حقوق فردی و حفاظت از امنیت ملی است. ارائه‌دهندگان باید فناوری‌های خود را در اداره فضای سایبری چین ثبت کنند و عملکرد، کاربرد موردنظر و اقدامات انطباق با قانون خود را افشا کنند. آنها باید محتوای مصنوعی را به وضوح برچسب‌گذاری کنند تا کاربران را در مورد ماهیت تولیدشده توسط هوش مصنوعی آگاه سازند. مسئولیت‌های سختگیرانه‌ای برای جلوگیری از انتشار محتوای غیرقانونی یا مضر با سازوکارهای نظارتی قوی، تحمیل شده است. کاربران، حق استفاده از داده‌های خود و مدیریت آنها و گزارش سوء‌استفاده از آنها را دارند. ارائه‌دهندگان باید ضمن رعایت استانداردهای سختگیرانه حریم خصوصی، از امنیت داده‌ها، جلوگیری از نقض و دسترسی غیرمجاز، اطمینان حاصل کنند. ملاحظات اخلاقی برای جلوگیری از تبعیض و اطلاعات نادرست، مورد تأکید قرار می‌گیرد و ارائه‌دهندگان در قبال تأثیرات اجتماعی فناوری‌های خود، پاسخگو هستند. اداره فضای سایبری چین، این مقررات را از طریق بازرسی‌های منظم، ممیزی و مجازات در صورت عدم‌انطباق با قانون، اجرا می‌کند.

دستورالعمل اقدامات جهت مدیریت خدمات هوش مصنوعی مولد[75]^-[76] براساس مقررات پیشین، توسعه یافته است و فناوری‌های هوش مصنوعی مولد مورداستفاده برای ایجاد یا ویرایش تصاویر، ویدیوها، صدا و متن را پوشش می‌دهد. در ابتدا، مقررات مصنوعی عمیق، بر خدمات مبتنی بر اینترنت، متمرکز شد و شکافی را برای هوش مصنوعی مولد برون‌خط[77] ایجاد کرد. در آوریل 2023، پیش‌نویس مقررات، ارائه‌دهندگان را ملزم می‌کرد تا از صحت، عینیت و تنوع داده‌های آموزشی اطمینان حاصل کنند و از نقض مالکیت معنوی جلوگیری کنند. هوش مصنوعی مولد، نباید محتوای تبعیض‌آمیز یا نادرست تولید کند و به موضوع توهمات ناشی از هوش مصنوعی[78] بپردازد. این الزامات، بحث عمومی را برانگیخت و منجر به اقدامات موقتی اما با محدودیت کمتری شد. این دستورالعمل، در ژوئیه 2023 منتشر شد. اقدامات مذکور که از 15 آگوست 2023، به اجرا درآمد، نوآوری را با ملاحظات اجتماعی و اخلاقی متعادل می‌سازد. ارائه‌دهندگان باید اطلاعات دقیقی درباره الگوریتم‌های هوش مصنوعی، تضمین شفافیت و کمک به کاربران در درک محتوای تولیدشده توسط هوش مصنوعی، افشا کنند. کاربران باید در مورد استفاده از هوش مصنوعی آگاه باشند و می‌توانند از محتوای تولیدشده توسط هوش مصنوعی، انصراف دهند. این مقررات، تولید و انتشار محتوای غیرقانونی یا مضر را ممنوع می‌کند و سامانه‌‌های نظارتی قوی را برای تعدیل این محتوا، الزام‌آور می‌سازد. ارائه‌دهندگان باید از آموزش و تولید داده‌ها حفاظت نمایند و استانداردهای سختگیرانه حریم خصوصی را رعایت نمایند.

حقوق مالکیت معنوی باید رعایت شود و از منابع داده‌های قانونی برای آموزش [داده‌ها] استفاده شود. اداره فضای سایبری چین، از طریق بازرسی، ممیزی و مجازات برای تخلفات، بر اجرای این مقررات، نظارت می‌کند.

در مجموع، هدف از این مقررات، کنترل اطلاعات، تضمین شفافیت و ترویج استفاده اخلاقی از فناوری‌های هوش مصنوعی و در عین حال، حفاظت از حقوق کاربر و امنیت ملی است.

پیش‌نویس مقررات جدیدی در مورد هوش مصنوعی مولد، وجود دارد که توسط کمیته ملی فنی استانداردسازی امنیت اطلاعات[79] صادر شده است، که برای اعلام نظر عمومی، تا 22 ژوئیه 2024، باز بود. این پیش‌نویس، تدابیر امنیتی جدیدی را برای هوش مصنوعی مولد، تشریح می‌کند و در حال بروزرسانی است.

بخش 4: کانادا

1.4. مقررات هوش مصنوعی و صنعت بیمه

صنعت بیمه در کانادا توسط نهادهای فدرال و استانی با دستورالعمل‌هایی مانند اصول EDGE (مخفف توضیح پذیری (E)[80]، حاکمیت داده‌ها (D)[81]، حاکمیت (G)[82] و اخلاق (E)[83])[84] صادره توسط دفتر سرپرستی مؤسسات مالی (OSFI) و قانون 25[85] کبک که بر شفافیت، مسئولیت‌پذیری و استفاده اخلاقی از هوش مصنوعی در عملیات بیمه، تأکید دارد، تنظیم می‌شود.

هنوز هیچ نوع چارچوب نظارتی ویژه هوش مصنوعی در کانادا، وجود ندارد. با این حال، کانادا گام‌هایی اساسی برای تنظیم‌مقررات هوش مصنوعی در سطح فدرال برداشته است، به ویژه از طریق دو قانون اولیه، که هر دو در حال حاضر در مجلس عوام در حال بررسی هستند: قانون داده‌ها و هوش مصنوعی (AIDA)[86] و قانون حفاظت از حریم خصوصی مصرف‌کننده (CPPA)[87]. در مجموع، هدف از این قوانین، آن است که کاربران، فناوری‌های هوش مصنوعی را مسئول بدانند تا استفاده از هوش مصنوعی ایمن و بدون تبعیض، تضمین شود.

2.4. نهادهای نظارتی مرتبط با مقررات هوش مصنوعی در صنعت بیمه

نهادهای نظارتی مرتبط با مقررات هوش مصنوعی، ترکیبی از فدرال - به عنوان مثال، دفتر سرپرستی مؤسسات مالی (OSFI)، مقررات شورای بیمه کانادا (CCIR)[88] و سازمان مصرف‌کننده مالی کانادا (FCAC)[89] - و مقررات استانی هستند که بر رفتار و شفافیت بازار، تمرکز دارند.

در سطح فدرال، قانون داده‌ها و هوش مصنوعی، در صورت تصویب، اولین قانون جامع کانادا خواهد بود که هوش مصنوعی را تنظیم مقررات می‌کند. هدف از این قانون تضمین این موضوع است که «سامانه‌‌های هوش مصنوعی مستقر در کانادا، ایمن و بدون تبعیض هستند و کسب‌وکارها را برای نحوه توسعه و استفاده از فناوری‌های هوش مصنوعی، مسئول می‌داند»[90]. الزامات کلیدی این قانون عبارتند از: (1) کاهش ریسک - این قانون از کسب و کارها می‌خواهد که راهبردهای کاهش ریسک را متناسب با نوع سامانه هوش مصنوعی، با الزامات سخت‌گیرانه‌تر برای سامانه‌هایی با ریسک بالاتر، اجرا کنند. (2) مسئولیت‌پذیری- این قانون سازوکار‌های حاکمیتی را برای رسیدگی به ریسک‌های مربوط به آسیب و سوگیری را معرفی می‌کند و تضمین می‌کند که سامانه‌‌های هوش مصنوعی، ایمن و منصفانه هستند؛ و (3) شفافیت - فرآیند توسعه نظارتی، باز و شفاف است و شامل مشاوره با ذی‌نفعان از جمله رهبران صنعت هوش مصنوعی، دانشگاهیان و جامعه مدنی است.

از سوی دیگر، قانون حفاظت از حریم خصوصی مصرف‌کننده (CPPA)، قصد دارد قانون حفاظت از اطلاعات شخصی و اسناد الکترونیکی (PIPEDA)[91]، که قانون جامع حفاظت از داده‌های کانادا است را مدرن سازد. الزامات مذکور در قانون حفاظت از حریم خصوصی مصرف‌کننده، شامل قوانین اصلاحی برای جمع‌آوری، استفاده و افشای اطلاعات شخصی و نقش گسترده کمیسر عالی حریم خصوصی[92]، از جمله تقویت نظارت و توان اجرایی است. نکته مهم آن است که قانون مذکور همچنین استفاده از «سامانه‌های تصمیم‌گیری خودکار»[93] را تنظیم‌مقررات می‌کند. تصمیم‌گیری خودکار در این قانون به عنوان هر فناوری تعریف می‌شود که به کمک یا جایگزینی قضاوت تصمیم‌گیرندگان انسانی از طریق استفاده از یک سامانه مبتنی بر قوانین، تجزیه و تحلیل رگرسیون[94]، تجزیه و تحلیل پیش‌گویانه[95]، یادگیری ماشینی[96]، یادگیری عمیق[97]، شبکه عصبی[98] یا تکنیک‌های دیگر کمک می‌کند[99].

در سطح استانی، کبک، قانون 25 را تصویب کرده است که به عنوان لایحه 64[100] نیز شناخته می‌شود، که هدف آن، نوسازی قوانین حفظ حریم خصوصی است و شامل الزامات خاصی برای ابزارهای هوش مصنوعی می‌شود که اطلاعات شخصی را مدیریت می‌کنند. این قانون الزام می‌کند که کسب‌وکارها قبل از استقرار سامانه‌های هوش مصنوعی برای شناسایی و کاهش خطرات حریم خصوصی، ارزیابی‌های تاثیر حفظ حریم خصوصی (PIA)[101] را به انجام رسانند. همچنین، این قانون، الزامات شفافیت را در مورد داده‌های کسب‌وکار و شیوه‌های امنیت سایبری و سازوکار‌های رضایت را قبل از جمع‌آوری، استفاده یا افشای اطلاعات شخصی، افزایش می‌دهد. در نهایت، مانند سایر قوانین حفظ حریم خصوصی، این قانون، مشاغل را ملزم می‌سازد تا در صورت نقض داده‌ها که ممکن است آسیب جدی ایجاد کند، افراد و مقامات را مطلع نمایند.

3.4. تحولات فعلی

اخیراً، دفتر سرپرست مؤسسات مالی (OSFI)، با همکاری مؤسسه جهانی ریسک[102]، اصول EDGE را توسعه داده است که مخفف اصطلاحات توضیح‌پذیری، حاکمیت داده، حاکمیت و اخلاق است [103]^-[104]. هدف از این اصول، تضمین شفافیت، انصاف و مسئولیت‌‌پذیری سامانه‌های هوش مصنوعی است و از این طریق، اعتماد به فناوری‌های هوش مصنوعی بیشتر می‌شود.

در سطح استانی، سازمان بازارهای مالی کبک، دستورالعمل‌ها و گزارش‌هایی را در مورد استفاده از هوش مصنوعی در امور مالی صادر کرده است. این دستورالعمل‌ها، بر نیاز به چارچوب‌های حاکمیتی هوش مصنوعی که شامل مسئولیت‌پذیری انسانی، تاب‌آوری، کارایی، استحکام و امنیت است، تأکید دارد. همچنین، آنها بر اهمیت انصاف، استقلال مصرف‌کننده و شفافیت در سامانه‌های هوش مصنوعی، تاکید دارند.

صنعت بیمه، به طور فزاینده‌ای از پیامدهای اخلاقی هوش مصنوعی، آگاه است. شرکت‌ها، در حال اتخاذ شیوه‌هایی هستند تا اطمینان حاصل کنند که الگو‌های هوش مصنوعی، سوگیری‌ها را تداوم نمی‌بخشند. این امر شامل درک مفروضات اساسی در داده‌ها، انتخاب ابزارهای مناسب و اجرای روش‌هایی است که سوگیری را کاهش می‌دهد. نظارت و تنظیم مستمر الگوهای هوش مصنوعی برای اطمینان از همسویی آنها با استانداردهای اخلاقی، ضروری است.

در نهایت، استفاده از داده‌های شخص ثالث و محصولات هوش مصنوعی در صنعت بیمه رایج است. استانداردهای مربوط به مدیریت ریسک شخص ثالث و بررسی‌های مستقل برای اطمینان از منشأ، اصالت[105] و کیفیت داده‌ها، ضروری است. این امر به جلوگیری از دور زدن مقررات[106]، کمک می‌کند و تضمین می‌نماید که سامانه‌های هوش مصنوعی، منصفانه و بی طرفانه هستند.

به طور خلاصه، رویکرد کانادا به حاکمیت هوش مصنوعی در صنعت بیمه شامل ترکیبی از اقدامات قانونی، دستورالعمل‌های نظارتی و بهترین شیوه‌های صنعت با هدف اطمینان از استفاده اخلاقی، کاهش سوگیری و ارتقای شفافیت و پاسخگویی است. با توجه به سرعت بالای تحولات هوش مصنوعی، به ویژه هوش مصنوعی مولد و با عنایت به تأخیرهای اجتناب‌ناپذیر در تلاش نهادهای تنظیم‌مقرراتی برای سازگاری و تکامل چارچوب‌های نظارتی، بیم‌سنج‌ها در کانادا باید به محیط نظارتی در ماه‌ها و سال‌های آتی، توجه ویژه‌ای داشته باشند.