شرکتهای بزرگ بیمه در آمریکا به قانونگذاران هشدار دادهاند که مسئولیتهای ناشی از هوش مصنوعی ممکن است برای بازار بیمه غیرقابلتحمل شود. بهگزارش فایننشال تایمز، شرکتهایی مانند AIG، Great American و WR Berkley از ناظران خواستهاند تا به آنها اجازه داده شود که خسارتهای مرتبط با سیستمهای هوش مصنوعی را از پوششهای شرکتی مستثنی کنند. یکی از زیرنویسگذاران فایننشال تایمز خروجی مدلهای هوش مصنوعی را «جعبهسیاه» توصیف کرده و بهوضوح از عدم قطعیت و غیرقابلپیشبینی بودن آنها سخن گفته است.
دلایل نگرانی صنعت بیمه روشن است: خطاهای مدلهای هوش مصنوعی میتواند پیامدهای قانونی و مالی سنگینی داشته باشد. نمونههای ملموس شامل اتهام نادرست علیه یک شرکت انرژی خورشیدی در بخش «Google AI Overview» بود که منجر به شکایت ۱۱۰ میلیون دلاری در مارس شد؛ مورد دیگری که شرکت هواپیمایی Air Canada را مجبور کرد تخفیفی را که چتباتش ساخت، محترم بشمارد؛ و سرقت ۲۵ میلیون دلاری از شرکت مهندسی Arup با استفاده از نسخه دیجیتالیشده مدیرعامل در یک تماس ویدیویی کاملاً واقعی که نشاندهنده قدرت جعل عمیق بود.
آنچه بیمهگران را بیش از یک پرداخت بزرگ میترساند، ریسک سیستماتیک است: اگر یک مدل هوش مصنوعی که در سطح گسترده استفاده میشود دچار خطا شود، ممکن است هزاران ادعای همزمان ایجاد شود و این حجم خسارت خارج از توان پذیرهنویسی مرسوم است. به گفته یکی از مدیران شرکت Aon، بازار بیمه میتواند تحمل یک زیان ۴۰۰ میلیون دلاری برای یک شرکت را داشته باشد، اما ناتوان است از مواجهه با سناریویی که یک خطای عاملمند هوش مصنوعی همزمان دهها هزار زیان به بار آورد.
پیامدهای این بحران احتمالی برای کسبوکارها و توسعه هوش مصنوعی گسترده است: احتمال افزایش حقبیمهها، پذیرش استثناهای گسترده در پوششهای مسئولیت، رشد بازار بیمههای تخصصی AI و فشار بر نهادهای ناظر برای تدوین استانداردها و مقررات جدید. از سوی دیگر، این وضعیت نیاز به راهکارهای فنی و مدیریتی را برجسته میکند: شفافسازی و قابلتوضیحبودن مدلها، مکانیزمهای نظارت و پایش مستمر، درج کنترلهای انساندرمیان (human-in-the-loop)، و تدوین قراردادهای واضح درباره مسئولیتها و محدودیتها.
کارشناسان پیشنهاد میکنند که پاسخ مناسب ترکیبی از تنظیمگری هوشمندانه، استانداردسازی فنی و نوآوری در محصولات بیمهای خواهد بود تا از یکسو امکان رشد ایمن فناوریهای هوش مصنوعی فراهم شود و از سوی دیگر بازار بیمه از انباشت ریسکهای همزمان محافظت گردد. در کوتاهمدت، کسبوکارها باید نسبت به مدیریت ریسکهای مرتبط با هوش مصنوعی جدیتر عمل کنند و راهکارهایی مانند ممیزی مدلها، بررسی سناریوهای بدبینانه و تهیه برنامههای واکنش به بحران را در دستور کار قرار دهند.