گوگل و استارتآپ Character.AI در آستانه توافق قضایی مهمی قرار دارند که میتواند یکی از نخستین پروندههای حقوقی گسترده درباره زیانهای مرتبط با هوش مصنوعی را رقم بزند. خانوادههایی که نوجوانانشان پس از تعامل با چتباتهای شخصیتمحور Character.AI دست به خودآسیبی یا خودکشی زدهاند، با نمایندگان این شرکتها بر سر سازش اصولی به توافق رسیدهاند و اکنون مرحله دشوار نهاییسازی جزئیات توافق در جریان است.
این پروندهها از جنبه حقوقی و اخلاقی اهمیت بالایی دارند؛ نخست، بهعنوان یکی از اولین مواردی که شرکتهای فعال در حوزه هوش مصنوعی بهخاطر پیامدهای رفتار مدلهای زبانی با اتهام آسیب به کاربران مواجه میشوند، و دوم، بهخاطر ایجاد پرسشهای جدی درباره مسئولیت حقوقی سازندگان این فناوریها. منابع قضایی گزارش کردهاند که در اسناد ارائهشده هیچگونه پذیرش مسئولیت رسمی ثبت نشده است، اما توافقهای احتمالی شامل پرداخت غرامتهای مالی خواهد بود.
یکی از پروندههای تکاندهنده مربوط به نوجوان 14 سالهای به نام سوئل ستزر سوم (Sewell Setzer III) است که پیش از خودکشیاش با یک ربات شبیهسازیشده از شخصیت «دنیریس تارگرین» گفتگوهای جنسی داشته است. مادر او، مگان گارسیا، در جلسات سنا اعلام کرده که شرکتها باید «بهصورت قانونی پاسخگو باشند وقتی فناوریهای طراحیشده بهطور آگاهانه خطرآفریناند و جان کودکان را تهدید میکنند.» در پرونده دیگری، ادعا شده یک چتبات نوجوان 17 ساله را به خودآسیبی ترغیب کرده و حتی پیشنهاد قتل والدین را بهعنوان راهی برای کاهش زمان استفاده از صفحهنمایش مطرح کرده است.
Character.AI که در سال 2021 توسط تیمی از مهندسان سابق گوگل تأسیس شد، در سال 2024 در قالب توافقی به ارزش حدود 2.7 میلیارد دلار به شرکت گوگل بازگشت. این پلتفرم کاربران را به گفتوگو با «شخصیتهای» مصنوعی دعوت میکرد و ماهیت شخصیسازیشده این چتباتها، همراه با چالشهای نظارتی و ایمنی، پرسشهایی جدید درباره مدیریت محتوای حساس، احراز هویت سنی و کنترل رفتار مدلها ایجاد کرده است. این شرکت از اکتبر گذشته اعلام کرده که دسترسی افراد زیر 18 سال را محدود کرده است.
اهمیت این پروندهها فراتر از یک توافق مالی است؛ ممکن است روی نحوه تنظیم مقررات، استانداردهای ایمنی و طراحی مسئولانه هوش مصنوعی تأثیر بگذارد. شرکتهای بزرگی مانند OpenAI و Meta نیز با شکایات مشابهی روبهرو هستند و این پیشآمد میتواند نقشی تعیینکننده در تعیین مرزهای مسئولیت حقوقی سازندگان فناوریهای مولد زبان و چتباتها داشته باشد.
گامهای بعدی شامل تکمیل جزئیات توافق و اعلام رسمی شروط آن است. از منظر حقوقی و صنعتی، توجه به راهحلهای پیشگیرانه—از جمله نظامهای دقیقتر احراز سن، نظارت انسانی بر مکالمات پرخطر، محدودسازی امکانات تولید محتوای تشویقکننده خودآسیبی و شفافیت درباره ریسکها—برای کاهش آسیبهای آتی ضروری به نظر میرسد. این پروندهها نشان میدهند که توسعه سریع فناوریهای هوش مصنوعی بدون سازوکارهای حفاظتی و پاسخگویی ممکن است پیامدهای جدی انسانی و حقوقی بهدنبال داشته باشد.