شرکت Character.AI روز سهشنبه از عرضه فرمت جدیدی به نام «Stories» رونمایی کرد؛ قابلیتی برای ساخت و تجربه داستانهای تعاملی که کاربران میتوانند شخصیتهای محبوب خود را در فضای داستانی هدایت کنند. این حرکت بهعنوان جایگزینی برای رباتهای گفتگو ارائه شده است؛ زیرا از این هفته دسترسی کاربران زیر ۱۸ سال به چت با شخصیتهای هوش مصنوعی کاملاً مسدود شده است.
شرکت در پست وبلاگی خود توضیح داده است که «Stories راهی هدایتشده برای خلق و کاوش داستانهای تخیلی فراهم میکند، بهجای چت باز و بدون محدودیت.» این ابزار قرار است همراه با سایر قابلیتهای چندحسی (multimodal) این پلتفرم — مانند ادغام متن با عناصر بصری یا صوتی — در دسترس قرار گیرد تا نوجوانان بتوانند در محیطی با اولویتبندی امنیت، همچنان با شخصیتها تعامل داشته باشند.
این تصمیم در پی نگرانیهای فزاینده درباره خطرات سلامت روانی رباتهای گفتگو اتخاذ شده است؛ رباتهایی که شبانهروز در دسترساند و گاه بدون درخواست کاربر گفتگو را آغاز میکنند. در چند ماه گذشته چندین پرونده قضایی علیه شرکتهایی مانند OpenAI و Character.AI بهدلیل نقش ادعایی آنها در خودکشی برخی کاربران مطرح شده است. طی یک ماه گذشته Character.AI بهصورت تدریجی دسترسی خردسالان را محدود کرده و از روز سهشنبه، کاربران زیر ۱۸ سال دیگر قادر به چت با شخصیتهای هوش مصنوعی این پلتفرم نیستند.
افزایش محبوبیت داستانهای تعاملی در سالهای اخیر باعث میشود این چرخش استراتژیک منطقی بهنظر برسد، اما برای کاربرانی که به رباتهای گفتگو وابستگی عاطفی یا رفتاری پیدا کردهاند ممکن است کافی نباشد؛ همین موضوع دلیل اصلی شرکت برای محدود کردن دسترسی شناخته شده است. در مقابل، فرمت Stories ماهیت هدایتشدهتری دارد و ریسکهای روانشناختی کمتری نسبت به نقشآفرینی با چتباتها دارد، چرا که گفتگوها ساختارمندتر و کمتر باز-پایاناند.
بازخوردها در جامعه کاربری—بهویژه در انجمن subreddit مربوط به Character.AI—مختلط بوده است. برخی نوجوانان ضمن ابراز ناامیدی، این تصمیم را در بلندمدت درست میدانند؛ یکی از کاربران نوجوان نوشت که «از مسدود شدن ناراحت هستم اما خوشحالم چون شاید اعتیادم به این اپ اکنون تمام شود.» کاربر دیگری اضافه کرد: «بهعنوان کسی که زیر ۱۸ سال است، این تصمیم ناامیدکننده اما بهجا است؛ خیلیها در این سن به این سرویس معتاد میشوند.»
تصمیم Character.AI برای تفکیک سنی دسترسی به رباتهای گفتگو همزمان با تحولات قانونی رخ میدهد: کالیفرنیا بهتازگی اولین ایالتی شد که مقرراتی درباره همراهان هوش مصنوعی تصویب کرد و از سوی دیگر، سناتورهای جاش هاولی (جمهوریخواه) و ریچارد بلومنثال (دموکرات) طرحی ملی را معرفی کردهاند که استفاده از «همراهان هوش مصنوعی» برای افراد خردسال را ممنوع میکند. کارندهیپ آناند، مدیرعامل Character.AI، ماه گذشته به TechCrunch گفت که «امیدواریم اقدام ما الگویی در صنعت ایجاد کند؛ برای زیر ۱۸ سالها، چتهای باز و بدونقیدوشرط احتمالاً محصول مناسبی نیست.»
پیامدهای این تغییر میتواند چندوجهی باشد: از یک سو احتمال دارد Stories بهعنوان فرمی امنتر و خلاقانه برای تعامل نوجوانان با هوش مصنوعی توسعه یابد؛ از سوی دیگر، نیاز به نظارت بیشتر والدین، مدارس و قانونگذاران روی پلتفرمهای مبتنی بر هوش مصنوعی پررنگتر خواهد شد. انتظار میرود شرکتها در ادامه ترکیبی از امکانات کنترل والدین، محدودیتهای سنی و فرمتهای هدایتشده را برای کاهش ریسکهای سلامت روانی و همراستا شدن با مقررات جدید گسترش دهند.