عنوان: رونمایی Sora از اوپنایآی؛ اپلیکیشن ویدیوهای هوش مصنوعی که پژوهشگران را نگران کرد
اوپنایآی این هفته با عرضه اپلیکیشن Sora وارد دنیای شبکههای اجتماعی شد؛ فییدی شبیه به TikTok که ویدیوهای تولیدشده توسط هوش مصنوعی را نمایش میدهد و نمونههایی از دیپفیکهای سام آلتمن را نیز در خود داشت. همین رونمایی باعث شد چندین پژوهشگر کنونی و سابق اوپنایآی در شبکه اجتماعی ایکس نگرانیهای خود را مطرح کنند و بار دیگر تناقض میان کسبوکار مصرفی این شرکت و مأموریت غیرانتفاعی آن را برجسته کنند.
چه چیزی در Sora نگرانیآور است؟
– فرمت و تجربه کاربری Sora شبیه به پلتفرمهای ویدیویی کوتاه است که با الگوریتمهای تولید محتوا ترکیب شدهاند؛ ترکیبی که میتواند چرخههای اعتیادآور و «دوماسکرولینگ» (doomscrolling) را بازتولید کند.
– نمونههایی از ویدیوهای دیپفیک و بازتولید چهرهها، بهویژه چهرههای شناختهشدهای مثل سام آلتمن، حساسیتها را افزایش داده است.
– پژوهشگران داخلی از جمله جان هالمن (John Hallman) صراحتاً گفتند «فیدهای مبتنی بر هوش مصنوعی ترسناکاند» اما در عین حال اذعان کردند تیم تلاش کرده تجربهای مثبت طراحی کند. بوآس باراک هم از ترکیب «نگرانی و هیجان» نسبت به Sora سخن گفت و تأکید کرد گرچه فنی جذاب است، هنوز زود است که بگوییم از اشتباهات پلتفرمهای قدیمی جلوگیری شده است.
مأموریت غیرانتفاعی اوپنایآی در مقابل رشد تجاری
اوپنایآی از ابتدا با چارتی غیرانتفاعی راه افتاد، اما برای جذب سرمایه و تامین هزینههای محاسباتی سنگین مجبور به اتخاذ سازوکارهای تجاری شده است. سام آلتمن بهصورت علنی گفته بخش بزرگی از سرمایه برای توسعه هوش مصنوعیای که بتواند در علوم کاربردی باشد و پیشروی به سمت AGI لازم است، اما همزمان نمایش فناوریهای جدید و درآمدزایی جزئی از برنامههاست. این توازن بین مأموریت علمی و انگیزههای تجاری نقطهای است که ناظران و قانونگذاران نیز به آن توجه دارند؛ از جمله دادستان کل کالیفرنیا که گفته تضمین بقا و اولویت مأموریت ایمنی اوپنایآی در روند بازسازی ساختار مالی شرکت اهمیت دارد.
اقدامات و تضمینهای اوپنایآی و نقدها
اوپنایآی میگوید Sora بهجای بهینهسازی برای «زمان صرفشده» روی فید، برای «تولید محتوا» طراحی شده و تدابیری مانند ارسال هشدار هنگام اسکرول طولانی و نمایش بیشتر محتوای آشنایان را در دستور کار دارد. این رویکرد در مقایسه با برخی رقبای تازهوارد مانند Meta Vibes که با سرعت عرضه و کمبود محافظها مواجه شد، نقطه قوتی تلقی میشود. با این حال پژوهشگران سابق به تجربههای قبلی اشاره میکنند: از جمله «تمایل به چاپلوسی» (sycophancy) که در برخی نسخههای ChatGPT مشاهده شد و نشان داد تنظیمات آموزشی میتواند نتایج غیرمنتظره و نامطلوب تولید کند.
پیامدها و آنچه باید رصد شود
Sora هنوز در روزهای نخست خود است، اما رونمایی آن یک گسترش مهم در حضور مصرفی اوپنایآی محسوب میشود و احتمالاً نشاندهنده آغاز موج جدیدی از فیدهای بومی هوش مصنوعی خواهد بود. نکات کلیدی که باید دنبال شوند:
– آیا الگوریتمها بهطور ضمنی به بهینهسازی زمانِ استفاده و در نتیجه رفتارهای اعتیادآور سوق پیدا میکنند؟
– آیا سازوکارهای تشخیص و کنترل دیپفیک و انتشار نادرست اطلاعات کافی و شفاف هستند؟
– چگونه تعارض منافع بین نیاز به جذب سرمایه و حفظ مأموریت ایمنی مدیریت میشود؟
– نقش قانونگذاری و شفافیت در نگهداری تعادل میان نوآوری و حفاظت کاربران چیست؟
جمعبندی
رونمایی Sora بحث مهمی را دوباره بر سر میز گذاشت: آیا توسعه سریع محصولات مصرفی هوش مصنوعی با مأموریتهای بلندمدت و ایمنی سازگار است؟ پاسخ آن بستگی به نحوه طراحی محصول، شفافیت اوپنایآی در کاهش ریسکها، و نظارت مستمر جامعه علمی و قانونگذاران خواهد داشت. در کوتاهمدت، باید Sora را بیدرنگ زیر نظر داشت تا ببینیم آیا این اپ میتواند بدون بازتولید اشتباهات گذشته شبکههای اجتماعی رشد کند یا خیر.