انتشار مدل هوش مصنوعی ویدئوژنراتور Sand AI: دستاوردی نوین با چالش‌های نظارتی
یک استارتاپ چینی به نام Sand AI اخیراً مدل هوش مصنوعی ویدئوژنراتوری را با مجوز باز منتشر کرده است که توجه بسیاری از کارآفرینان، از جمله کای-فو لی، مدیر موسس مایکروسافت ریسرچ آسیا را به خود جلب کرده است. با این حال، بر اساس آزمون‌های صورت‌گرفته توسط TechCrunch، به نظر می‌رسد این شرکت تصاویری که ممکن است خشم نهادهای نظارتی چین را برانگیزد، از نسخه میزبانی شده این مدل سانسور می‌کند.
به تازگی، Sand AI مدل Magi-1 را معرفی کرد که می‌تواند ویدئوها را با پیش‌بینی توالی فریم‌ها به‌طور «خودکار» تولید کند. این شرکت ادعا می‌کند که این مدل قادر به تولید تصاویر ویدئویی با کیفیت بالا و کنترل‌پذیر است که فیزیک را به‌طور دقیق‌تری نسبت به رقبای مشابه منتقل می‌کند.
مدل Magi-1 برای اجرا به سخت‌افزارهای مصرفی سطح پایین مناسب نیست و از اندازه ۲۴ میلیارد پارامتر برخوردار است که برای عملکرد به چهار تا هشت کارت گرافیک Nvidia H100 نیاز دارد. برای بسیاری از کاربران، از جمله این نویسنده، پلتفرم Sand AI تنها محلی است که می‌توانند تجربه کار با مدل Magi-1 را انجام دهند. این پلتفرم برای شروع تولید ویدئو به تصویری به‌عنوان “پیشنهاد” نیاز دارد. اما، TechCrunch به سرعت متوجه شد که تمامی پیشنهادات مجاز نیستند. Sand AI از آپلود تصاویری از جمله شی جین‌پینگ، میدان تیان آن من، و پرچم تایوان جلوگیری می‌کند.
این سانسور به نظر می‌رسد در سطح تصویر اعمال می‌شود؛ تغییر نام فایل‌های تصویری نتوانسته است مانع از مسدودسازی شود. جالب است بدانید که Sand AI تنها استارتاپ چینی نیست که از آپلود تصاویر حساس سیاسی به ابزار تولید ویدئو جلوگیری می‌کند؛ پلتفرم رسانه‌ای نسل‌ساز MiniMax نیز مشابه این اقدام را نسبت به تصاویر شی جین‌پینگ انجام می‌دهد، اما ظاهر سانسور در Sand AI به‌ویژه شدیدتر به نظر می‌رسد.
طبق گزارشی از مجله Wired، مدل‌های هوش مصنوعی در چین موظف به رعایت کنترل‌های سختگیرانه اطلاعات هستند. قانون سال ۲۰۲۳ تولید محتوایی که «یگانگی کشور و هماهنگی اجتماعی را آسیب‌پذیر کند» را ممنوع می‌کند، که به معنای مخالفت با روایت‌های تاریخی و سیاسی دولت است. بنابراین، استارتاپ‌های چینی معمولاً برای رعایت قوانین، مدل‌های خود را سانسور می‌کنند.
نکته جالب دیگر اینکه در حالی که مدل‌های چینی معمولاً از اظهار نظرهای سیاسی جلوگیری می‌کنند، اما به‌طور معمول فیلترهای کمتری نسبت به رقبای آمریکایی خود برای محتوای مستهجن دارند. گزارشی در رابطه با این موضوع به تازگی منتشر شده که نشان می‌دهد بسیاری از تولیدکنندگان ویدئویی که توسط شرکت‌های چینی ارائه می‌شوند، از امکانات اساسی برای جلوگیری از تولید محتواهای غیرمجاز و بدون رضایت، بی‌بهره‌اند.