ورود هوش مصنوعی مولد به جریان اصلی تکنولوژی، تغییراتی گسترده از جمله در زمینه تولید محتوای بزرگسالان به وجود آورده است. سال گذشته، تلاش‌هایی برای ساخت برنامه‌های تولید کننده پورن توسط هوش مصنوعی در مراحل ابتدایی خود بود و محصولات ایجاد شده توسط این ابزاران به ندرت کیفیت مطلوبی داشتند. اما امروز، با جستجوی ساده‌ای در اینترنت، می‌توانید ده‌ها ابزار مختلف پیدا کنید که برخی از آن‌ها به صورت رایگان در دسترس هستند.
افزایش کیفیت تصاویر تولید شده توسط هوش مصنوعی سوالات اخلاقی جدیدی را به همراه آورده است. هرچند کیفیت تصاویر بهبود یافته، اما همچنان جای کار بیشتری دارد و ابعاد اجتماعی و اخلاقی گسترده‌ای بر این فناوری سایه افکنده است. به عنوان مثال، هفته گذشته، براندون ائوینگ، شخصیت معروف توییچ، به دلیل مشاهده تصاویری که از زنان ناشناس از طریق هوش مصنوعی تولید شده بود متهم به اقدامی غیر اخلاقی شد.
یکی از چالش‌های اساسی این فناوری این است که تصاویر تولید شده اغلب زنان را هدف می‌گیرند و در برخی موارد به صورت سلاح استفاده می‌شوند. گزارش‌هایی از بکارگیری این تکنولوژی برای تولید تصاویر بدون رضایت افراد و تاثیر منفی آن بر زندگی آن‌ها منتشر شده است. برای مثال، یک معلم در یک شهر کوچک شغل خود را از دست داد زیرا تصاویر جنسی از او بدون رضایت در اینترنت قرار گرفت.
در عین حال، گروه‌هایی که پشت این تکنولوژی هستند، مانند “Unstable Diffusion”، به عملکرد خود ادامه می‌دهند. این گروه با استفاده از داده‌های بصری مختلف و جمع‌آوری کمک‌های مالی، به توسعه مدل‌های تولید هنر خود پرداخته‌اند که به رغم چالش‌های موجود، موفق به جذب بیش از ۳۵۰ هزار کاربر شدند.
آرمان چادری، یکی از مؤسسان Unstable Diffusion، اظهار داشت تمرکز اصلی آن‌ها بر ایجاد بستری برای هنر با استفاده از هوش مصنوعی و ارتقاء ابزارهایی است که خلاقیت را محدود نمی‌کنند. این تیم به دنبال استفاده از این فناوری در زمینه‌های گسترده‌تری است و سرمایه‌گذاری‌های لازم برای بهبود زیرساخت‌های محاسباتی خود را در نظر گرفته‌اند.
با وجود موفقیت‌های فنی، این گروه در تلاش است تا از لحاظ بازاریابی و برندینگ نیز رشد کند و به سوددهی برسد. یکی از رویکردهای جدید آن‌ها، ارائه گزینه‌های سفارشی‌سازی متنوع و توسعه سیستم‌های مدیریتی محتوا است تا محتوای نامناسب را شناسایی و حذف کند و تجربه کاربری بهتری را رقم بزند.
بی‌شک فناوری هوش مصنوعی مولد هنوز در حال تکامل است و با چالش‌های اخلاقی و اجتماعی پیچیده‌ای رو به رو است. در نتیجه، Unstable Diffusion و دیگر بازیگران این میدان باید با دقت بیشتری به مدیریت محتوای خود بپردازند و ضمن حفظ نوآوری‌هایشان، مسئولیت‌های اجتماعی خود را نیز مدنظر قرار دهند.