متا ویژگی جنجالی تولید تصویر مبتنی بر حسابهای عمومی اینستاگرام را حذف کرد
متا اعلام کرده است که یک قابلیت جدید در ابزارهای هوش مصنوعیاش را حذف کرده است؛ قابلیتی که به کاربران اجازه میداد با اشاره (@-mention) به حسابهای عمومی اینستاگرام، از تصاویر آن حسابها بهعنوان مرجع برای تولید عکسهای جدید با هوش مصنوعی استفاده کنند. این ویژگی که همراه با مجموعهای از ابزارهای جدید هوش مصنوعی و معرفی Muse Image توسط واحد تازهتاسیس Meta Superintelligence Labs عرضه شده بود، «موفق نبود» و پس از بازخوردهای منفی دیگر در دسترس قرار نخواهد داشت.
چگونگی عملکرد و دلیل اعتراضها
قابلیت مورد بحث به کاربران امکان میداد با ذکر نام کاربری حسابهای عمومی، محتوای آن حساب را بهعنوان مرجع برای تولید تصویر جدید معرفی کنند؛ سیستمی که هیچ مکانیزم اتوماتیکی برای اطلاعرسانی یا کسب رضایت از صاحب حساب ارائه نمیداد. همین موضوع نگرانیهای جدی در زمینه حریم خصوصی و احتمال سوءاستفاده (از جمله تولید تصاویر جعلی و صریح) را بهوجود آورد و منتقدان و کارشناسان امنیتی و حقوقی را به واکنش واداشت.
واکنش متا و رسانهها
متا در پستی در وبلاگ رسمی خود نوشت که هدف این بود «یک ابزار خلاقانه مفید فراهم شود و کنترل به افراد برای تعیین اینکه آیا محتوای عمومیشان میتواند به این شکل مورد ارجاع قرار بگیرد، داده شود»، اما تاکید کرد که «بازخوردها نشان داد این ویژگی در عمل موفق نبود» و بنابراین حذف میشود. نخستین گزارشدهنده تصمیم حذف، دیلن بایرز از Puck News بود و رسانههای فناوری مانند TechCrunch نیز همزمان راهنماهایی برای غیرفعالسازی احتمالی این قابلیت منتشر کرده بودند.
پیامدها و چشمانداز
این اقدام بار دیگر کمبود سازوکارهای محافظتی و اخلاقی در عرضه سریع قابلیتهای هوش مصنوعی توسط پلتفرمهای بزرگ را برجسته میکند. تجربههای پیشین نشان داده که وقتی ابزارهای تولید محتوا بدون محدودیت کافی منتشر شوند، امکان تولید تصاویر فریبنده، عاری از رضایت صاحبان محتوا یا حتی تصاویر صریح از افراد معروف بهسرعت افزایش مییابد. بهعلاوه، فشار آژانسهای هنری و نمایندگیهای استعدادها (از جمله CAA) و کاربران نیز در تصمیمگیری متا نقش داشته است.
اقدامات لازم از سوی پلتفرمها
قرارگیری مجدد چنین قابلیتهایی تنها در صورتی قابل دفاع خواهد بود که سازوکارهای شفاف کسب رضایت، اطلاعرسانی خودکار به افراد و محدودیتهای کاربردی برای جلوگیری از تولید محتوای مضر یا غیرقانونی پیادهسازی شود. کارشناسان حریم خصوصی و حقوق دیجیتال بر ضرورت استانداردهای اجباری، ممیزی بیرونی و خطوط قرمز مشخص در توسعه و عرضه ابزارهای هوش مصنوعی تاکید دارند.
خلاصه و جمعبندی
حذف این ویژگی توسط متا نشاندهنده واکنش به نگرانیهای گسترده درباره حریم خصوصی و سوءاستفاده احتمالی از فناوریهای تولید تصویر مبتنی بر هوش مصنوعی است. با توجه به سرعت پیشرفت ابزارهای مولد تصویر، انتظار میرود بحث پیرامون قوانین، سیاستها و استانداردهای حفاظتی در ماههای آینده شدت یابد تا تعادل بین نوآوری و حفاظت از حقوق کاربران برقرار شود.