عنوان: ردیت با مدلهای زبان بزرگ به جنگ اسپم رفت؛ کاهش ۲۰٪ نمایش هرزنامه در سه ماهه اول سال
خلاصه: دسترسی آسان به مدلهای زبان بزرگ (LLM) باعث رشد تولید خودکار هرزنامه و محتواهای باتمحور شده است. ردیت میگوید برای مقابله با همین تهدید، ابزارهای جدید مبتنی بر LLM توسعه داده و توانسته نمایش هرزنامه را کاهش دهد و هزاران پست و نظر اسپم را روزانه مسدود کند.
متن خبر:
با همهگیر شدن مدلهای زبان بزرگ، ساخت و انتشار اسپم و محتوای تولیدشده توسط رباتها سادهتر از همیشه شده است. ردیت در واکنش به این چالش اعلام کرده که ابزارهای جدیدی مبتنی بر مدلهای زبان بزرگ توسعه داده تا الگوهای هماهنگ و ظریف رفتار جعلی را شناسایی کند — مسألهای که سیستمهای قدیمیتر اغلب از آن غفلت میکردند.
بر اساس گزارش ردیت، این پلتفرم روزانه حدود ۲۳ میلیون نمایش اسپم را مسدود میکند و بهطور متوسط نزدیک به ۲۵ هزار پست و نظر اسپم جدید را هر روز شناسایی مینماید. افزون بر این، ردیت میگوید از ژانویه تا مارس توانسته میزان مواجهه کاربران با اسپم را در مقایسه با سه ماهه پیش از آن نزدیک به ۲۰٪ کاهش دهد؛ دستاوردی که نشان میدهد بهکارگیری LLMها در ترکیب با ابزارهای قدیمیتر اثربخش بوده است.
ردیت در پست وبلاگی خود مینویسد: «ما از مدلهای زبان بزرگ برای کشف الگوهای بسیار ظریف و هماهنگ رفتار جعلی و هیجان مصنوعی استفاده میکنیم که سیستمهای قدیمیتر از آنها غفلت میکردند.» به عبارت دیگر، پلتفرمها اکنون ناگزیرند با ابزارهای هوش مصنوعی علیه محتوای تولیدشده توسط همان نوع فناوری بجنگند.
این رویکرد تنها در ردیت دیده نمیشود. یوتیوب، متا و اینستاگرام انتشار محتوای تولیدشده با هوش مصنوعی را مشروط به افشای منبع کردهاند و تیکتاک حتی به کاربران امکان میدهد میزان نمایش محتوای تولیدشده توسط هوش مصنوعی را تنظیم کنند. تشخیص سریعتر محتوای تولیدشده با هوش مصنوعی میتواند به شناسایی و حذف سریعتر محتوای نقضکننده مانند سخنان نفرتپراکنی و اطلاعات گمراهکننده کمک کند.
با وجود این پیشرفتها، کارشناسان بارها تأکید کردهاند که مدیراسیون مبتنی بر هوش مصنوعی باید همراه با نظارت انسانی باشد تا بهترین نتایج حاصل شود. ابزارهای خودکار ممکن است به خطاهایی مانند مثبت کاذب دچار شوند یا در برابر تکنیکهای جدید تولید محتوا ناکارآمد شوند؛ بنابراین نیاز به بازبینی مستمر، شفافیت در معیارها و ترکیب انسان و ماشین برای تصمیمگیری نهایی ضروری است.
نتیجهگیری: استفاده از مدلهای زبان بزرگ برای مبارزه با اسپم یک گام مهم در جهت ارتقای تجربه کاربری و پاکسازی فضای تعاملات آنلاین است، اما این راهکار نیازمند مدیریت هوشمندانه، نظارت انسانی و شفافیت سیاستهاست تا ضمن کاهش هرزنامه، آزادی بیان و عدالت الگوریتمی نیز حفظ شوند.