عنوان: آزمایش #WearthePants؛ آیا الگوریتم جدید لینکدین علیه زنان سوگیری دارد؟
در ماه نوامبر، چندین کاربر فعال لینکدین که از آنها بعضی با نام مستعار گزارش شدند، دست به آزمایشی نقشهبرداریشده زدند تا بررسی کنند آیا الگوریتم تازه لینکدین در نمایش محتوا نسبت به جنسیت کاربران تبعیض قائل میشود یا خیر. این حرکت که تحت هشتگ #WearthePants منتشر و در رسانهها بازتاب یافت، شامل تغییر جنسیت و نام پروفایل از زن به مرد و انتشار مجددِ همان محتواها بود. نتایج ابتداییِ این آزمایش برای برخی شرکتکنندگان قابل توجه بود و باعث آغاز بحثی گسترده درباره تأثیر الگوریتمها و مدلهای زبانی بزرگ (LLM) بر دیدهشدن محتوا شد.
نمونهها و نتایج اولیه
– «میشل» (نام مستعار) که بیش از 10 هزار دنبالکننده دارد، نام و جنسیت پروفایل خود را به «مایکل» و مرد تغییر داد و در پی آن آمار نمایش پستهایش تا حدود 200٪ افزایش و میزان تعامل تا 27٪ رشد کرد. او توضیح داد که همچنین لحن نوشتار خود را کمی ساده و مستقیمتر کرد — سبکی که معمولاً برای پستهای همسرش به کار میبرد.
– ماریلین جوینِر، که دو سال است بطور پیوسته در لینکدین پست میگذارد، پس از تغییر جنسیت پروفایل از زن به مرد گزارش داد که نمایش پستهایش ظرف یک روز تا 238٪ افزایش یافت.
– بنیانگذاران اولیه این حرکت، سینڈی گالاپ و جین ایوانز، دو مرد را واداشتند همان محتوایی را که آنها منتشر کرده بودند، بازنشر کنند؛ نتیجه برای گالاپ و آن مرد بسیار متفاوت بود: پست گالاپ تنها 801 بازدید دریافت کرد، در حالی که همان محتوا توسط مرد، بیش از 10,408 بازدید گرفت.
پاسخ لینکدین و موضع رسمی
لینکدین در پاسخ اعلام کرده است که الگوریتمها و سامانههای هوش مصنوعی این شرکت از اطلاعات جمعیتشناختی مانند سن، نژاد یا جنسیت بهعنوان سیگنال برای تعیین نمایش محتوا استفاده نمیکنند. این شرکت میگوید از دادههای دموگرافیک صرفاً برای تستهای داخلی استفاده میشود تا اطمینان حاصل شود تجربه پیمایش (فید) برای کاربران مختلف تا حد امکان یکسان است. همچنین لینکدین اشاره کرده که سیستمهایش صدها سیگنال مختلف را در نظر میگیرند و رفتار اعضا (کلیک، ذخیره، تعامل) بهطور روزانه تجربهها را شکل میدهد.
توضیح کارشناسان: مسئله پیچیدهتر از «تبعیض آشکار» است
متخصصان اخلاق داده و پژوهشگران هوش مصنوعی توافق دارند که ممکن است تبعیض صریح جنسی در کار نباشد، اما سوگیریهای ضمنی و متقاطع میتوانند نتایج مشابهی تولید کنند. برندهیس مارشال، مشاور اخلاق داده، الگوریتمها را «سمفونی پیچیدهای از اهرمهای ریاضی و اجتماعی» توصیف میکند که همزمان و پیوسته فعال میشوند؛ تغییر نام یا عکس پروفایل تنها یکی از این اهرمهاست. عوامل دیگر شامل سابقه تعامل کاربر، نوع محتوا، شبکه ارتباطی، لحن نوشتاری و حتی اینکه کاربر اخیراً چقدر فعال بوده، میشود.
تحقیقها نشان میدهد مدلهای زبانی بزرگ که با محتوای تولیدشده توسط انسان آموزش میبینند، میتوانند سوگیریهای انسانی (مانند جنسیتی یا نژادی) را بازتولید کنند. بخشهایی از فرایند آموزش و تقویت (مانند RLHF) نیز انسانمحور است و این عامل میتواند سوگیریها را تشدید کند. با این حال، نحوهٔ پیادهسازی دقیق هر شرکت درون «جعبه سیاه الگوریتمی» پنهان است و جزئیات کافی برای تحلیل کامل در دسترس عمومی نیست.
دلایل احتمالی بهجای نتیجهگیری سریع
کارشناسان چند عامل را ممکن است در نتایج آزمایش #WearthePants مؤثر بدانند:
– تأثیر گذاری روند انتشار و ویروسی شدن: شرکت در یک ترند یا طولانیمدت نبودن فعالیت میتواند با خود افزایش تعامل بیاورد.
– تغییر لحن و سبک نوشتار: پستهای کوتاهتر و مستقیمتر ممکن است توسط الگوریتم یا مخاطبان بهتر دیده و بازنشر شوند.
– تاریخچه پاسخدهی: الگوریتم ممکن است پستهایی را تقویت کند که پیش از این در سطح پلتفرم بیشتر پاسخ گرفتهاند؛ بنابراین سیگنالهای تاریخی هم نقش دارند.
– تغییر معیارهای اولویتدهی تعاملات: برخی فعالان لینکدین گزارش دادهاند که لایک یا کامنت دیگر تنها معیار نیست و در عوض «ارزش، وضوح و نشاندادن درک موضوع» برای الگوریتم اهمیت یافته است.
نتیجهگیری و خواست شفافیت
آزمایش #WearthePants نشان داد که بسیاری از کاربران—بهویژه زنان فعال—در چند ماه اخیر کاهش در نمایش و تعامل پستهای خود را تجربه کردهاند و این موضوع باعث نگرانی و خواستار پاسخگویی از سوی لینکدین شده است. با وجود این، شواهد موجود بیشتر حکایتی و موردی هستند و برای اثبات نظاممندِ تبعیضِ الگوریتمی نیاز به دادههای گستردهتر و دسترسی به فرآیندهای داخلی مدلها وجود دارد.
لینکدین میگوید محتواهای آموزشی، بینشهای حرفهای، تحلیلهای صنفی و مطالب اطلاعاتی درباره کسبوکار در حال حاضر عملکرد خوبی دارند و افزایش تعداد کاربران و پستها (برای مثال رشد 15٪ در تعداد پستها و 24٪ افزایش در کامنتها بهصورت سالانه) رقابت بر سر دیدهشدن را شدیدتر کرده است. در نهایت، خواست اصلی بسیاری از تولیدکنندگان محتوا شفافیت بیشتر است؛ اما شرکتها معمولاً ارائه جزئیات کامل درباره الگوریتمهای انتخاب محتوا را به دلیل خطر دستکاری و «گیمینگ» پلتفرم محدود میکنند.
تا زمانی که دسترسی به دادههای دقیقتر و تحلیلهای مستقل ممکن نشود، پرسش درباره نقش جنسیت در دیدهشدن محتوای لینکدین همچنان باز و موضوع بحث عمومی و پژوهشی خواهد ماند.