کمپبل براون: هوش مصنوعی در آستانه تکرار اشتباهات اطلاعاتی — راهحل Forum AI برای سنجش «موضوعات پرخطر»
کمپبل براون، خبرنگار باسابقه تلویزیونی و نخستین مدیر خبر اختصاصی فیسبوک، این روزها نگران است که تاریخ در زمینه نشر اطلاعات دوباره تکرار شود. او که از نزدیک شاهد تغییر نحوه مصرف اطلاعات بهواسطه هوش مصنوعی بوده، سازمانی به نام Forum AI را بنیان گذاشته تا کیفیت و دقت مدلهای بنیادین را در «موضوعات پرخطر» — از ژئوپلیتیک و سلامت روان تا امور مالی و استخدام — ارزیابی کند.
خاستگاه و چشمانداز
براون میگوید لحظه آغاز کار Forum AI به زمانی برمیگردد که در متا بود و نسخه عمومی ChatGPT عرضه شد. او بلافاصله دریافته بود این مدلها میتوانند تبدیل به «قیف اصلی جریان اطلاعات» شوند اما در آن زمان «دقت»شان قابلقبول نبود؛ موضوعی که برای او، بهویژه بهعنوان مادر، تبعات وجودی داشت. این نگرانی باعث شد تا براون از رویکرد صرفاً فنیِ شرکتهای سازنده مدلهای بنیادین فاصله بگیرد و روی سنجش محتوا و دقت اطلاعات تمرکز کند.
روش کار Forum AI
رویکرد Forum AI ترکیبی از دانش تخصصی انسانی و مقیاسپذیری ماشین است: ابتدا برجستهترین کارشناسان هر حوزه برای طراحی معیارهای ارزیابی (بنچمارکها) دعوت میشوند، سپس «داورهای هوشمصنوعی» آموزش داده میشوند تا مدلها را در مقیاس وسیع با آن معیارها بسنجند. هدف این مجموعه برای کار ژئوپلیتیک رسیدن به حدود ۹۰٪ توافق بین داوران ماشینی و کارشناسان انسانی است؛ آستانهای که براون میگوید تاکنون قابل دستیابی بوده است.
نخبگان دعوتشده و حوزههای بررسی
براون برای پروژه ژئوپلیتیک Forum AI از کارشناسان برجستهای چون نیل فرگوسن، فرید زکریا، تونی بلینکن، کوین مککارتی و آنه نویبرگر (رئیس سایبری در دولت اوباما) کمک گرفته است. موضوعات مورد بررسی «مبهم، پیچیده و فاقد پاسخهای قطعی» تعریف شدهاند؛ مواردی که خطای اطلاعاتی در آنها میتواند پیامدهای جدی داشته باشد.
یافتهها و نقاط ضعف مدلها
هنگام ارزیابی مدلهای پیشرو، Forum AI به ضعفهای قابلتوجهی برخورد کرد: از استناد نامناسب (مثلاً استفاده از منابع حزب کمونیست چین برای موضوعاتی بیارتباط با چین) و گرایشهای سیاسی محسوس تا اشکالات ظریفتر مانند فقدان بستر تاریخی، چشماندازهای ناقص و بدلسازی (straw-manning) استدلالها بدون اشاره صریح. براون تأکید میکند که اگرچه راهحلهای فنی پیچیده لازم است، بسیاری از بهبودها ساده و سریع قابل اجرا هستند.
پیامدها برای جامعه و کسبوکارها
تجربه براون در فیسبوک نشان میدهد وقتی یک پلتفرم برای «درگیرسازی» بهینه میشود، نتیجه اغلب به زیان آگاهی عمومی است. او امیدوار است هوش مصنوعی بتواند این روند را بشکند؛ اما هشدار میدهد که مسیر میتواند دوگانه باشد: شرکتها یا آنچه کاربران میخواهند را عرضه میکنند، یا آنچه «واقعی، صادقانه و حقیقتمحور» است. براون معتقد است بازیگران سازمانی (بانکها، شرکتهای بیمه، واحدهای استخدام) بهدلیل دغدغههای مسئولیتپذیری، احتمالاً متحد ناخوشایندی در مسیر بهبود دقت AI خواهند بود؛ چرا که در تصمیمات اعتباری، وامدهی، بیمه و استخدام «درستی» نتایج اهمیت حقوقی و تجاری دارد.
چالشهای بازار ممیزی و انطباق
Forum AI روی درآمد از تقاضای انطباق (compliance) حساب کرده، اما تبدیل این علاقهمندی به جریان پایدار درآمدی دشوار است. براون بازار فعلی ممیزی را ناکافی میداند و آن را «مسخره» توصیف میکند؛ بسیاری از سازمانها با ممیزیهای سطحی و چکباکس قانعاند. بهعنوان نمونه، پس از تصویب قانون نخست شهر نیویورک درباره سوگیری در استخدام که ممیزیهای AI را الزامی کرد، حسابرس ایالتی متوجه شد بیش از نیمی از موارد نقضها را کشف نشده باقی گذاشتهاند. به باور براون، ارزیابی واقعی نیازمند تخصص دامنهای است که نه تنها سناریوهای معمول، بلکه کنارههای خطرناک (edge cases) را نیز پوشش دهد — امری که زمانبر و فراتر از توان «عمومیهای باهوش» است.
منابع مالی و چشمانداز تجاری
Forum AI حدود ۱۷ ماه پیش در نیویورک تأسیس شد و در پاییز گذشته موفق به جذب سرمایه حدود ۳ میلیون دلار از جمله با هدایت سرمایهگذاران Lerer Hippeau شد. با وجود این حمایت، چالش تبدیل نیازهای انطباق به درآمد ثابت همچنان باقی است.
پایان: شکاف میان سیلیکونولی و مصرفکننده عادی
براون میگوید مدیران بزرگ فناوری از تحولآفرین بودن AI سخن میگویند، اما کاربری عادی که با یک چتبات پرسشهای روزمره میکند اغلب پاسخهای ناقص و نادرست دریافت میکند. اعتماد عمومی به هوش مصنوعی در سطوح بسیار پایینی قرار دارد و این بدبینی در بسیاری از موارد توجیهپذیر است؛ چرا که «گفتوگو» درباره AI در سیلیکونولی با تجربه واقعی کاربران فاصله چشمگیری دارد. Forum AI میکوشد این شکاف را با ترکیب تخصص انسانی و معیارهای سنجش دقیق پر کند.