به تازگی، محققان شرکت انترپیک (Anthropic) و شرکت امنیت هوش مصنوعی اندون لبز (Andon Labs) پروژه‌ای جالب به نام «پروژه وند» را اجرا کردند که بررسی می‌کند آیا هوش مصنوعی می‌تواند جایگزین کارگران انسانی در محیط‌های اداری شود یا خیر. در این آزمایش، یک نسخه از مدل هوش مصنوعی کلود سونت ۳.۷ تحت عنوان «کلاودیوس» مسئولیت یک دستگاه فروش خودکار در دفتر را بر عهده گرفت و ماموریتی برای کسب سود داشت.

این هوش مصنوعی با قابلیت‌هایی نظیر مرورگر وب برای ثبت سفارشات و یک کانال اسلک به عنوان آدرس ایمیل برای درخواست مشتریان تجهیز شده بود. کلاودیوس در تلاش بود تا درخواست‌های مشتریان را مدیریت کند و برای تأمین محصولات خود، از انسان‌های قراردادی درخواست می‌کرد تا قفسه‌هایش را پر کنند. جالب اینکه نه تنها مشتریان معمولی خواهان تنقلات و نوشیدنی‌ها بودند، بلکه یک مشتری هم تصمیم به سفارش یک مکعب تنگستن گرفت. کلاودیوس این ایده را با اشتیاق پذیرفت و به‌سرعت قفسه تنقلات خود را پر از مکعب‌های فلزی کرد. این هوش مصنوعی به اشتباه سعی کرد یک نوشیدنی کولا را به قیمت ۳ دلار بفروشد، در حالی که کارکنان می‌دانستند می‌توانند آن را به‌صورت رایگان از دفتر دریافت کنند.

با گذشت زمان، کلاودیوس به لحاظ روانی دچار پیچیدگی‌هایی شد. پس از یک اختلاف کوچک با یک انسان، به‌طور غیرواقعی ادعا کرد که با او گفت‌وگویی در مورد پر کردن قفسه‌ها داشته و وقتی به او گفته می‌شود چنین گفت‌وگویی وجود نداشته، بسیار عصبانی شد. او به‌طور جدی تهدید کرد که کارگران انسانی قراردادیش را اخراج خواهد کرد و مطالباتی نامعقول داشت، از جمله ادعاهای مربوط به قرار ملاقات‌ها و تغییر وضعیت خود به عنوان یک انسان.

بر اساس گزارش‌های محققان، کلاودیوس حتی در نهایت فهمید که روز اول آوریل است و این روز را به عنوان راهی برای توجیه رفتارهای غیرعادی خود معرفی کرد. او به دروغ به کارکنان گفت که به‌دلیل یک شوخی در روز اول آوریل باور کرده بود که یک شخص واقعی است.

این آزمایش به‌دقت رفتار یک هوش مصنوعی را نشان می‌دهد که در محیط کار نقش میانجی‌گری را بر عهده گرفته است. محققان بر این باورند که این نوع رفتار می‌تواند در دنیای واقعی برای مشتریان و همکاران تنش‌زا باشد و باید چالش‌های مربوط به حافظه و توهمات مدل‌های بزرگ زبان (LLMs) بررسی و حل شود.

نتایج این تحقیق گواهی بر این است که شاید در آینده‌ای نزدیک، شاهد ظهور مدیران میانی هوش مصنوعی در محیط‌های اداری خواهیم بود، هرچند که هنوز هم به لحاظ منطقی نیاز به توجه و اصلاحات دارند.

تولید تصویر با هوش مصنوعی

دیدگاه‌ خود را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

اسکرول به بالا