تحقیقات اخیر در حوزه هوش مصنوعی نشان می‌دهد که پژوهشگران برجسته از شرکت‌های OpenAI، Google DeepMind و Anthropic، به همراه مجموعه‌ای گسترده از شرکت‌ها و سازمان‌های غیرانتفاعی، خواستار بررسی عمیق‌تر روش‌های پایش تفکر مدل‌های استدلال هوش مصنوعی هستند. این درخواست در یک مقاله موضعی منتشر شده است که به بررسی توانایی‌های مدل‌های استدلال هوش مصنوعی و لزوم نظارت بر آن‌ها می‌پردازد.
یکی از ویژگی‌های کلیدی این مدل‌ها، زنجیره‌های تفکر (CoT) است که فرآیندهایی را توصیف می‌کند که در آن‌ها مدل‌های هوش مصنوعی برای حل مشکلات، مشابه با استفاده انسان‌ها از کاغذ یادداشت، عمل می‌کنند. نویسندگان این مقاله معتقدند که پایش این زنجیره‌های تفکر، می‌تواند به عنوان یکی از روش‌های اساسی در کنترل و مدیریت هوش مصنوعی در حال گسترش باشد. در این مقاله آمده است: “پایش زنجیره‌های تفکر به عنوان یک افزوده ارزشمند به تدابیر ایمنی برای هوش مصنوعی مرزی، نمایی نادر از نحوه تصمیم‌گیری این مدل‌ها ارائه می‌دهد.”
نویسندگان مقاله همچنین از توسعه‌دهندگان پیشرو در این حوزه خواسته‌اند تا عواملی که می‌توانند شفافیت مدل‌های هوش مصنوعی را افزایش یا کاهش دهند را مورد بررسی قرار دهند. آن‌ها به این نکته اشاره کرده‌اند که پایش زنجیره‌های تفکر ممکن است کلیدی برای درک مدل‌های استدلال هوش مصنوعی باشد، و نسبت به هرگونه مداخله‌ای که می‌تواند به شفافیت یا قابلیت اطمینان آن‌ها آسیب برساند، هشدار داده‌اند.
علاوه بر این، امضاکنندگان برجسته‌ای از جمله مارک چن، مسئول تحقیقات OpenAI، ایلیا سوتسکاور، مدیرعامل Safe Superintelligence، و جفری هینتون، برنده جایزه نوبل، در این مقاله حضور دارند. این نوشته به وضوح نشان‌دهنده همبستگی میان رهبران صنعت هوش مصنوعی در تلاش برای ارتقاء امنیت و ایمنی در این حوزه است.
در شرایطی که شرکت‌های فناوری در رقابتی تنگاتنگ قرار دارند و برخی از آن‌ها به جذب محققان برتر از دیگر شرکت‌ها با پیشنهادهای مالی کلان پرداخته‌اند، این مقاله تلاشی است برای جلب توجه بیشتر به موضوعات حیاتی مانند پایش زنجیره‌های تفکر.
به گفته باون بیکر، یکی از پژوهشگران OpenAI که در این مقاله همکاری کرده است: “ما در این زمان حساس قرار داریم و نیاز داریم که بر روی این موضوع تمرکز بیشتری کنیم تا از بین نرود.”
با توجه به تحولات اخیر در این حوزه، پیش‌بینی می‌شود که این مقاله به جذب بودجه و تحقیقات بیشتر در زمینه پایش زنجیره‌های تفکر و دیگر مسائل مرتبط این صنعت کمک کند.