با توجه به لیست‌های طولانی انتظار و افزایش هزینه‌ها در سیستم‌های بهداشتی پرچالش، بسیاری از افراد به ربات‌های چت مجهز به هوش مصنوعی مانند ChatGPT برای خودتشخیص بیماری روی آورده‌اند. طبق یک نظر‌سنجی اخیر، حدود ۱ به ازای ۶ بزرگسال آمریکایی حداقل ماهی یک بار از ربات‌های چت برای دریافت مشاوره‌های بهداشتی استفاده می‌کنند. اما اعتماد بیش از حد به خروجی‌های این ربات‌ها می‌تواند خطرناک باشد، زیرا افراد معمولاً نمی‌دانند که چه اطلاعاتی را باید برای دریافت بهترین توصیه‌های بهداشتی به ربات‌ها بدهند. این نکته در یک مطالعه اخیر به رهبری دانشگاه آکسفورد مورد بررسی قرار گرفت.
آدام مهدی، مدیر مطالعات تحصیلات تکمیلی در مؤسسه اینترنت آکسفورد و یکی از نویسندگان این مطالعه، به TechCrunch گفت: «این مطالعه یک شکاف ارتباطی دوطرفه را نشان داد. افرادی که از ربات‌های چت استفاده کردند، تصمیمات بهتری نسبت به افرادی که به روش‌های سنتی مانند جستجوی آنلاین یا قضاوت شخصی خود اعتماد کرده بودند، نگرفتند.»
در این تحقیق، نویسندگان حدود ۱۳۰۰ نفر را در انگلستان انتخاب کردند و سناریوهای پزشکی نوشته شده توسط گروهی از پزشکان را به آنها ارائه دادند. شرکت‌کنندگان وظیفه داشتند که شرایط بهداشتی احتمالی را در این سناریوها شناسایی کنند و از ربات‌های چت و همچنین روش‌های خود برای یافتن راهکارهای ممکن (مانند مراجعه به پزشک یا رفتن به بیمارستان) استفاده کنند. این افراد از مدل هوش مصنوعی پیش‌فرض ربات ChatGPT، یعنی GPT-4o، به همراه Command R+ شرکت Cohere و Llama 3 شرکت متا که پیشتر به عنوان دستیار هوش مصنوعی متا شناخته می‌شد، استفاده کردند.
طبق گزارش‌های نویسندگان، ربات‌های چت نه تنها احتمال شناسایی شرایط بهداشتی مرتبط را در شرکت‌کنندگان کاهش دادند، بلکه آنها را نسبت به شدت شرایطی که شناسایی کردند، دچار بی‌توجهی کردند. مهدی خاطرنشان کرد که شرکت‌کنندگان گاهی اطلاعات کلیدی را هنگام پرسش از ربات‌های چت نادیده می‌گرفتند یا پاسخ‌هایی دریافت می‌کردند که تفسیر آنها دشوار بود. «پاسخ‌هایی که آنها از ربات‌ها دریافت کردند، اغلب ترکیبی از توصیه‌های خوب و ضعیف بودند»، او افزود. «روش‌های ارزیابی فعلی برای ربات‌های چت پیچیدگی تعامل با کاربران انسانی را منعکس نمی‌کنند.»
این یافته‌ها در حالی منتشر می‌شود که شرکت‌های فناوری به طور فزاینده‌ای به تبلیغ هوش مصنوعی به عنوان ابزاری برای بهبود نتایج بهداشتی می‌پردازند. طبق گزارش‌ها، اپل در حال توسعه ابزاری مبتنی بر هوش مصنوعی است که می‌تواند مشاوره‌هایی مرتبط با تمرینات ورزشی، رژیم غذایی و خواب ارائه دهد. آمازون همچنین در حال بررسی یک روش مبتنی بر هوش مصنوعی برای تحلیل پایگاه‌های داده پزشکی به منظور شناسایی «مؤلفه‌های اجتماعی سلامت» است. مایکروسافت نیز در حال همکاری برای ساخت هوش مصنوعی به منظور طبقه‌بندی پیام‌های بیماران به ارائه‌دهندگان خدمات بهداشتی است.
اما طبق گزارش‌های قبلی TechCrunch، هم متخصصان و هم بیماران نسبت به آمادگی هوش مصنوعی برای کاربردهای بهداشتی با ریسک بالاتر ابراز شک و تردید کرده‌اند. انجمن پزشکی آمریکا توصیه می‌کند که پزشکان از ربات‌های چت مانند ChatGPT برای کمک به تصمیم‌گیری‌های بالینی استفاده نکنند و شرکت‌های بزرگ هوش مصنوعی از جمله OpenAI نیز از تشخیص بیماری بر اساس خروجی‌های ربات‌های چت خود هشدار می‌دهند. مهدی گفت: «ما توصیه می‌کنیم به منابع اطلاعاتی معتبر برای تصمیم‌گیری‌های بهداشتی تکیه کنید. روش‌های ارزیابی فعلی برای ربات‌های چت پیچیدگی تعامل با کاربران انسانی را منعکس نمی‌کنند. مانند آزمایش‌های بالینی برای داروهای جدید، سیستم‌های ربات‌های چت باید در دنیای واقعی آزمایش شوند قبل از اینکه در محیط‌های واقعی به کار گرفته شوند.»