حذر باحثون أميركيون، السبت، من أن الاعتماد المتزايد على روبوتات المحادثة المدعومة بالذكاء الاصطناعي للحصول على معلومات صحية قد يقود إلى أضرار يصعب اكتشافها أو تتبع أسبابها.
وقال الباحثون، في ورقة علمية نُشرت في دورية Nature Health، إن الخطر لا يقتصر على عدم الدقة المحتملة، بل يمتد إلى ما وصفوه بـ«الاختفاء الهيكلي للأضرار»، إذ تبقى المحادثات داخل منصات الشركات بعيداً عن متناول الأطباء والباحثين والجهات التنظيمية.
وأوضحوا أن غياب أنظمة مستقلة لمراقبة ما تقدمه هذه التطبيقات وآليات واضحة للإبلاغ عن الأخطاء يحدّ من القدرة على رصد التداعيات على الصحة العامة.
واستشهدت الورقة بحالة رجل في الـ60 من عمره أُدخل المستشفى إثر تسمم بالبروميد، بعدما قال إنه استخدم «شات جي بي تي» للحصول على معلومات بشأن تقليل الكلوريد، فاستبدل ملح الطعام ببروميد الصوديوم لمدة 3 أشهر.
وذكر الباحثون أن الأطباء لم يتمكنوا من الاطلاع على المحادثة الأصلية، ما حال دون تحديد النصائح التي تلقاها بدقة أو إعادة بناء تسلسل قرارات المريض.
وقال كاي تشينج يانج، الأستاذ المساعد في كلية الحوسبة بجامعة بينجهامتون الأميركية: «ملايين المستخدمين باتوا يتلقون معلومات طبية من روبوتات المحادثة، بينما لا توجد رقابة كافية لتتبع الأخطاء أو معرفة حجم الأضرار».
كما أشارت الورقة إلى قدرة هذه الأنظمة على تبسيط الشروح الطبية والإجابة على الأسئلة على مدار الساعة ومساعدة من يواجهون عوائق لغوية أو صعوبات في الوصول إلى الرعاية، فيما قد تنتج إجابات خاطئة تبدو واثقة، أو تبسّط مسائل معقدة بصورة مضللة، أو تستند إلى معلومات قديمة.
وتضمنت الدراسة مساهمات باحثين من جامعات ستانفورد وبينجهامتون وتكساس إيه آند إم وإنديانا، لتقييم مخاطر استخدام الذكاء الاصطناعي التوليدي في تقديم المعلومات الصحية مباشرة للمستخدمين أو عبر ملخصات تظهر في محركات البحث ومنصات التواصل.
وكان تقرير طبي منشور عام 2025 قد وثّق واقعة التسمم المشار إليها، لافتاً إلى صعوبة التحقق في غياب سجل المحادثة.
