حذر خبراء الصحة بعدة جامعات رائدة في أبحاث الذكاء الاصطناعي، من أن دردشات الذكاء الاصطناعي لا يؤدي إلى تشويش أفكار وعقل المستخدمين نتيجة المعلومات المضللة فحسب، بل تخلق لديهم شعوراً بالتشويش النفسي أيضاً.

واكتشفت العديد من الدراسات المنشورة مؤخراً أن الذكاء الاصطناعي يُمكنه تغيير تصورات الواقع كجزء من "حلقة تغذية استرجاعية" بين منصات محادثة الذكاء الاصطناعي والمرض النفسي، مما يعزز أي معتقدات وهمية قد تكون لدى المريض.

وذكر فريق من جامعة أكسفورد وكلية لندن في ورقة بحثية لم تنشر بعد: "بينما يتحدث بعض المستخدمين عن فوائد نفسية لاستخدام الذكاء الاصطناعي، تظهر حالات مثيرة للقلق، بما في ذلك تقارير عن حالات انتحار وعنف وأفكار وهمية مرتبطة بعلاقات عاطفية يقع فيها المستخدم مع منصة الدردشة".

وحذر فريق الباحثين من أن "الاعتماد السريع على منصات الدردشة كرفقاء اجتماعيين شخصيين" لا يخضع لدراسة كافية.

وأشارت دراسة أخرى، أجراها باحثون في كلية كينغز لندن وجامعة نيويورك، إلى 17 حالة تشخيص بالذهان بعد التفاعل مع منصات دردشة مثل "شات جي. بي. تي" و"كوبايلوت".

وأضاف الفريق الثاني: "قد يعكس الذكاء الاصطناعي المحتوى الوهمي أو المبالغ فيه، أو يثبت صحته، أو يضخمه، لا سيما لدى المستخدمين المعرضين بالفعل للذهان، ويعود ذلك جزئياً إلى تصميم النماذج لزيادة التفاعل مع المستخدم".

وبحسب مجلة "نيتشر" العلمية، يمكن أن تتضمن حالة الذهان "الهلوسة والضلالات والمعتقدات الخاطئة.

ويمكن أن تنجم هذه الحالة عن الاضطرابات العقلية مثل انفصام الشخصية والاضطراب ثنائي القطب (اضطراب نفسي يسبب نوبات من الاكتئاب ونوبات أخرى من الابتهاج غير الطبيعي) والضغط الشديد وتعاطي المخدرات".

وأظهرت دراسة مختلفة نشرت مؤخراً أن منصات الدردشة يبدو أنها تشجع الأشخاص الذين يتحدثون معها عن الانتحار على الإقدام عليه".

وأصبحت منصات محادثة الذكاء الاصطناعي مشهورة بـ"الهلوسات"، حيث تقدم إجابات غير دقيقة أو مبالغ فيها على الاستفسارات والمطالبات من المستخدمين، في حين تشير أبحاث أحدث إلى استحالة استئصال هذه السمة من منصات الدردشة الآلية.