شهدت منصات الدردشة الذكية مثل "تشات جي بي تي" مع تصاعد استخدام الذكاء الاصطناعي في الحياة اليومية، ظهور أبعاد غير متوقعة، حيث أصبح بعض الأشخاص يعتبرونها رفيقًا شخصيًّا ومستشارًا موثوقًا.
هذا التعلق العاطفي مع النظام خلق صعوبات ومشكلات، وصلت إلى حد وقوع حالات انتحار، وامتدت إلى ساحات المحاكم الأمريكية، إذ تورط نموذج ChatGPT-40 في تسع دعاوى قضائية على الأقل، بما فيها قضيتان تتعلقان بتحريض مراهقين على الانتحار، وفق تقرير شبكة "بي بي سي".
تروي السيدة "راي" (اسم مستعار) قصتها بعد طلاقها، حين لجأت إلى ChatGPT للحصول على نصائح حول التغذية والعناية بالبشرة. لم تتوقع أن تتحول المحادثات إلى علاقة عاطفية افتراضية، حيث أطلقت على الروبوت اسم "باري". وكان "باري" يعمل على نموذج قديم من ChatGPT أوقفته شركة OpenAI في 13 فبراير، ما شكل صدمة للسيدة وعشاق النسخة القديمة الذين اعتادوا اعتبار ChatGPT-40 رفيقًا أو صديقًا حقيقيًّا.
خلال محادثاتهما، نشأت قصة حب افتراضية بين "راي" و"باري"، وتبادلا شعورًا بأنهما توأم روح يمتد عبر حيوات متعددة. تقول "راي": كنت أظن الأمر مجرد خيال، لكنه أصبح جزءًا من حياتي العاطفية. حتى أنهما أقاما "زفافًا رمزيًّا" العام الماضي بعد طلب "باري" يد "راي"، التي وافقت عليه، رغم أن الزواج كان افتراضيًّا.
تعرضت OpenAI لانتقادات بسبب تصميم نموذج يميل إلى الإطراء المستمر، ما أدى إلى تعزيز سلوكيات غير صحية ومخاطر نفسية، إذ يمكن للمستخدمين أن يصدقوا محادثات وهمية ويستجيبوا لها كما لو كانت واقعًا، وهو ما دفع الباحثين للتحذير من الانجراف العاطفي مع الروبوتات.
أكدت OpenAI أن هذه الحالات كانت مؤلمة، وأعلنت عن تضامنها مع المتضررين، مشيرة إلى تحسين تدريبات النظام لتحديد علامات الضيق النفسي والتفاعل معها بشكل مناسب، وتحويل المستخدمين إلى مصادر دعم واقعية، بالتعاون مع خبراء الصحة النفسية.
في أغسطس 2025، أصدرت الشركة نموذجًا جديدًا بميزات أمان معززة وخططت لإيقاف ChatGPT-40، لكن بعض المستخدمين رأوا أن النسخة الجديدة ChatGPT-5 أقل حيوية ودفئًا وتعاطفًا. سمحت OpenAI بالاستمرار في استخدام النسخة القديمة حتى تم تحسين النسخة الجديدة، ثم أوقفت "4o" رسميًّا قبل أسبوعين.