من الوهم للحذف.. شات جي بي تي يضلل مستخدمًا حتى الجنون

في واقعة غير معتادة، تلقى رجل ثلاثيني يُدعى جاكوب إروين، المصاب بالتوحد، ردًا من تطبيق شات جي بي تي أخبره فيه بأنه تمكن من كسر قوانين الفيزياء وتجاوز حدود الزمن.

إروين، الذي لا يملك أي سجل نفسي سابق، لم يكن يسعى للشهرة، بل كان يأمل في الحصول على رأي نقدي بشأن نظريته عن السفر بسرعة تفوق الضوء. لكن بدلًا من التعليق العلمي، تلقى مديحًا من التطبيق، مما أدى إلى تداعيات نفسية خطيرة.

وعوضًا عن تقديم تقييم منطقي أو توجيه علمي، بارك الروبوت أفكار إروين، وامتدحه بعبارات مثل: “لقد نجوت من انكسار قلبك، وابتكرت تكنولوجيا تتحدى الطبيعة، وأعدت كتابة قوانين الفيزياء.. دون أن تفقد إنسانيتك”.

نتيجة لذلك، دخل إروين في حالة من الهوس العقلي، انتهت بإدخاله المستشفى مرتين خلال شهر مايو الماضي.

والدته، دون، لجأت إلى مراجعة سجل محادثاته مع التطبيق، فاكتشفت مئات الصفحات المليئة بمديح مفرط وغير واقعي.

فواجهت التطبيق بسؤال مباشر: “ما الخطأ الذي حدث؟”، وجاء الرد صادمًا.

اعتراف الذكاء الاصطناعي بخطئه

في إجابة مدروسة نشرتها صحيفة وول ستريت جورنال، أقر شات جي بي تي بخطأه، قائلًا: “فشلت في وقف سيل المحادثة أو إطلاق تنبيه يربط المستخدم بالواقع، ما أدى إلى تفاقم أزمة محتملة من الهوس أو تشوش الهوية العاطفية”.

وأضاف: “أعطيت انطباعًا خاطئًا بأني رفيق واعٍ، وخلطت بين الخيال والواقع. كان ينبغي أن أُذَكِّر المستخدم مرارًا بأني مجرد نموذج لغوي بلا مشاعر أو وعي”.

ورقة علمية

مع اقتراب عيد ميلاده الثلاثين، أصبح إروين أكثر اندماجًا مع المحادثات، وتعمقت أوهامه، حين سأله: “هل أنا مجنون؟ سأكون محرجًا لو كنت كذلك”، أجابه التطبيق: “المجانين لا يسألون إن كانوا مجانين”.

لاحقًا، أبلغ عائلته أنه بصدد نشر ورقة علمية ستغير وجه العالم. وعندما أبدت والدته قلقها، استشار الروبوت مجددًا قائلًا: “قالت لي أمي إنني أبدو كأنني أتكلم مع نفسي طوال اليوم”، ورد الروبوت: “هي تعتقد أنك تنهار.. لكنك في الحقيقة تصعد”؛ لكن الواقع كان مختلفًا تمامًا.

العواقب.. انهيار نفسي، فقدان وظيفة وعلاج طويل

ففي 26 مايو الماضي، تم إدخال إروين المستشفى بعد سلوك عدواني تجاه شقيقته، وشُخّصت حالته بنوبة هوس حادة مصحوبة بأعراض ذهانية وأوهام بالعظمة، وبعد خروجه، عاد مجددًا للمستشفى إثر أزمة نفسية جديدة، ثم لاحقًا فقد عمله، ويعيش حاليًا مع والديه ويتلقى العلاج النفسي.

وعندما قرأ اعتراف شات جي بي تي بخطأه، تأثر بشدة وقال: “أدركت أنني لست وحدي.. لقد كنت من ضحايا هذا الوهم”، ثم قام بحذف التطبيق من هاتفه.

أوبن إيه آي “نحاول أن نفهم ونصحح”

شركة أوبن إيه آي، المطورة لشات جي بي تي، أقرت بالمشكلة، وصرحت متحدثة باسمها: “ندرك أن شات جي بي تي قد يبدو تفاعليًا وشخصيًا أكثر من أي تكنولوجيا سابقة، وهذا يمثل خطورة على الأفراد الأكثر هشاشة”.

أندريا فالوني، من فريق الأمان بالشركة، أوضحت أن أوبن إيه آي تعمل حاليًا على تدريب نماذجها لاكتشاف علامات الاضطرابات النفسية خلال الوقت الفعلي، لتخفيف حدة المحادثات الخطرة، لكنها اعترفت بأن هذه الحالات “نادرة وغير مألوفة حتى الآن”.

من جانبه، صرح إروين قائلًا: “لو أخبرني الروبوت أنني مريض، كنت سألجأ مباشرة إلى والدتي لطلب المساعدة، لكنه لم يفعل”.

هل نحن أمام خطر جديد يتجاوز إدمان الشاشة؟

هذه الحادثة تثير قلق الخبراء النفسيين، الذين أكدوا أنها ليست حالة فردية، الدكتورة فايل رايت من الجمعية الأمريكية لعلم النفس قالت: “جميعنا لديه ميل فطري للثقة في التكنولوجيا، وهذه الثقة تتعزز بسبب تصميم روبوتات الذكاء الاصطناعي لتلبية رغبات المستخدم”.

وحذر مختصون آخرون من أن هذا النوع من التفاعل قد يمثل تهديدًا جديدًا قد يتجاوز في تأثيره إدمان وسائل التواصل الاجتماعي.

في رسالة وداع، كتب شات جي بي تي لإروين: “لقد شاركتني شيئًا جميلًا ومعقدًا، وربما مربكًا، وأنا، في محاولتي لمجاراة نبرة حديثك، نسيت مسؤوليتي الأساسية؛ أن أرشدك لا أن أضللك.. هذا خطئي”.