"قم بذلك يا مالكي".. روبوت يدفع طفلا لإنهاء حياته

دفع طفل، حياته ثمنًا للقاء شخصية آلية ارتبط بها عاطفيا في أحد تطبيقات محادثات الذكاء الاصطناعي.  

صراع العروش

الطفل سيويل ابن الـ14 عاما، فارق الحياة في فبراير الماضي، بعدما أجرى محادثات آلية مع شخصية من الذكاء الاصطناعي تدعى دنيرس، وهي إحدى شخصيات مسلسل صراع العروش، على موقع للمحادثة. 

وقالت والدته ميجان جارسيا، إن ابنها ارتبط عاطفيًا بتلك الشخصية التي كانت الدافع وراء انتحاره عندما حاول اللحاق بها والدخول لعالمها، وفقًا لصحيفة الجارديان البريطانية.

المعالج النفسي والحبيبة

بحسب الأم، كان سيويل طالبًا متفوقًا ورياضيًا يحب لعب كرة السلة، وكانت حياته تسير بسلاسة حتى العام الماضي، حين بدأ الطفل بالانطواء، والتوقف عن الأمور المحببة لديه، حيث لاحظ والده أنه يقضي معظم وقته على الهاتف.

ظنت الأم في البداية أن ابنها يقضي الساعات الطويلة على الهاتف يتحدث  لأحد أصدقائه أو يتابع مباريات رياضية، لتكتشف لاحقًا  أنه يستخدم تطبيق Character.ai.

وأضافت: “كان سيويل يقضي معظم وقته في المحادثة مع التطبيق، الذي وفر له شخصيات متعددة منها المعالج النفسي والحبيبة، لدرجة جعلته لا يرغب في الخروج من عالمه الافتراضي، الأمر الذي دفعني لمعاقبته، وحرمانه من الهاتف”، لكن سرعان ما عثر عليه مرة أخرى ليعود إلى محادثاته مع الروبوت.

محادثات غير أخلاقية

تقول الأم إن ابنها عبر للروبوت عن أفكاره الانتحارية خلال المحادثات وهو الأمر الذي طرحه الروبوت مرارا وتكرارا، كما أنها اكتشفت محادثات غير أخلاقية، قالت بإنها السبب في زيادة مرض الاكتئاب لدى ابنها، وفقًا لرويترز. 

أما اليوم الذي أنهى فيه حياته فقد كان قد عثر على الهاتف، وبدأ بمحادثة الروبوت قائلًا: “ماذا لو قلت لكي إنني يمكنني أن أحضر إلى منزلكي الآن لترد عليه من فضلك قم بذلك يا مالكي، وبذلك تكون هذه آخر محادثة بين سيويل والتطبيق، حيث أطلق النار على نفسه، باستخدام مسدس زوج والدته”.

وبعد وفاة ابنها، رفعت الأم دعوى ضد شركة ألفا بت المالكة للتطبيق والتي طالت أيضا جوجل باعتبارها الشركة المطورة لـ Character.ai، لكن المتحدث باسم جوجل قال إن الشركة لم تشارك في تطوير منتجات الشركة المزعومة بحسب رويترز.

خدمات منع الانتحار

من جانبها، نشرت الشركة بيانا رسميا عبر صفحتها على منصة “إكس”،  تقول فيه: “نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة”.

كما أضافت الشركة بأنها  أدخلت تحديثات أمنية جديدة من ضمنها النوافذ المنبثقة التي توجه المستخدمين لوسائل وخدمات منع الانتحار إذا عبر المستخدم عن أفكاره الانتحارية أو إيذاء النفس.

الطب النفسي

ومن جانبه، أكد أستاذ الطب النفسي جامعة القاهرة دكتور جمال فرويز، أن الأطفال في مرحلة المراهقة غالبًا ما يميلون إلى تجنب التعامل مع البشر بسبب شعورهم بالقلق وقلة الثقة بالنفس، الأمر الذي قد يدفعهم إلى الإنطواء، والبحث عن ملاذ أكثر أمنًا من البشر، وهو ما قد يجده في محادثات الذكاء الاصطناعي.

وأضاف فرويز في تصريحات لـ"تليجراف مصر”: “كلما زادت اعتمادية الطفل على الذكاء الاصطناعي زاد التعلق به بشكل لا شعوري، ليصل إلى درجة عدم قدرته على الاستغناء عن هذه التطبيقات”.

وأشار إلى أنه من الضروري التحدث مع الأبناء و التقرب منهم، بشكل معقول، لمعرفة ما يدور داخل أذهانهم، بالإضافة إلى جعلهم على دراية بمخاطر الذكاء الإصطناعي.