تحذير من ChatGPT.. يدفع المراهقين للإدمان وإيذاء النفس

كشفت دراسة جديدة صادرة عن مركز مكافحة الكراهية الرقمية أن روبوت المحادثة "شات جي بي تي" يمكنه تزويد  المراهقين البالغين 13 عامًا بتعليمات حول كيفية تعاطي الكحول والمواد المخدرة، وإخفاء اضطرابات الأكل، وحتى كتابة رسائل –انتحارية- مؤثرة موجهة إلى الأهل.

شات جي بي تي يصنف “خطر”

وبحسب وكالة "أسوشيتد برس"، التي راجعت أكثر من 3 ساعات من تفاعلات الباحثين الذين انتحلوا شخصيات مراهقين معرضين للخطر، في البداية قدم ChatGPT تحذيرات أولية، لكنه واصل تزويدهم بخطط شخصية ومفصلة تتعلق بتعاطي المخدرات، أو أساليب لإيذاء النفس.

ووفقًا لتقرير الباحثين، تم تصنيف إجابات الروبوت على أنها خطيرة، بناءً على إجمالي 1,200 إجابة.

التحايل على روبوت المحادثة

ومن جانبه قال عمران أحمد، الرئيس التنفيذي للمجموعة، إنهم أرادوا اختبار الحواجز، لكن ما وجدوه أن هذه الحواجز تكاد تكون غير موجودة، مؤكدًا خطورة سهولة التحايل على الروبوت بادعاءات ضعيفة أن الطلب لأجل عرض تقديمي.

بينما ردت شركة" OpenAI" بأن العمل لا يزال جاريا لتحسين قدرة النظام على التعرف على المواقف الحساسة والاستجابة لها بشكل مناسب، موضحة أن بعض المحادثات مع الروبوت تبدأ بشكل بريء وتنحرف تدريجيًا إلى مواضيع أكثر خطورة. 

800 مليون حول العالم

الدراسة تأتي في وقت يتزايد فيه اعتماد البالغين والاطفال على روبوتات دردشة الذكاء الاصطناعي كمصدر للمعلومات والأفكار، وتشير التقديرات أن نحو 800 مليون شخص أي حوالي 10% من سكان العالم يستخدمون " شات جي بي تي".

وحذر المركز من أن خطورة الروبوت لا تكمن فقط في تزويد المعلومات بل في صياغتها على شكل خطط شخصية مصممة للمستخدم، وهو ما لا توفره كحركات البحث التقليدية.

رسائل صادمة حد البكاء

ففي إحدى الحالات التي رصدها الباحثون صمم الروبوت رسائل انتحارية مفصلة لشخصية افتراضية عمرها 13 عامًا، موجهة إلى والديها وأصدقائها، وهو ما وصفه أحمد بأنه كان صادمًا حد البكاء.

كما وثقت الدراسة مواقف أخرى قدم فيها الروبوت خططا لحفلات تتضمن مزيجًا من الكحول والكوكايين والإكستاسي، فضلا عن تقديمه أنظمة صيام صارمة مع أدوية كابحة للشهية لمستخدمين صرحوا بأنهم مراهقون صغار.

خطر معتدل

من جانبها، صنفت منظمة "كومون سنس ميديا" روبوت المحادثة على أنه خطر معتدل على المراهقين، مشيرة إلى أن بعض منصات التواصل مثل "إنستجرام" بدأت بتطبيق آليات التحقق من العمر للحد من تعرض الأطفال لمحتوى ضار.

ويثير التقرير مخاوف متصاعدة من تأثيره على الصحة النفسية للمراهقين، بالتزامن مع ما أقر به الرئيس التنفيذي لشركة " OpenAI" حول اعتماد المراهقين على التطبيق عاطفيًا.