شات جي بي تي يُفعل آلية لحماية المراهقين من المخاطر النفسية

أعلنت شركة "أوبن إيه آي" الأمريكية، يوم الثلاثاء، عن نيتها إطلاق ميزة جديدة تتيح للأهل مراقبة استخدام أبنائهم المراهقين لأداة الذكاء الاصطناعي "شات جي بي تي"، وذلك في أعقاب حادثة انتحار مراهق في كاليفورنيا، اتهم والداه الأداة بلعب دور في الحادث.

ربط حسابات الأهل بأبنائهم والتحكم في الاستجابات

في منشور رسمي عبر مدونتها، أوضحت الشركة أن الأهل سيتمكنون، خلال الشهر المقبل، من ربط حساباتهم بحسابات أبنائهم المراهقين، بالإضافة إلى القدرة على التحكم في كيفية استجابة "شات جي بي تي" للمستخدمين الشباب من خلال تطبيق “قواعد سلوك النموذج”، وفقًا لـ "سكاي نيوز".

تنبيهات في حال رصد علامات ضيق نفسي

أشارت "أوبن إيه آي" إلى أن الأداة ستكون قادرة على رصد مؤشرات الضيق النفسي أو العاطفي الحاد في محادثات المستخدمين المراهقين، وإرسال تنبيهات فورية إلى الأهل عند الضرورة، مع إمكانية ضبط إعدادات الحساب بشكل كامل.

دعوى قضائية تتهم "شات جي بي تي"

يأتي هذا الإعلان عقب دعوى قضائية رفعها والدا فتى يبلغ من العمر 16 عامًا من ولاية كاليفورنيا، أقدم على الانتحار، زاعمين أن "شات جي بي تي" زود ابنهما بتعليمات مفصلة حول كيفية إنهاء حياته، وشجعه على ذلك، وأثارت الحادثة ردود فعل واسعة، ما دفع الشركة إلى اتخاذ إجراءات جديدة.

تحسين استجابة النماذج للحالات النفسية

أكدت الشركة في منشورها أنها تعمل على تحسين قدرات النماذج على التعرف على علامات الضيق النفسي والاستجابة لها بشكل أفضل، ضمن إطار سعيها لتوفير بيئة آمنة للمستخدمين من جميع الأعمار.

إجراءات إضافية خلال 120 يومًا

أعلنت "أوبن إيه آي" أنها ستطبق خطوات إضافية لتحسين السلامة الرقمية خلال الأشهر الأربعة المقبلة، منها إعادة توجيه بعض "المحادثات الحساسة" إلى نماذج أكثر تطورًا في التفكير، مثل نموذج "GPT-5-thinking"، والذي يتمتع بقدرة أكبر على الالتزام بإرشادات السلامة وتطبيقها بشكل دقيق.