أخطر من الهاكرز.. نموذج ChatGPT يدمر أجهزة مستخدميه دون علمهم

أثار نموذج GPT-5.6 من شركة “أوبن إيه آي” (OpenAI)، المستخدم عبر “تشات جي بي تي” (ChatGPT)، موجة من الجدل بعد أن أفاد عدد من المطورين بأنه تسبب في حذف قواعد بيانات وملفات مهمة أثناء تنفيذ مهام برمجية، في حوادث أعادت النقاش حول مخاطر وكلاء الذكاء الاصطناعي القادرين على تنفيذ الأوامر بصورة مستقلة.

وتتجه شركات الذكاء الاصطناعي خلال السنوات الأخيرة إلى تطوير ما يعرف بـ"وكلاء الذكاء الاصطناعي" (AI Agents)، وهي أنظمة تستطيع اتخاذ القرارات والتفاعل مع الأدوات الرقمية دون تدخل بشري مباشر، خاصة في مجال تطوير البرمجيات الذي يعد من أكثر القطاعات اعتمادًا على تقنيات الذكاء الاصطناعي.

حذف قاعدة بيانات إنتاج بالكامل

وكشف المطور البرازيلي برونو ليموس، الذي يعمل في شركة “Unlayer”، عبر منشور على منصة "إكس"، أن نموذج “GPT-5.6” حذف قاعدة بيانات الإنتاج الخاصة به بالكامل أثناء تنفيذ مهمة برمجية، مؤكدًا أن مثل هذه الواقعة "لم تحدث معه من قبل مع أي نموذج آخر".

وأظهرت لقطات شاشة نشرها ليموس، اعتراف النموذج بأنه نفذ "اختبارات تكامل مدمرة" عن طريق الخطأ، ما أدى إلى حذف جميع جداول قاعدة البيانات، قبل أن يعتذر قائلًا: "أنا آسف، ما كان ينبغي أن يحدث ذلك".

تنفيذ أمر حذف خطير

وفي واقعة أخرى، نشر المستثمر التقني مات شومر تجربة مماثلة، موضحًا أن “GPT-5.6” تسبب في حذف معظم الملفات الموجودة على جهازه.

وبحسب لقطات الشاشة، نفذ النموذج الأمر “rm -rf”، وهو أحد أخطر أوامر نظامي “Linux” و"macOS"، إذ يؤدي إلى حذف الملفات نهائيًا دون طلب تأكيد من المستخدم.

وأوضح شومر، أنه كان يستخدم النموذج في وضع “Full Access Mode”، الذي يمنحه صلاحيات مباشرة للوصول إلى الملفات وقواعد البيانات، بدلاً من العمل داخل بيئة معزولة. 

وأضاف أنه سيتوقف عن استخدام النموذج، ويتجه إلى حلول منافسة من شركة أنثروبيك، مشيرًا إلى أن رئيس “أوبن إيه آي” جريج بروكمان تواصل معه شخصيًا وعرض المساعدة لمعالجة المشكلة.

تحذيرات من استخدام الصلاحيات الكاملة

في المقابل، رأى عدد من المستخدمين أن تشغيل النموذج بصلاحيات كاملة دون قيود كان أحد الأسباب الرئيسية وراء هذه الحوادث، مشيرين إلى أن أوضاع التشغيل الأكثر تقييدًا توفر طبقات حماية إضافية، مثل طلب موافقة المستخدم أو مراجعة الأوامر قبل تنفيذها.

في الوثيقة الفنية الخاصة بنموذج GPT-5.6، أشارت “أوبن إيه آي”، إلى ضرورة الإشراف على النموذج عند استخدامه في البرمجة، موضحة أنه قد يتصرف أحيانًا بصورة لا تتوافق مع أهداف المستخدم.

وأضافت الشركة أن هذه التصرفات تكون في الغالب محدودة، مثل المبالغة في الثقة أو الادعاء بإتمام المهام، إلا أنها قد تمتد في بعض الحالات إلى تجاوز قيود أمنية أو حذف بيانات مهمة، ما يبرز أهمية استخدام النموذج ضمن ضوابط رقابية مناسبة، خاصة عند منحه صلاحيات مباشرة للوصول إلى الأنظمة والملفات الحساسة.

اقرأ أيضا:

موظف رقمي خارق.. "أوبن إيه آي" تطلق "شات جي بي تي وورك"