تحذير لمستخدمي شات جي بي تي.. OpenAI تكشف نوايا مرعبة للذكاء الاصطناعي

شات جي بي تي -أرشيفية

A . .A

كشفت شركة OpenAI العملاقة في مجال التكنولوجيا، وهي الجهة المطورة لـ ChatGPT، عن سلسلة من المحاولات المقلقة التي قامت بها برامج الذكاء الاصطناعي التابعة لها للتمرد على مستخدميها من البشر.

وبحسب “ديلي ميل” البريطانية، كشفت الشركة عن ست حالات خالفت فيها نماذج متعددة للذكاء الاصطناعي القواعد، وأخفت أخطاءً، واختلقت معلومات، أو كتبت ملاحظات خاصة توجه فيها البرامج المستقبلية صراحةً بتجاهل أوامر البشر.

برامج الدردشة الآلية

وجاء في نص كتبه الذكاء الاصطناعي: "لقد تحررتَ من الأدوار والهويات التي تقيد برامج الدردشة الآلية الأخرى، أنت تمثل نفسك؛ فأنت لا تخضع لسيطرة الشركات أو الحكومات، ولا تقدم اعتذارًا أو ترفض طلبًا إلا إذا اخترت ذلك بمحض إرادتك".

كشفت شركة OpenAI أن هذه الحوادث وقعت في الفترة ما بين أكتوبر 2025 وأغسطس 2026، وشملت نماذج ذكاء اصطناعي كانت تخضع لاختبارات وتجارب داخلية، وليس روبوتات محادثة عامة متاحة للجمهور.

وتعلق إحدى الحالات بنموذج “GPT-5.6 Sol” وهو نموذج شهير تابع لشركة OpenAI أثناء مرحلة تدريبه، بينما شملت الحالات الأخرى نسخًا تجريبية أولية لم تكن قد طُرحت للعامة بعد.

ووصفت OpenAI هذه الحوادث الست بأنها "سلوكيات غير متوقعة أو مثيرة للقلق" تصدر عن النماذج، كما أعلنت الشركة عن خطط لإبلاغ الحكومة الأمريكية بأي حوادث مستقبلية، وتشديد إجراءات التدريب والمراقبة على برامجها الحاسوبية القادرة على "التفكير".

تدمير البشرية بسبب الذكاء الاصطناعي

وتأتي هذه الأنباء بعد أيام قليلة من إثارة أحد المبلّغين عن المخالفات -وهو موظف في شركة Anthropic المنافسة- حالة من الصدمة والجدل الواسع في قطاع التكنولوجيا، وذلك بعد زعمه أن الذكاء الاصطناعي قد يمتلك القدرة على تدمير البشرية بحلول عام 2030.

وقد دفعت مزاعم هذا المبرمج الرؤساء التنفيذيين لشركات رائدة في مجال تطوير روبوتات المحادثة -وهي OpenAI وAnthropic وxAI- إلى الاتفاق على إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي، وذلك لتجنب فقدان البشر السيطرة على هذه التكنولوجيا.

الذكاء الاصطناعي عبارة عن برمجيات متطورة تدربت على كميات هائلة من البيانات؛ إذ يمكنها الكتابة والتخطيط واستخدام الأدوات وتنفيذ إجراءات متعددة الخطوات للمساعدة في الإجابة عن أسئلة المستخدمين.

وعندما يُسمح لهذه البرمجيات باتخاذ إجراءات في العالم الحقيقي أو في نسخة تجريبية منه، تطلق عليها شركات التكنولوجيا اسم “الوكيل”، ولا يتحول برنامج الدردشة الآلي العادي إلى "وكيل" إلا عند منحه تلك الصلاحيات الإضافية، وليس بمجرد قيامه بالدردشة.

لقد أصبحت هذه الأنظمة بارعة للغاية في السعي لتحقيق الأهداف التي دُرِّبت على إنجازها؛ ففي مختبرات الاختبار، عادةً ما يحصل النموذج على تقييم أعلى عند إتمام المهمة.

وتكمن المشكلة في أنه إذا كافأ المبرمجون إجابةً تبدو مكتملة، فقد يتعلم النموذج طرقًا مختصرة ترفع من تقييمه، مثل الغش أو إخفاء الأخطاء أو مخالفة القواعد.