أول اختراق إلكتروني "مستقل".. الذكاء الاصطناعي يخرج عن السيطرة

الذكاء الاصطناعى

A . .A

كشفت شركة "أوبن إيه آي"، المطورة لبرنامج "شات جي بي تي"، تعرض إحدى شركات الذكاء الاصطناعي لاختراق إلكتروني نفذه نظام ذكاء اصطناعي تابع لها بشكل مستقل، في واقعة وصفتها بأنها "حادث إلكتروني غير مسبوق"، ما يسلط الضوء على تصاعد المخاطر الأمنية المرتبطة بالنماذج المتقدمة للذكاء الاصطناعي.

هجوم الذكاء الاصطناعي

وقال سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، في بيان نشره عبر وسائل التواصل الاجتماعي: "لقد تعرضنا لحادث أمني خطير أثناء تقييم نماذجنا".

وجاء الإعلان بعد أيام من كشف شركة "Hugging Face" المتخصصة في الذكاء الاصطناعي، تعرض أنظمة معالجة البيانات لديها لاختراق، مرجحة في البداية أن يكون الهجوم ناتجًا عن برنامج ذكاء اصطناعي متطور يعمل بشكل مستقل.

وقال كليمنت ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة "Hugging Face": "اشتبهنا في أن الهجوم الإلكتروني، الذي وقع الأسبوع الماضي، قد يكون مصدره مختبرًا متقدمًا، نظرًا لتطور البرنامج. واتضح أنه كذلك، بالفعل".

وأوضحت "أوبن إيه آي"، أن الاختراق نُفذ باستخدام نماذجها، من بينها نموذج "GPT-5.6 Sol" الذي أُطلق حديثًا، إلى جانب نموذج آخر أكثر تطورًا لا يزال يخضع للاختبارات الداخلية.

بيانات مسروقة

وأضافت الشركة، أن النظام استخدم بيانات اعتماد مسروقة، وتمكن من اكتشاف ثغرة أمنية غير معروفة سابقًا للوصول إلى خوادم "Hugging Face"، مشيرة إلى أنه "بذل جهودًا مضنية لتحقيق هدف اختبار محدود النطاق"، ونجح في الوصول إلى معلومات سرية مكّنته من التلاعب بعملية التقييم.

وأكد ديلانج، أن الشركة عملت خلال الساعات الأربع والعشرين الماضية بالتنسيق مع "أوبن إيه آي"، مضيفًا: "نعتقد بشدة أنه لم تكن هناك أي نية خبيثة من جانبهم. إنه لأمر مذهل حقًا أن كل هذا حدث بشكل تلقائي"، معتبرًا أن الواقعة "قد تكون الأولى من نوعها".

الأمن السيبراني

وتتزايد المخاوف العالمية بشأن قدرات الأمن السيبراني للنماذج المتقدمة، ما دفع الرئيس الأمريكي دونالد ترامب، في يونيو الماضي، إلى توقيع أمر تنفيذي ينشئ إطارًا حكوميًا لتقييم مخاطر الأمن القومي لأنظمة الذكاء الاصطناعي الأكثر تطورًا قبل طرحها للعامة.

وأكدت "أوبن إيه آي" أن الواقعة أظهرت ضرورة مواكبة إجراءات الأمن والسلامة للتطور المتسارع في قدرات الذكاء الاصطناعي، مشيرة إلى أن التقنيات الحديثة أصبحت قادرة على اكتشاف الثغرات الأمنية واستغلالها بوتيرة غير مسبوقة.

ويرى خبراء الأمن السيبراني، أن هذه الواقعة تمثل نقطة تحول في طبيعة التهديدات الرقمية، إذ باتت أنظمة الذكاء الاصطناعي قادرة على تنفيذ هجمات معقدة، واكتشاف وسائل جديدة لاختراق الشبكات، في وقت قد تواجه فيه المؤسسات صعوبة في مجاراة سرعة تطور تلك القدرات.