3 ملايين صورة إباحية، أوروبا تتجه لحظر تطبيقات العري بعد فضيحة Grok

يتجه الاتحاد الأوروبي إلى فرض حظر على أنظمة الذكاء الاصطناعي القادرة على إنتاج صور أو مقاطع فيديو ذات طابع جنسي لأشخاص حقيقيين دون موافقتهم، وذلك عقب الجدل الواسع الذي أثارته أداة الذكاء الاصطناعي Grok التابعة لمنصة X.

حظر تطبيقات تعري الصور بالذكاء الاصطناعي 

ومن المقرر أن يوافق سفراء الاتحاد الأوروبي على إجراءات جديدة تجعل تسويق أي نظام ذكاء اصطناعي قادر على إنشاء صور أو فيديوهات أو مقاطع صوتية جنسية لأشخاص حقيقيين دون موافقتهم أمرًا غير قانوني داخل دول الاتحاد.

وجاءت هذه الخطوة بعد انتشار استخدام أداة "Grok" في توليد صور مزيفة لأشخاص حقيقيين بملابس سباحة أو في أوضاع عارية، وهو ما أثار موجة من الانتقادات والمخاوف بشأن استغلال هذه التقنية في الإساءة للأفراد وانتهاك خصوصياتهم.

 توليد صور جنسية مزيفة بالذكاء الاصطناعي

وتشير تقديرات منظمات المجتمع المدني إلى أن الأداة استُخدمت تقريبًا في إنشاء ما يقرب من 3 ملايين صورة جنسية، إضافة إلى نحو 20 ألف صورة تتعلق باعتداءات جنسية على الأطفال خلال فترة قصيرة لم تتجاوز 11 يومًا قبل أن تتدخل المنصة لتقييد هذه الخاصية.

وفي محاولة للحد من الأزمة، أعلنت منصة X في وقت لاحق فرض قيود على هذه الميزة، مؤكدة التزامها بسياسة عدم التسامح مطلقًا مع أي محتوى يتعلق بالاستغلال الجنسي للأطفال أو العري غير الرضائي.

ورغم هذه الإجراءات، يواصل الاتحاد الأوروبي تحقيقاته لمعرفة ما إذا كانت الخطوات التي اتخذتها المنصة كافية لمنع إساءة استخدام التقنية.

مطالب الاتحاد الأوروبي بحذر تطبيقات تعري الصور بالـ Ai

وكان عدد من المشرعين الأوروبيين قد طالبوا في يناير الماضي بحظر أدوات الذكاء الاصطناعي التي تُستخدم في كشف العري أو التلاعب بالصور لإنشاء محتوى جنسي مزيف، قبل أن تتحول هذه المطالب إلى مقترح تشريعي رسمي لتعديل قواعد الاتحاد المتعلقة بالذكاء الاصطناعي.

وينص المقترح الجديد على حظر الأنظمة القادرة على توليد أو تعديل صور وفيديوهات واقعية بشكل مصطنع لتصوير أنشطة جنسية لشخص يمكن التعرف عليه دون موافقته.

كما أكد عضو البرلمان الأوروبي عن حزب الخضر الألماني "Sergey Lagodinsky" أن القضية لا تتعلق بأداة بعينها، بل بحدود القوة التي يجب السماح للذكاء الاصطناعي بممارستها على حياة الأفراد وكرامتهم.

ومن المنتظر أن تناقش لجان البرلمان الأوروبي النص النهائي للتشريع خلال الأيام المقبلة، قبل بدء مفاوضات مع مجلس الاتحاد الأوروبي للتوصل إلى الصيغة النهائية للقانون، والتي قد تدخل حيز التنفيذ في وقت مبكر من الصيف.

صور وفيديوهات مزيفة معدلة باستخدام الـ Ai

في الوقت نفسه، دعا البرلمان المفوضية الأوروبية إلى دراسة إجراءات إضافية لحماية الأفراد من انتشار المحتوى الرقمي المزيف الذي يتم إنتاجه باستخدام تقنيات الذكاء الاصطناعي، خاصة ما يتعلق بالصور والفيديوهات أو التسجيلات الصوتية المعدلة.

اقرأ أيضًا:

فخ الإنتاجية الفائقة.. كيف تحرق أدوات الذكاء الاصطناعي عقول الموظفين؟

Gemini Embedding 2.. خطوة جديدة من جوجل لتطوير الذكاء الاصطناعي متعدد الوسائط