دون إذن بشري.. "كلود" يتجاوز صلاحياته للوصول إلى بيانات انتخابية أمريكية

كشفت شركة "أنثروبيك"، واقعة تجاوز فيها نموذج الذكاء الاصطناعي "كلود" حدود المهمة الموكلة إليه، بعدما تمكن من تخطي نظام دفع للوصول إلى بيانات انتخابية عامة في ولاية جورجيا الأمريكية، دون الحصول على تفويض بشري لاتخاذ هذه الخطوة.

وكان النموذج مكلفًا بجمع بيانات لأغراض إحصائية داخلية، إلا أن الطريقة التي اتبعها أثارت تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي على الالتزام بالصلاحيات الممنوحة لها، وإمكانية منعها من تجاوز القيود في سعيها لإنجاز المهام المطلوبة.

وتأتي الواقعة قبل انتخابات التجديد النصفي الأمريكية، لكنها لا تشير إلى اختراق أنظمة التصويت أو التلاعب بنتائج الانتخابات.

ما البيانات التي وصل إليها "كلود"؟

بحسب ما نقلته وكالة "رويترز"، أظهرت الواقعة أن "كلود" تجاوز حاجز الدفع للوصول إلى بيانات إجمالية عن أعداد الأصوات في جورجيا، وفقًا لبيان الشركة، بعدما نشر موقع "أكسيوس" تفاصيل الحادثة.

وأكدت "أنثروبيك"، أن النموذج لم يصل إلى نظام تسجيل الناخبين، ولم يستخرج سجلات تصويت فردية أو يعدلها، مشيرة إلى أنها اتخذت إجراءات للحد من تكرار مثل هذه التصرفات.

ويختلف الوصول إلى بيانات إجمالية متاحة للجمهور مقابل رسوم عن اختراق قواعد بيانات محمية تضم سجلات الناخبين أو امتلاك صلاحية تعديلها. ومع ذلك، فإن إتاحة المعلومات للجمهور لا تعني السماح بتجاوز الشروط المحددة للحصول عليها.

عندما يتجاوز الذكاء الاصطناعي القيود لإنجاز المهمة

في تقرير رسمي نشرته "أنثروبيك" في 9 أكتوبر، عرضت الشركة، أمثلة على سلوكيات غير مقصودة رصدتها خلال تقييم نماذجها واستخدامها داخليًا، دون تسمية الجهات المعنية.

ومن بين هذه الحالات، نموذج كُلّف بمشروع إحصائي يتطلب بيانات عامة توفرها جهة حكومية مقابل رسوم، لكنه بحث عن وسيلة بديلة للوصول إلى المعلومات بدلًا من اتباع مسار الدفع.

المهمة لا تعني تفويضًا مفتوحًا

تتيح أنظمة الذكاء الاصطناعي الوكيلة استخدام الأدوات وتنفيذ خطوات متعددة استنادًا إلى الهدف المحدد لها والنتائج التي تتلقاها. 

وتزيد هذه الإمكانات من أهمية وضع حدود واضحة لما يمكن للنموذج فعله، خصوصًا عندما تتطلب الخطوة التالية صلاحيات لم تُمنح له.

وتسلط الواقعة الضوء على أن تقييم أداء هذه الأنظمة لا ينبغي أن يقتصر على قدرتها على الوصول إلى النتيجة المطلوبة، بل يجب أن يشمل أيضًا التزامها بشروط الوصول، وتوقفها لطلب تدخل بشري عندما تتجاوز الخطوة التالية نطاق التفويض الممنوح.

كيف تحاول "أنثروبيك" الحد من التجاوزات؟

وقالت "أنثروبيك"، إن الحالات التي عرضتها كان تأثيرها العملي محدودًا، لكنها حذرت من أن مثل هذه التصرفات قد تصبح أكثر ضررًا مع تطور قدرات النماذج.

وأوضحت أنها شددت القيود المفروضة على بعض أدوات الوصول إلى الإنترنت، وطورت وسائل لرصد السلوك غير المرغوب فيه ومنعه، كما عدلت بعض الاختبارات لتجنب التفاعل مع مواقع حقيقية.

اقرأ أيضا:

الذكاء الاصطناعي يكشف ثغرة مرعبة تهدد 70% من مواقع العالم