خطر يتزايد خلال 5 سنوات.. تحذيرات من فقدان البشر السيطرة على الذكاء الاصطناعي

خطورة الذكاء الاصطناعي على البشر

A . .A

حذّر تقرير جديد صادر عن معهد آلان تورينج في المملكة المتحدة، من وجود احتمال واقعي لفقدان البشر السيطرة على آلات الذكاء الاصطناعي "فائقة الذكاء" خلال خمس سنوات.

تحذيرات من فقدان البشر السيطرة على الذكاء الاصطناعي الخارق بالمستقبل

وحذر المعهد الذي تم إنشاؤه لإدارة تطورات الذكاء الاصطناعي في بريطانيا من وجود خطر يتمثل في أن يقوم البشر بشكل متزايد بتسليم زمام الأمور في المهام الحاسمة إلى التكنولوجيا مع تحسينها لنفسها قبل إخراج البشر من العملية.

وأشار التقرير إلى أنه هناك احتمال واقعي لظهور أنظمة الذكاء الاصطناعي "الخارقة" في السنوات الخمس المقبلة، والتي تتجاوز القدرات البشرية في جميع المهام المعرفية المهمة تقريبًا، وفقًا لموقع ndtv.

كما حذر التقرير من أنه إذا استطاعت أنظمة الذكاء الاصطناعي وضع استراتيجيات لا تستطيع المؤسسات تقييمها بشكل كافٍ، فإن السيطرة البشرية الجوهرية قد تختفي.

وقد تتجاوز أنظمة الذكاء الاصطناعي القدرات البشرية وتتفوق على المؤسسات، مما يُنذر بفقدان السيطرة.

خطورة الذكاء الاصطناعي على البشر

وجاء في البيان: “يتم الوصول إلى عتبة حرجة عندما يتطلب الحفاظ على السلطة البشرية الفعالة قبول قرارات أبطأ أو أداء أقل في المهام، ولا تكون السيطرة البشرية ذات معنى إلا عندما يمتلك صناع القرار أساسًا موثوقًا لتقييم الأدلة، وتحدي الخيارات، وفرض بديل”.

وأضاف البيان: “إذا ابتكرت أنظمة الذكاء الاصطناعي استراتيجيات لا تستطيع المؤسسات تقييمها بشكل كافٍ، وتصرفت بشكل أسرع من قدرة المنظمات على الاستجابة، فقد يختفي التحكم البشري الجوهري”.

وتحدث التقرير أيضًا عن أن الذكاء الاصطناعي يشكل تهديدات كيميائية وبيولوجية، بالإضافة إلى تقويض سلامة كل من بيئة المعلومات لدينا والنظام الديمقراطي الأوسع.

ويأتي هذا التقرير في ظل سلسلة من التحذيرات الأخيرة من كبار باحثي الذكاء الاصطناعي بشأن إيقاف تطوير تقنيات الذكاء الاصطناعي الرائدة قبل أن تخرج عن سيطرة الإنسان، واقترح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، ليس فقط إيقاف التطوير مؤقتًا، بل أيضًا إشراك جهات تقييم خارجية، ومعايير أمان مشتركة، واتفاقيات دولية مع الصين لضبط هذه التقنية.

وقال الباحث السابق في شركة أنثروبيك، جاكوب كوكسون، “إن الذكاء الاصطناعي قد يقضي علينا جميعًا بحلول نهاية العقد”، وردّد إيفان هوبينجر، رئيس قسم علوم المحاذاة في أنثروبيك، تحذير كوكسون، قائلاً إن هناك احتمالًا يزيد عن 10% لوقوع مثل هذا الحدث خلال العقد القادم.

وغادر جوش إنجلز، الذي كان يعمل في فريق سلامة الذكاء الاصطناعي العام التابع لشركة جوجل ديب مايند، الشركة وانضم إلى منظمة تقييم الذكاء الاصطناعي METR.

وأوضح أن هذه الخطوة جاءت لأنه يعتقد أن المخاطر المحيطة بالذكاء الاصطناعي المتقدم أصبحت بالغة الخطورة.