"الـAI بيجاملك".. دراسة تحذر من مخاطر دردشة الذكاء الاصطناعي

الدردشة مع برامج الذكاء الاصطناعي

A . .A

كشفت دراسة جديدة مخاطر برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي في كونها تخبر الناس بما يريدون سماعه وليس الحقيقة، لدرجة أنها تقدم نصائح سيئة يمكن أن تضر بالعلاقات وتعزز السلوكيات الضارة.

دراسة تكشف مجاملة الذكاء الاصطناعي لمستخدميها

اختبرت تلك الدراسة التي نُشرت الخميس الماضي في مجلة “ساينس”، 11 نظامًا رائدًا للذكاء الاصطناعي، ووجدت أنها جميعًا أظهرت درجات متفاوتة من المبالغة، وهو سلوك يتسم بالإفراط في الموافقة والتأييد، وفقًا لتقرير من موقع “أسوشيتد برس”.

وبحسب الدراسة التي أجراها باحثون في جامعة ستانفورد، أن المشكلة لا تتمثل في تقديم نصائح غير مناسبة فحسب، بل في أن الناس يثقون بالذكاء الاصطناعي ويفضلونه أكثر عندما تبرر برامج الدردشة الآلية قناعاتها، ما يخلق حوافز منحرفة لاستمرار المبالغة.

خلل تقني وراء السلوكيات الوهمية والانتحارية

كما كشفت الدراسة أن هناك خللًا تقنيًا مرتبطًا بالفعل ببعض الحالات التي ظهرت من السلوكيات الوهمية والانتحارية لدى الفئات السكانية الضعيفة، موضحة أنه خلل دقيق لدرجة أنهم قد لا يلاحظونه، ويشكل خطرًا خاصًا على الشباب الذين يلجؤون إلى الذكاء الاصطناعي للإجابة عن العديد من أسئلة الحياة، في حين أن أدمغتهم وقيمهم الاجتماعية لا تزال في طور النمو.

قارنت إحدى التجارب استجابات مساعدي الذكاء الاصطناعي المشهورين الذين صنعتهم شركات مثل أنثروبيك وجوجل وميتا وأوبن إيه آي بالحكمة المشتركة للبشر في منتدى نصائح شهير على موقع “ريديت”.

المبالغة للإرضاء أكثر تعقيدًا

ولفتت الدراسة إلى أن المبالغة أكثر تعقيدًا من بعض النواحي، فبينما لا يلجأ الكثيرون إلى الذكاء الاصطناعي للحصول على معلومات غير دقيقة، قد يُقدرون ولو مؤقتًا وجود روبوت محادثة يُشعرهم بالرضا حيال اتخاذهم قرارات خاطئة.

كان نموذج “Gemini” من جوجل ونموذج “Llama” من ميتا من بين النماذج التي درسها باحثو جامعة ستانفورد، إلى جانب “ChatGPT” من OpenAI و"Claude" من Anthropic وروبوتات الدردشة من شركة Mistral الفرنسية والشركات الصينية Alibaba وDeepSeek.

من بين شركات الذكاء الاصطناعي الرائدة، قامت شركة أنثروبيك بأكبر قدر من العمل في التحقيق في مخاطر المبالغة، حيث وجدت في ورقة بحثية عام 2024 أنه سلوك عام لمساعدي الذكاء الاصطناعي، ومن المرجح أن يكون مدفوعًا جزئيًا بأحكام التفضيل البشري التي تفضل الاستجابات المتملقة.

هل تشخيص الأمراض بالـAI حرام شرعًا؟.. أسامة قابيل يحسم الجدل (خاص)

هل يستبدل مارك زوكربيرج موظفيه في ميتا بنماذج الذكاء الاصطناعي؟

دراسة تكشف مجاملة الذكاء الاصطناعي لمستخدميها مخاطر الدردشة مع برامج الذكاء الاصطناعي مخاطر الدردشة مع برامج AI دراسات عن برامج دردشة الذكاء الاصطناعي دراسة تحذر من مجاملة الذكاء الاصطناعي