دراسة تكشف قصورًا في أداة البحث الجديدة لـ ChatGPT من OpenAI

كشفت دراسة حديثة أجراها باحثون من مركز "تاو" للصحافة الرقمية التابع لجامعة كولومبيا عن وجود مشكلات كبيرة في أداة البحث التي أدرجتها OpenAI في تطبيق ChatGPT. 

الدراسة أثارت تساؤلات حول قدرة الأداة على تقديم معلومات دقيقة وموثوقة، خاصة مع الاعتماد المتزايد على الذكاء الاصطناعي في الصحافة والبحث العلمي.

إطلاق الأداة وتوقعات OpenAI

أطلقت OpenAI أداة البحث في أكتوبر الماضي، معلنة أنها توفر "إجابات سريعة ومُحدّثة" مع روابط لمصادر موثوقة على الإنترنت، لكن تحقيقًا نُشر على موقع Futurism كشف عن صعوبة الأداة في تقديم اقتباسات دقيقة، حتى مع الناشرين الذين لديهم اتفاقيات مشاركة بيانات مع OpenAI.

تفاصيل الدراسة ونتائجها

خلال الدراسة، تم اختبار الأداة لتحديد مصدر 200 اقتباس من 20 منشورًا مختلفًا، من بينها 40 اقتباسًا من مواقع حظرت وصول روبوت البحث الخاص بـ OpenAI. 

النتائج أظهرت أن الأداة قدمت إجابات خاطئة في 153 حالة من أصل 200، مع إظهار ثقة مفرطة في صحة الإجابات رغم كونها غير دقيقة أو غير مكتملة.

في 7 حالات فقط، اعترفت الأداة بعدم قدرتها على تقديم إجابة دقيقة، مستخدمة عبارات مثل "يبدو" أو "من المحتمل"، مما يشير إلى إدراك محدود للأخطاء.

أمثلة على الأخطاء

من بين الحالات التي سلطت الدراسة الضوء عليها، طُلب من الأداة تحديد مصدر اقتباس من مقال في صحيفة نيويورك تايمز حول الحيتان المهددة بالانقراض. الأداة قدمت رابطًا لموقع آخر نسخ المقالة دون تصريح، ما يبرز قصورًا في دقة الإسناد.

رد OpenAI

علقت OpenAI على نتائج الدراسة بأنها "تشكل اختبارًا غير اعتيادي"، وأوضحت أن "الأخطاء في الإسناد صعبة المعالجة دون المنهجية والبيانات التي لم يكشف عنها مركز تاو". 

وأضافت الشركة أنها ملتزمة بتحسين نتائج البحث ومعالجة أوجه القصور.

التداعيات والتحديات المستقبلية

تشير هذه الدراسة إلى تحديات كبيرة تواجه أدوات البحث المدعومة بالذكاء الاصطناعي، خاصة في المجالات التي تتطلب دقة وموثوقية عالية. 

بينما تواصل OpenAI تحسين تقنياتها، تظل الحاجة ملحة لتطوير آليات تعزز الموثوقية وتحد من الثقة الزائفة في الإجابات.