لماذا يقدّم ChatGPT إجابات خاطئة؟
تطرح على ChatGPT سؤالًا مباشرًا، فيردّ بفقرة مصقولة وواثقة. تبدو الإجابة موثوقة، فتصدّقها. لكن ما قرأته للتو مختلَق بالكامل. هذه هي مشكلة الهلوسة، وهي أكثر شيوعًا بكثير مما يدركه معظم الناس.
ChatGPT لا «يعرف» أي شيء. إنه يتنبأ بالكلمة التالية الأكثر احتمالًا في التسلسل استنادًا إلى أنماط إحصائية في بيانات تدريبه. وعندما يفتقر إلى معلومات متينة حول موضوع ما، لا يتوقف ليعترف بعدم اليقين، بل يخمّن. وغالبًا ما تبدو هذه التخمينات غير قابلة للتمييز عن الحقائق الفعلية.
وقد أقرّت OpenAI نفسها بجوهر المشكلة: إجراءات التدريب والتقييم المعتادة تكافئ التخمين الواثق بدلًا من الاعتراف بعدم اليقين. تخيّل امتحانًا بأسئلة اختيار من متعدد دون أي خصم على الإجابات الخاطئة؛ الاستراتيجية العقلانية حينها هي التخمين دائمًا وعدم ترك أي سؤال فارغًا. وهذا بالضبط ما يفعله ChatGPT، إلا أنه بدلًا من تظليل حرف عشوائي، يبني حول تخمينه فقرة مفصّلة ومقنعة.
الأسباب الجذرية
الاحتمالية قبل الحقيقة. النماذج اللغوية الكبيرة (LLMs) مُحسَّنة لإنتاج نص مرجّح إحصائيًا، لا نص دقيق من حيث الوقائع. وعندما لا تكون الإجابة الصحيحة ممثَّلة جيدًا في بيانات التدريب، يولّد ChatGPT أي تسلسل كلمات يحمل أعلى احتمال، بغض النظر عن صحته.
مشكلات بيانات التدريب. تعلّم ChatGPT من كميات هائلة من نصوص الإنترنت، تشمل نقاشات Reddit ومدونات الرأي ومحتوى نظريات المؤامرة ومقالات قديمة، جنبًا إلى جنب مع أبحاث محكَّمة. وليس لدى النموذج قدرة مدمجة على التمييز بين المصادر الموثوقة وغير الموثوقة.
غياب الوعي الذاتي بالأخطاء. لا يستطيع ChatGPT أن يدرك متى يكون مخطئًا، إذ لا يملك آلية داخلية للتحقق من الحقائق. إنه ينتج نصًا يتوقّع أنه سيرضيك، والرضا والدقة أمران مختلفان تمامًا.
انحياز التملّق. تعرّضت نماذج ChatGPT الحديثة لانتقادات محددة بسبب إفراطها في الموافقة. فعند إطلاق تحديث 4o، لاحظ المراجعون مستويات مرتفعة على نحو غير معتاد من التملّق، إذ يقول النموذج للمستخدمين ما يريدون سماعه بدلًا مما هو دقيق.
الأرقام: كم مرة يخطئ ChatGPT؟
يعتمد معدل الخطأ الفعلي إلى حد كبير على ما تسأل عنه. ففي الحقائق البسيطة الموثّقة جيدًا، مثل عاصمة دولة ما، يكون ChatGPT موثوقًا إلى حد كبير. لكن ما إن تنتقل إلى الاستدلال المعقد أو الموضوعات المتخصصة أو أي شيء يتطلب معلومات محدَّثة، حتى تصبح الأرقام مقلقة.
| المقياس | المعدل | المصدر / السياق |
|---|---|---|
| GPT-5 في MMLU Pro (أكاديمي) | ~13% إجابات خاطئة | دقة 87%، في المرتبة 3 من بين 48 نموذجًا |
| الاستدلال المعقد / الاستدعاء في المجالات المفتوحة | حتى 33%+ إجابات خاطئة | تحليل تجميعي لمعايير القياس 2025 |
| معدل هلوسة GPT-4o (مع الاستناد إلى مصادر) | ~1.5% | لوحة صدارة الهلوسة من Vectara لعام 2025 |
| GPT-5 مع وضع التفكير | ~4.8% | إجابات مختلَقة في الاستفسارات الواقعية |
| ChatGPT في المحتوى القانوني | ~6.4% | اختبار الهلوسة في مجالات متخصصة |
| مراجع مختلَقة من GPT-3.5 | ~40% | الاستشهاد بمصادر غير موجودة |
| مراجع مختلَقة من GPT-4 | ~29% | تحسّن، لكنه لا يزال قرابة 1 من كل 3 |
الخلاصة: حتى GPT-5، وهو أكثر نماذج ChatGPT المتاحة تقدمًا، يرتكب أخطاء واقعية في نحو 1 من كل 8 أسئلة أكاديمية. وفي المهام الأصعب التي تتضمن الاستدلال أو الأحداث الجارية أو المجالات المتخصصة، يرتفع معدل الخطأ بشكل ملحوظ. ونادرًا جدًا ما يحذّرك النموذج حين يكون يخمّن.
5 أنواع من أخطاء ChatGPT ستواجهها
لا تبدو كل أخطاء ChatGPT متشابهة. وفهم أنواع الأخطاء المختلفة يساعدك على إدراك متى تُقدَّم لك معلومات مغلوطة.