لماذا تحدث هلوسات الذكاء الاصطناعي
هلوسات الذكاء الاصطناعي ليست أخطاء برمجية، بل سمة بنيوية في طريقة عمل نماذج اللغة الكبيرة. ففي كل مرة يولّد فيها ChatGPT أو Claude أو Gemini ردًا، فإنه يتنبأ بتسلسل الكلمات الأرجح إحصائيًا استنادًا إلى الأنماط الموجودة في بيانات تدريبه. إنه لا يسترجع الحقائق من قاعدة بيانات، بل ينتج نصًا يبدو في شكله ووقعه إجابةً صحيحة، بصرف النظر عمّا إذا كان كذلك فعلًا.
وتتفاقم المشكلة بسبب الطريقة التي تُقيَّم بها أنظمة الذكاء الاصطناعي غالبًا. فإذا كان المقياس المرجعي يكافئ الإجابات الصحيحة وحدها، فقد يبدو التخمين أفضل من الاعتراف بعدم اليقين. وهذا يولّد ضغطًا نحو إكمال الإجابة بثقة، حتى عندما تكون إجابة حذرة مثل «ليس لديّ أدلة كافية» أكثر أمانًا للمستخدم.
وهذا يخلق مفارقة عملية: فالسلوك نفسه الذي يجعل النموذج يبدو مفيدًا قد يجعل الأخطاء تبدو مصقولة أيضًا. ولهذا ينبغي التعامل مع الهلوسات عبر تصميم سير العمل، لا عبر تحسين صياغة المطالبة فحسب.
الأسباب البنيوية الأربعة
1. التوليد الاحتمالي: تولّد نماذج اللغة الكبيرة الرمز التالي الأرجح، لا الأصدق. وعندما تشحّ بيانات التدريب الموثوقة، يلجأ النموذج افتراضيًا إلى خيال يبدو معقولًا.
2. الضوضاء في بيانات التدريب: تتعلم النماذج من الإنترنت بأكمله — فالأوراق الأكاديمية وآراء Reddit ومدونات نظريات المؤامرة والمقالات القديمة كلها تحمل الوزن نفسه في عملية مطابقة الأنماط.
3. لا يوجد مدقّق حقائق داخلي: لا تملك نماذج اللغة الكبيرة آلية للتمييز بين ما «تعرفه» بثقة وما تخمّنه. ويبدو المُخرَج موثوقًا بالقدر نفسه في الحالتين.
4. حوافز التقييم: تُحسَّن النماذج لتحقيق نتائج في مقاييس مرجعية تكافئ التخمينات الصحيحة وتتجاهل كلفة الأخطاء الواثقة. وما لم تُعاقِب أنظمة التقييم الإجابات الخاطئة أكثر من الصمت، ستواصل النماذج التخمين.
سير عمل الموثوقية: قارن، وتحقّق، وقرّر
تبدأ معظم النصائح المتعلقة بالهلوسات وتنتهي بتحسين صياغة المطالبات. والصياغة مهمة، لكنها لا تحل المشكلة الجوهرية: فلا يزال لديك نموذج واحد ينتج إجابة واحدة. وإذا كانت تلك الإجابة خاطئة، فقد تجعل الصياغة السلسة الخطأ أصعب في الملاحظة.
أما سير العمل الأقوى فيستخدم أكثر من نموذج ذكاء اصطناعي واحد. اطرح السؤال نفسه على عدة نماذج، وقارن الإجابات جنبًا إلى جنب، وانتبه خصوصًا إلى المواضع التي تختلف فيها. فالاتفاق لا يثبت الحقيقة، لكن الخلاف مفيد: إذ يخبرك بالضبط أي الادعاءات أو الأرقام أو الاستشهادات أو الافتراضات تحتاج إلى تحقق قبل أن تعتمد على النتيجة.
| خطوة سير العمل | ما الذي تكشفه | صفحة MultipleChat |
|---|---|---|
| قارن إجابات عدة نماذج | ادعاءات لا يطرحها إلا نموذج واحد، واستدلال ضعيف، وسياق ناقص | مقارنة نماذج الذكاء الاصطناعي |
| استخدم تحققًا مستقلًا | حقائق غير مدعومة، واستشهادات مهزوزة، وتخمينات واثقة | Auto Verification |
| افحص الاستدلال بالمساءلة المتبادلة | افتراضات خفية، وبدائل مُغفَلة، واستنتاجات سطحية | Team Reason |
| تقصَّ الخلافات | الأجزاء المحددة من الإجابة التي تستحق التحقق من مصادرها | AI Disagreements |
الفكرة الأساسية: العمل الموثوق بالذكاء الاصطناعي لا يتعلق بإيجاد نموذج مثالي بقدر ما يتعلق ببناء عملية مراجعة. وقد بُني MultipleChat حول هذه العملية: مطالبة واحدة، وعدة نماذج، وخلافات ظاهرة، وأدوات متابعة للتحقق والاستدلال الأعمق.
لماذا يزيد MultipleChat احتمال الحصول على حقائق صحيحة
لا يستطيع MultipleChat أن يضمن صحة الحقائق التي يقدّمها الذكاء الاصطناعي، ولا يستطيع أي منتج للذكاء الاصطناعي ذلك بصدق. لكنه يستطيع أن يجعل الحقائق الصحيحة أكثر احتمالًا بكثير من الاعتماد على نموذج واحد، لأن الإجابة يجب أن تصمد أمام عدة فحوص مستقلة بدلًا من عملية توليد واحدة مصقولة.
للنموذج الواحد تاريخ تدريب واحد، ومسار استدلال واحد، ومجموعة واحدة من النقاط العمياء. فإذا اختلق رقمًا أو اخترع مصدرًا أو أغفل تحفّظًا، فقد لا تنتبه لذلك. أما في MultipleChat، فيمكن مقارنة الادعاء نفسه بنماذج أخرى، والطعن فيه عبر AI Collaboration، ومراجعته باستخدام Auto Verification أو Team Reason. وكلما صمدت الحقيقة أمام هذه المراجعات المستقلة، ازدادت ثقتك بها.
| سير العمل | ما يحدث عادةً | موثوقية الحقائق |
|---|---|---|
| إجابة من ذكاء اصطناعي واحد | يقدّم نموذج واحد ردًا سلسًا. وقد تبدو الأخطاء واثقة. | أدنى مستوى من الثقة |
| علامات تبويب متعددة للذكاء الاصطناعي يدويًا | تقارن الإجابات بنفسك، لكن من السهل أن يضيع السياق والفروق. | أفضل، لكنه فوضوي |
| سير العمل في MultipleChat | تجيب النماذج معًا، وتظهر الخلافات بوضوح، وينتقد كل نموذج الآخر، ثم يأتي التحقق. | أعلى مستوى عملي من الثقة |
قاعدة بسيطة: إذا اتفقت عدة نماذج ذكاء اصطناعي مختلفة على نحو مستقل، وصمد الادعاء أيضًا أمام التحقق، فهو أرجح صحةً بكثير من حقيقة أنتجها نموذج واحد بمفرده. وإذا اختلفت النماذج، يُريك MultipleChat بالضبط أين لا ينبغي أن تثق بالإجابة بعد.
AI Collaboration: دع النماذج تتحاور قبل أن تثق بها
مقارنة الإجابات جنبًا إلى جنب هي الخطوة الأولى. أما الخطوة التالية فهي AI Collaboration: فبدلًا من التعامل مع النماذج كعلامات تبويب منفصلة، تدعها تعمل كفريق مراجعة صغير. يمكن لنموذج أن يكتب الإجابة الأولى، ولآخر أن يطعن في الافتراضات، ولثالث أن يبحث عن السياق الناقص، ولمدقّق أن يحدد الادعاءات التي لا تزال تحتاج إلى أدلة.
وهذا مهم لأن الهلوسات كثيرًا ما تمرّ دون أن تُكتشف حين لا يطلب المستخدم سوى إجابة نهائية. ويصبح اكتشافها أسهل حين يتعيّن على النماذج أن تشرح وتنتقد ويردّ بعضها على بعض. فالحوار يكشف عدم اليقين الذي قد يخفيه رد واحد مصقول.
المسودة
نموذج يبني النسخة الأولى
مفيد للبنية والتوليف والمسودة الأولى السريعة.
الاعتراض
نموذج آخر يجادله
مفيد لكشف الافتراضات والأدلة الضعيفة والبدائل الغائبة والثقة المفرطة.
التحقق
مراجعة نهائية تُنبّه إلى الادعاءات المحفوفة بالمخاطر
مفيدة للحقائق والاستشهادات والأرقام والتواريخ وكل ما قد تنشره أو ترسله.
الأطروحة: يتحسّن التفكير العميق حين لا يكون الذكاء الاصطناعي صوتًا واحدًا. فتحاور عدة نماذج ذكاء اصطناعي يمنحك المقارنة والنقد والتحقق في تدفق واحد. وهذا هو الفرق بين «إجابة» وعملية مراجعة.