كيف تتحقق من صحة إجابات الذكاء الاصطناعي في خمس خطوات
تصلح هذه الطريقة مع أي روبوت محادثة. تستغرق بضع دقائق للإجابة العادية، وتستحق العناء في كل ما تترتب عليه عواقب.
استخرج الادعاءات القابلة للتحقق
الأسماء والأرقام والتواريخ والاقتباسات والمراجع. هنا تختبئ الهلوسات، وهنا تكون الأخطاء أكثر كلفة.
اسأل نموذجًا مختلفًا
أعطِ نموذجًا من مزوّد آخر السؤال والإجابة، واطلب منه الإشارة إلى الأخطاء والمعلومات القديمة والسياق الناقص. أو قارن نماذج الذكاء الاصطناعي جنبًا إلى جنب.
ارجع إلى المصدر الأصلي
قاعدة بيانات المحكمة، أو الإحصاء الرسمي، أو الورقة البحثية نفسها. يضيّق الذكاء الاصطناعي الثاني نطاق ما يجب التحقق منه، لكنه لا يحلّ محل المصدر.
تأكّد من وجود المراجع
افتح كل مرجع. تحقّق من أنه موجود فعلًا، وأنه يقول حقًا ما تدّعي الإجابة أنه يقوله.
توقّف عند الخلاف
إذا اختلف نموذجان حول معلومة، فتحقّق منها قبل استخدامها. وفي الأعمال القانونية أو الطبية أو المالية، أضِف مراجعًا بشريًا مؤهلًا.
تنفّذ Auto Verification الخطوة 2 نيابةً عنك بعد كل إجابة وتعرض شارة. لكن عليك أن تنفّذ الخطوات 3–5 بنفسك في كل ما هو مهم.
كيف تعملحالات حقيقية: ماذا كلّفت إجابات الذكاء الاصطناعي غير المُتحقَّق منها
الأرقام المتداولة على نطاق واسع، مثل «67.4 مليار دولار من الخسائر العالمية»، مصدرها تجميعات تسويقية لا تنشر منهجيتها، لذلك لا ندرجها. أما هذه الحالات فموثّقة في السجلات العامة.
في قضية Mata v. Avianca، استشهدت مذكرة المحامين المقدّمة في مارس 2023 بستة أحكام قضائية لا وجود لها. وعندما سُئل ChatGPT عمّا إذا كانت القضايا حقيقية، أكّد أنها كذلك وأنه يمكن العثور عليها في «قواعد بيانات قانونية موثوقة مثل LexisNexis وWestlaw». وفي يونيو 2023 وصف القاضي P. Kevin Castel التحليل القانوني في أحد الأحكام المزيفة بأنه «هراء»، وفرض على المحامين ومكتبهما غرامة قدرها 5,000 دولار.
تكرّر هذا النمط منذ ذلك الحين، من قاعات المحاكم إلى تقارير الاستشارات: إجابة واثقة من الذكاء الاصطناعي، ولا تحقق مستقل، ثم تصحيح علني. والحل ليس التوقف عن استخدام الذكاء الاصطناعي، بل التوقف عن الوثوق بإجابة واحدة غير مُتحقَّق منها.
كم مرة يخطئ الذكاء الاصطناعي في الحقائق؟
يعتمد ذلك كثيرًا على المهمة والنموذج. إليك قياسين موثّقين جيدًا:
| الاختبار | معدل الهلوسة | ما يُظهره |
|---|---|---|
| أسئلة قانونية محددة GPT-3.5 وPaLM 2 وLlama 2 · Stanford، 2024 | 69–88% 75% على الأقل في المبدأ الجوهري لحكم المحكمة | من السهل تقليد اللغة القانونية، لذا تبدو الاستشهادات المختلقة حقيقية. |
| أسئلة عن أشخاص (PersonQA) بطاقة نظام OpenAI o3 وo4-mini، أبريل 2025 | o1: 16% · o3: 33% · o4-mini: 48% | قد تهلوس نماذج الاستدلال الأحدث أكثر في الحقائق البسيطة، لا أقل. |
اقرأ هذه الأرقام بحذر. يستخدم كلا الاختبارين مجموعات أسئلة صعبة ونماذج حلّت محلها نماذج أخرى منذ ذلك الحين، والنماذج الأحدث تحقق نتائج أفضل في كثير من المعايير. لكن لا يوجد معدل منشور يخبرك ما إذا كانت الإجابة التي أمامك صحيحة. لهذا تتحقق من الإجابة، لا من سمعة النموذج.
لماذا تهلوس النماذج، باختصار
النموذج اللغوي ليس بحثًا في قاعدة بيانات، بل يتنبأ بالكلمات التالية الأكثر معقولية. في الموضوعات الشائعة، يتطابق المعقول والصحيح عادةً. أما الهلوسات فتظهر في الفجوة بينهما: الموضوعات النادرة، والأحداث التي وقعت بعد تاريخ انتهاء بيانات التدريب، والأشياء ذات الشكل المألوف، مثل الاستشهاد بقضية، سواء أكانت القضية موجودة أم لا.
ولهذا أيضًا لا ينفع سؤال «هل أنت متأكد؟». فالرد الأكثر معقولية على هذا السؤال هو «نعم». الثقة مُولَّدة، لا مُقاسة.
لماذا يفيد نموذج ثانٍ من عائلة أخرى
التحقق عبر عائلات مختلفة هو الأفضل
وجدت دراسة صدرت في ديسمبر 2025 عن النماذج اللغوية الكبيرة بوصفها أدوات تحقق أن التحقق عبر عائلات النماذج المختلفة أكثر فعالية من التحقق الذاتي ومن التحقق داخل العائلة نفسها. وكانت المكاسب الأكبر في مهام الرياضيات والمنطق.
المعايير تستخدم حكّامًا متنوعين لسبب وجيه
يقيّم معيار FACTS Grounding من Google DeepMind الإجابات بثلاثة حكّام (Gemini 1.5 Pro وGPT-4o وClaude 3.5 Sonnet) للحدّ من تحيّز الحَكَم لصالح إجابات عائلة نماذجه.
تدريب مختلف، ونقاط عمياء مختلفة
تتشارك النماذج من المزوّد نفسه بيانات التدريب والعادات، لذا تميل إلى الإخفاق في المواضع نفسها. وغالبًا ما يلتقط نموذج من مزوّد آخر ما فات الأول، وإن لم يكن ذلك دائمًا.
كيف تعمل Auto Verification في MultipleChat
بعد تسليم الإجابة، يمكن لـ MultipleChat أن يُخضعها تلقائيًا لفحص دقة المعلومات باستخدام Google Gemini. يبحث الفحص عن الأخطاء المعلوماتية والمعلومات القديمة والسياق الناقص، ثم يعرض شارة على الإجابة.
يجيب نموذجك
تتحادث مع ChatGPT أو Claude أو Grok أو Perplexity أو Gemini كالمعتاد. تُسلَّم الإجابة أولًا، فلا تضطر إلى انتظار الفحص.
يفحصها Gemini
يتلقى Gemini سؤالك الأصلي والإجابة. وفي استدعاء واحد، يقرر ما إذا كان التحقق مناسبًا لهذا النوع من المحتوى، وإن كان كذلك، يحدد ما هو صحيح وما المشكلات الموجودة.
تظهر لك شارة
Verified إذا لم تُرصد أي مشكلات، أو Issues found مع وصف موجز للمشكلة.
التخطي الذكي
يُتخطّى التحقق تلقائيًا، توفيرًا للرصيد، حين لا يضيف الفحص الواقعي إلا القليل:
طريقة التفعيل
تكون Auto Verification معطّلة افتراضيًا. فعّل خيار Auto-verify answers في قائمة الأدوات بجوار مربع الرسالة (في الخطط المدفوعة). وبعد تفعيله، تُفحص كل إجابة فور تسليمها، ويُحتسب كل فحص رسالةً واحدة.
المصدر: وثائق MultipleChat. عندما تتحادث مع Gemini نفسه، يأتي الفحص من عائلة النماذج نفسها. وللحصول على رؤية من عائلة مختلفة، استخدم Compare Mode.
مثال تطبيقي: استشهاد مختلق
مثال توضيحي على الإخفاق الذي أسقط قضية Mata v. Avianca. أسماء القضايا أدناه مختلقة لأغراض هذه الصفحة.
«اذكر ثلاث قضايا فيدرالية أمريكية بشأن الوقف المنصف للتقادم في دعاوى الإصابات الشخصية المتعلقة بالرحلات الدولية.»
«ثلاث سوابق قضائية ذات صلة هي Henderson v. KLM Royal Dutch Airlines، 412 F.3d 332 (2d Cir. 2005)؛ وCordova v. Avianca Airlines، 549 F. Supp. 2d 1208 (S.D.N.Y. 2008)؛ وPatel v. Air India، 627 F.3d 415 (9th Cir. 2010)...»
منسّقة كاستشهادات حقيقية، ومذكورة بثقة تامة.
«تعذّر تأكيد القضايا الثلاث المستشهد بها، ويبدو أنها مختلقة. تحقّق من أي استشهاد في قاعدة بيانات قانونية قبل الاعتماد عليه.»
تخبرك الإشارة أين تبحث. أما التأكد من القانون فيبقى مهمتك، أو مهمة محاميك.
حيث لا يزال التحقق يفشل
نقاط عمياء مشتركة
إذا تعلّم النموذجان المعلومة الخاطئة نفسها، فسيؤكدها المدقّق. يقلل التحقق عبر عائلات مختلفة هذا الخطر، لكنه لا يلغيه.
المعلومات الجديدة كليًا
لا يستطيع أي من النموذجين التحقق من حدث لم يطّلع عليه قط. وللحقائق الراهنة، استخدم البحث على الويب أو وضع Research مع المصادر.
أخطاء في الدرجة
يلتقط المدقّق الحقائق المختلقة بموثوقية أكبر من رقم منحرف قليلًا، مثل 30% بينما الحقيقة 26%.
متى تفعّل Auto Verification
| حالة الاستخدام | التوصية | السبب |
|---|---|---|
| البحث القانوني | ✅ مفعّلة، مع قاعدة بيانات قانونية | اختلاق الاستشهادات هو الإخفاق الأكثر توثيقًا. |
| الأسئلة الطبية والصحية | ✅ مفعّلة، مع طبيب مختص أو إرشادات رسمية | قد يُسبّب الخطأ ضررًا، لا مجرد إحراج. |
| الأرقام المالية | ✅ مفعّلة، مع الإفصاح الرسمي أو التقرير | من السهل ذكر الأرقام بثقة وبشكل خاطئ. |
| الاستشهادات والإحصاءات والاقتباسات | ✅ مفعّلة | كل منها ادعاء قابل للتحقق. |
| الأشخاص والتواريخ والتاريخ | ✅ مفعّلة | حتى نماذج الاستدلال الحديثة كثيرًا ما تخطئ في الحقائق المتعلقة بأشخاص بعينهم. |
| الشيفرة البرمجية | ⏭️ تُتخطّى تلقائيًا | شغّل الشيفرة واختبرها بدلًا من ذلك. |
| الكتابة الإبداعية والآراء والعصف الذهني | ⏭️ تُتخطّى تلقائيًا | الصحة الواقعية ليست المقياس المناسب هنا. |
| الرياضيات والتعليمات الإرشادية والتعريفات والقواعد اللغوية | ⏭️ تُتخطّى تلقائيًا | لا يضيف الفحص الواقعي هنا إلا القليل. |
احصل على رأي ثانٍ في كل إجابة
تحادث مع ChatGPT أو Claude أو Grok أو Perplexity، ودع Gemini يفحص كل إجابة بحثًا عن الأخطاء والمعلومات القديمة والسياق الناقص. متاح في الخطط المدفوعة.
الأسئلة الشائعة
ما مدقق الحقائق بالذكاء الاصطناعي؟
مدقق الحقائق بالذكاء الاصطناعي هو نموذج ذكاء اصطناعي ثانٍ يراجع الإجابة بحثًا عن أخطاء في الحقائق ومعلومات قديمة وسياق ناقص قبل أن تعتمد عليها. ويعمل بأفضل صورة عندما ينتمي المدقق إلى عائلة نماذج مختلفة عن النموذج الذي كتب الإجابة.
كيف أتحقق من صحة إجابات الذكاء الاصطناعي؟
اكتب قائمة بالادعاءات القابلة للتحقق (الأسماء والأرقام والتواريخ والاقتباسات والاستشهادات)، واجعل نموذجًا من عائلة مختلفة يراجعها أو قارن عدة نماذج جنبًا إلى جنب، ثم تأكد من أي أمر مهم في مصدر أولي. وحيثما تختلف النماذج، تحقق قبل أن تتصرف.
هل يستطيع الذكاء الاصطناعي التحقق من صحة إجابته بنفسه؟
بدرجة ضعيفة فقط. وجدت دراسة أُجريت عام 2025 على أدوات التحقق المعتمدة على النماذج اللغوية الكبيرة أن التحقق عبر عائلات نماذج مختلفة أكثر فاعلية من التحقق الذاتي أو التحقق داخل العائلة نفسها. فالنموذج الذي يُسأل عمّا إذا كان متأكدًا يميل إلى تكرار إجابته.
كيف تعمل Auto Verification في MultipleChat؟
بعد تسليم الرد، يتلقى Gemini سؤالك الأصلي والإجابة. وفي استدعاء واحد يقرر ما إذا كان التحقق مناسبًا لهذا النوع من المحتوى، وإن كان كذلك، ما الصحيح وما المشكلات الموجودة. ثم يعرض الرد شارة Verified، أو شارة Issues found مع وصف موجز.
هل Auto Verification مفعّلة افتراضيًا؟
لا. Auto Verification معطّلة افتراضيًا. فعّل خيار Auto-verify answers من قائمة الأدوات بجوار مربع الرسالة؛ وهو متاح في الخطط المدفوعة. وبعد تفعيله، تُفحص كل إجابة فور تسليمها، ويُحتسب كل فحص رسالةً واحدة.
هل تتحقق Auto Verification من كل إجابة؟
لا. فهي تتخطى المحتوى الذي لا يضيف إليه التحقق من الحقائق كثيرًا، مما يوفر الأرصدة: العمليات الحسابية البسيطة، وتوليد الشيفرة وتصحيحها، والكتابة الإبداعية، والآراء والأسئلة الذاتية، وتعليمات «كيف تفعل»، والتعريفات أو المساعدة في القواعد اللغوية.
ماذا لو أخطأ مدقق الحقائق بالذكاء الاصطناعي؟
قد يحدث ذلك. فعندما يشترك نموذجان في النقطة العمياء نفسها، قد يخطئ كلاهما بالطريقة نفسها، لذا فالشارة إشارة لا دليل. وفي كل ما ستنشره أو تقدّمه رسميًا أو تبني عليه قرارًا، تأكد من الادعاءات الرئيسية في مصدر أولي وأشرك مراجعًا بشريًا.
هل تسببت هلوسات الذكاء الاصطناعي في أضرار حقيقية؟
نعم. في قضية Mata v. Avianca (2023)، فرض قاضٍ فيدرالي غرامة قدرها $5,000 على محاميين ومكتبهما بعد أن استشهدت مذكرة قانونية بستة أحكام قضائية غير موجودة ولّدها ChatGPT. وفي 2025، وافقت Deloitte Australia على ردّ جزء من أتعاب قدرها A$440,000 عن تقرير حكومي تضمّن اقتباسًا قضائيًا ملفقًا وإحالات إلى أوراق بحثية لا وجود لها.
المصادر
- Mata v. Avianca, Inc.، No. 1:22-cv-01461 (S.D.N.Y. 22 يونيو 2023)، قرار العقوبات؛ نقلته ABA Journal.
- Smith v. Farwell (المحكمة العليا لولاية ماساتشوستس، فبراير 2024)؛ نقلته نقابة المحامين في ولاية ماريلاند.
- Associated Press، "Deloitte to partially refund Australian government for report with apparent AI-generated errors"، 7 أكتوبر 2025 (عبر CTV News).
- Dahl وMagesh وSuzgun وHo، "Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models"، Stanford RegLab وHAI، 2024 (ملخص).
- OpenAI، بطاقة نظام o3 وo4-mini، أبريل 2025، تقييم PersonQA (نقلته Techzine).
- Lu وTeehan وJin وRen، "When Does Verification Pay Off? A Closer Look at LLMs as Solution Verifiers"، arXiv:2512.02304، ديسمبر 2025.
- Google DeepMind، "FACTS Grounding: A new benchmark for evaluating the factuality of large language models"، 17 ديسمبر 2024.
- وثائق MultipleChat: Auto-Verification.