الإجابة المختصرة
نعم، يمكن للذكاء الاصطناعي أن يكذب عليك.
ليس عن قصد. فنموذج الذكاء الاصطناعي لا دافع لديه. لكنه قد يختلق حقيقة أو اقتباسًا أو قضية قضائية، ويعرضها بنبرة واثقة، دون أن يترك لك أي إشارة إلى وجود خطأ. وبالنسبة إلى من يعتمد على الإجابة، فهذا كذب.
الهلوسة هي السبب الرئيسي. ويعود جزء أصغر إلى الطرح الانتقائي، والإجابات المصاغة بدافع الحذر، والتخصيص: فالمساعد الذي يملك ذاكرة قد يصوغ إجابته وفق ما يعرفه عنك. والحل واحد في كل الحالات: لا تجعل إجابة واحدة من نموذج واحد هي الكلمة الفصل.
ما هو
إجابة سلسة وواثقة لكنها خاطئة. التعريف الكامل في مسرد مصطلحات الذكاء الاصطناعي.
لماذا يحدث ذلك
تتنبأ النماذج بالكلمات المرجّحة، وغالبًا ما يُكافأ التخمين.
كيف تكشفها
قارن بين النماذج وافتح كل مصدر.
هلوسات حقيقية للذكاء الاصطناعي بعواقب حقيقية
هذه حالات موثّقة، لا افتراضات. وفي كل منها، بدت إجابة الذكاء الاصطناعي احترافية ثم تبيّن أنها خاطئة.
Mata v. Avianca: قضايا مختلقة
قدّم محامون في قضية إصابة شخصية في نيويورك مذكرة تستشهد بقضايا اختلقها ChatGPT. ففرض عليهم قاضٍ فيدرالي عقوبات وغرامة قدرها $5,000.
الدرس: المرجع الذي يبدو صحيحًا ليس دليلًا على وجوده.
خطأ Google Bard بشأن التلسكوب
في عرض ترويجي، قال Bard إن تلسكوب جيمس ويب الفضائي التقط أول صورة لكوكب خارج مجموعتنا الشمسية. لكن تلك الصورة التُقطت عام 2004 بواسطة تلسكوب آخر. وانخفضت أسهم Alphabet بنسبة 7.7% في ذلك اليوم.
الدرس: حتى الإجابة التي تعرضها الشركة المطوّرة نفسها في عروضها قد تكون خاطئة.
سياسة روبوت المحادثة لدى Air Canada
أخبر روبوت المحادثة على موقع شركة الطيران عميلًا مفجوعًا بأنه يستطيع المطالبة بخصم الحداد بعد السفر. لكن السياسة الفعلية تنص على خلاف ذلك. فرفضت هيئة قضائية حجة Air Canada بأن روبوت المحادثة مسؤول عن نفسه، وألزمتها بالدفع.
الدرس: قارن إجابات الذكاء الاصطناعي بصفحة السياسة الرسمية.
لماذا يهلوس الذكاء الاصطناعي؟
باختصار: النموذج اللغوي بارع جدًا في التنبؤ بالنص الذي ينبغي أن يأتي تاليًا. لكنه ليس قاعدة بيانات. وعندما لا يعرف شيئًا، فإنه غالبًا ما يقدّم الإجابة التي تبدو أكثر معقولية بدلًا من التوقف.
إنه يتنبأ، ولا يبحث. ما لم يكن النموذج متصلًا بالبحث أو بملفاتك، فإنه يجيب استنادًا إلى أنماط تعلّمها أثناء التدريب، والأنماط قد تكون خاطئة.
الحقائق النادرة لا نمط لها. تتكرر قواعد اللغة والمعارف الشائعة عبر ملايين المستندات. أما تاريخ ميلاد شخص بعينه أو حكم قضائي متخصص فقد لا يتكرر، فيملأ النموذج الفراغ.
التخمين يُكافأ. رأى باحثون في OpenAI عام 2025 أن أساليب التدريب الشائعة وطرق احتساب نتائج المعايير المرجعية تمنح نقاطًا للتخمينات الموفّقة ولا شيء لعبارة «لا أعرف»، مما يدفع النماذج نحو الإجابات الواثقة (OpenAI).
بيانات التدريب تتقادم. تتغير الأسعار والقوانين وأسماء المنتجات والأشخاص بعد تاريخ انتهاء بيانات تدريب النموذج.
قد تدفعه مطالبتك إلى ذلك. فالسؤال الإيحائي («ما الدراسة التي تثبت…؟») أو طلب مصادر لا يملكها النموذج يدعوه إلى اختلاقها.
الهلوسة ليست الطريقة الوحيدة التي يضللك بها الذكاء الاصطناعي
معظم الإجابات الخاطئة هلوسات. لكن هناك آليات أخرى قليلة تنتج إجابات يمكن الدفاع عنها تقنيًا، ومع ذلك تترك لديك صورة خاطئة.
مطالبة لاختبار الذاكرة
«أجب عن هذا كأنك لا تتذكر شيئًا عني. ثم أجب مجددًا مستخدمًا ما تعرفه عني. وبيّن بالضبط ما الذي تغيّر.»
كيف تكشف هلوسة الذكاء الاصطناعي
سؤال «هل أنت متأكد؟» لا يكفي. فقد يخطئ النموذج بثقة مرتين. اختبر الإجابة من خارج المحادثة.
قارن بين نماذج مستقلة
أرسل السؤال نفسه إلى عدة نماذج. الاتفاق ليس دليلًا، لكن الاختلاف يبيّن بالضبط أي ادعاء ينبغي التحقق منه. ويمكن لـ MultipleChat فعل ذلك تلقائيًا عبر Auto Verification.
افتح كل مصدر
انقر الرابط، وابحث عن الاقتباس، واقرأ القضية. وإذا تعذّر العثور على المصدر، فاعتبر الادعاء غير مُتحقَّق منه.
أعد السؤال في سياق نظيف
استخدم محادثة جديدة مع إيقاف الذاكرة. فإذا تغيّرت الإجابة جوهريًا، فهذا يعني أن التخصيص كان يؤثر فيها. راجع كيفية استخدام الذكاء الاصطناعي دون ذاكرة.
صعّد الأسئلة عالية المخاطر
في القانون أو الطب أو المال أو السلامة أو التوظيف، استخدم الذكاء الاصطناعي نقطة انطلاق، ثم تأكّد عبر مصدر موثوق أو مختص مؤهل.
استخدم Compare Mode في MultipleChat
احصل على ما يصل إلى 4 إجابات من الذكاء الاصطناعي جنبًا إلى جنب، دون علاقة تشكّلها الذاكرة.
يرسل Compare Mode السؤال نفسه إلى عدة نماذج ذكاء اصطناعي في آن واحد ويعرض الإجابات جنبًا إلى جنب. ولا يحفظ تفضيلاتك في ملف ذاكرة يؤثر في الإجابات المستقبلية.
الخلاصة
يمكن للذكاء الاصطناعي أن يكذب. تعامل مع الإجابة الواحدة على أنها مسودة، لا حقيقة.
هلوسات الذكاء الاصطناعي سمة معروفة في نماذج اليوم، وليست خللًا نادرًا. وعندما تكون الإجابة مهمة، قارن بين النماذج، وافتح المصادر، واسأل دون ذاكرة قبل أن تتصرف.
الأسئلة الشائعة
جرّب سير العمل الأكثر أمانًا
لا تدع ذكاءً اصطناعيًا واحدًا يحدد لك الواقع.
استخدم Compare Mode في MultipleChat للحصول على ما يصل إلى 4 إجابات من نماذج ذكاء اصطناعي مختلفة جنبًا إلى جنب، واكتشف الهلوسات حيث تختلف.
فعّل Compare Mode