KI-Antworten in fünf Schritten auf Fakten prüfen
Diese Methode funktioniert mit jedem Chatbot. Bei einer normalen Antwort dauert sie wenige Minuten und lohnt sich bei allem, was Folgen hat.
Überprüfbare Aussagen herausfiltern
Namen, Zahlen, Daten, Zitate und Quellenangaben. Hier verstecken sich Halluzinationen, und hier kosten Fehler am meisten.
Ein anderes Modell fragen
Geben Sie einem Modell eines anderen Anbieters die Frage und die Antwort und bitten Sie es, Fehler, veraltete Fakten und fehlenden Kontext zu markieren. Oder vergleichen Sie KI-Modelle direkt nebeneinander.
Zur Primärquelle gehen
Eine Gerichtsdatenbank, die offizielle Statistik, die Studie selbst. Eine zweite KI grenzt ein, was geprüft werden muss – die Quelle ersetzt sie nicht.
Prüfen, ob Quellen existieren
Öffnen Sie jede Quellenangabe. Prüfen Sie, ob sie existiert und ob dort tatsächlich steht, was die Antwort behauptet.
Bei Widersprüchen innehalten
Wenn sich zwei Modelle bei einem Fakt widersprechen, prüfen Sie ihn, bevor Sie ihn verwenden. Bei juristischen, medizinischen oder finanziellen Aufgaben ziehen Sie zusätzlich eine qualifizierte Fachperson hinzu.
Auto Verification übernimmt Schritt 2 nach jeder Antwort automatisch und zeigt ein Prüfsiegel an. Die Schritte 3–5 erledigen Sie bei allem Wichtigen weiterhin selbst.
So funktioniert esEchte Fälle: Was ungeprüfte KI-Antworten gekostet haben
Vielzitierte Zahlen wie „67,4 Milliarden US-Dollar weltweiter Schaden“ stammen aus Marketing-Zusammenstellungen ohne veröffentlichte Methodik, daher lassen wir sie weg. Die folgenden Fälle sind öffentlich dokumentiert.
Im Fall Mata v. Avianca zitierten die Anwälte in ihrem Schriftsatz vom März 2023 sechs Gerichtsentscheidungen, die es nicht gab. Auf die Frage, ob die Fälle echt seien, bejahte ChatGPT dies und erklärte, sie seien in „seriösen juristischen Datenbanken wie LexisNexis und Westlaw“ zu finden. Im Juni 2023 bezeichnete Richter P. Kevin Castel die rechtliche Analyse in einem der gefälschten Urteile als „Kauderwelsch“ und verhängte gegen die Anwälte und ihre Kanzlei eine Geldstrafe von 5.000 $.
Das Muster hat sich seither wiederholt, vom Gerichtssaal bis zum Beratungsbericht: eine selbstsichere KI-Antwort, keine unabhängige Prüfung und eine öffentliche Korrektur. Die Lösung ist nicht, auf KI zu verzichten. Sondern einer einzelnen ungeprüften Antwort nicht mehr blind zu vertrauen.
Wie oft gibt KI Fakten falsch wieder?
Das hängt stark von der Aufgabe und vom Modell ab. Zwei gut dokumentierte Messungen:
| Test | Halluzinationsrate | Was er zeigt |
|---|---|---|
| Spezifische Rechtsfragen GPT-3.5, PaLM 2, Llama 2 · Stanford, 2024 | 69–88 % mindestens 75 % beim Kernsatz eines Urteils | Juristische Sprache lässt sich leicht imitieren, deshalb wirken erfundene Fallzitate echt. |
| Fragen zu Personen (PersonQA) System Card zu OpenAI o3 und o4-mini, April 2025 | o1: 16 % · o3: 33 % · o4-mini: 48 % | Neuere Reasoning-Modelle können bei einfachen Fakten mehr halluzinieren, nicht weniger. |
Lesen Sie diese Zahlen mit Bedacht. Beide Tests verwenden schwierige Fragensets und Modelle, die inzwischen abgelöst wurden, und neuere Modelle schneiden in vielen Benchmarks besser ab. Doch keine veröffentlichte Quote sagt Ihnen, ob die Antwort vor Ihnen stimmt. Deshalb prüfen Sie die Antwort, nicht den Ruf des Modells.
Warum Modelle halluzinieren – kurz erklärt
Ein Sprachmodell ist keine Datenbankabfrage. Es sagt die plausibelsten nächsten Wörter voraus. Bei gängigen Themen decken sich plausibel und wahr meist. Halluzinationen entstehen in der Lücke dazwischen: bei seltenen Themen, bei Ereignissen nach dem Trainingsstichtag und bei Dingen mit vertrauter Form, etwa einem Fallzitat – ganz gleich, ob der Fall existiert oder nicht.
Deshalb funktioniert auch „Bist du sicher?“ nicht. Die plausibelste Antwort auf diese Frage lautet „Ja“. Die Zuversicht wird generiert, nicht gemessen.
Warum ein zweites Modell aus einer anderen Familie hilft
Prüfung über Modellfamilien hinweg wirkt am besten
Eine Studie vom Dezember 2025 zu LLMs als Prüfern ergab, dass die Verifizierung über Modellfamilien hinweg wirksamer ist als die Selbstprüfung oder die Prüfung innerhalb derselben Familie. Am größten waren die Verbesserungen bei Mathematik- und Logikaufgaben.
Benchmarks setzen nicht ohne Grund gemischte Bewerter ein
Der FACTS-Grounding-Benchmark von Google DeepMind bewertet Antworten mit drei Bewertermodellen (Gemini 1.5 Pro, GPT-4o und Claude 3.5 Sonnet), um zu verhindern, dass ein Bewerter Antworten aus seiner eigenen Modellfamilie bevorzugt.
Anderes Training, andere blinde Flecken
Modelle eines Anbieters teilen Trainingsdaten und Gewohnheiten und scheitern daher oft an denselben Stellen. Ein Modell eines anderen Anbieters erkennt häufig, was dem ersten entgangen ist – wenn auch nicht immer.
So funktioniert Auto Verification von MultipleChat
Nachdem eine Antwort ausgegeben wurde, kann MultipleChat sie automatisch mit Google Gemini auf sachliche Richtigkeit prüfen. Die Prüfung sucht nach Sachfehlern, veralteten Informationen und fehlendem Kontext und zeigt anschließend ein Prüfsiegel an der Antwort an.
Ihr Modell antwortet
Sie chatten wie gewohnt mit ChatGPT, Claude, Grok, Perplexity oder Gemini. Die Antwort wird zuerst ausgegeben, sodass Sie nicht auf die Prüfung warten müssen.
Gemini prüft sie
Gemini erhält Ihre ursprüngliche Frage und die Antwort. In einem einzigen Aufruf entscheidet es, ob sich eine Verifizierung für diese Art von Inhalt eignet, und falls ja, was korrekt ist und welche Probleme bestehen.
Sie sehen ein Prüfsiegel
Verifiziert, wenn keine Probleme gefunden wurden, oder Probleme gefunden mit einer kurzen Beschreibung des Problems.
Intelligentes Überspringen
Wo eine Faktenprüfung wenig bringt, wird die Verifizierung automatisch übersprungen – das spart Credits:
Aktivieren
Auto Verification ist standardmäßig deaktiviert. Aktivieren Sie Antworten automatisch prüfen im Tool-Menü neben dem Nachrichtenfeld (kostenpflichtige Tarife). Sobald die Funktion aktiv ist, wird jede Antwort direkt nach der Ausgabe geprüft, und jede Prüfung zählt als eine Nachricht.
Quelle: MultipleChat-Dokumentation. Wenn Sie mit Gemini selbst chatten, stammt die Prüfung aus derselben Modellfamilie. Für eine Sicht über Modellfamilien hinweg nutzen Sie den Compare Mode.
Praxisbeispiel: ein erfundenes Fallzitat
Ein anschauliches Beispiel für den Fehler, der im Fall Mata v. Avianca zum Verhängnis wurde. Die folgenden Fallnamen wurden für diese Seite erfunden.
„Nenne drei US-Bundesgerichtsentscheidungen zur Hemmung der Verjährung aus Billigkeitsgründen (Equitable Tolling) bei Personenschadensklagen im Zusammenhang mit internationalen Flügen.“
„Drei einschlägige Präzedenzfälle sind Henderson v. KLM Royal Dutch Airlines, 412 F.3d 332 (2d Cir. 2005); Cordova v. Avianca Airlines, 549 F. Supp. 2d 1208 (S.D.N.Y. 2008); und Patel v. Air India, 627 F.3d 415 (9th Cir. 2010) …“
Formatiert wie echte Fallzitate, vorgetragen mit voller Überzeugung.
„Die drei zitierten Fälle konnten nicht bestätigt werden und scheinen erfunden zu sein. Prüfen Sie jedes Fallzitat in einer juristischen Datenbank, bevor Sie sich darauf stützen.“
Die Markierung zeigt Ihnen, wo Sie genauer hinsehen müssen. Die Rechtslage zu bestätigen, bleibt Ihre Aufgabe – oder die Ihres Anwalts.
Wo Verifizierung weiterhin versagt
Gemeinsame blinde Flecken
Haben beide Modelle denselben falschen Fakt gelernt, bestätigt der Prüfer ihn. Die Prüfung über Modellfamilien hinweg verringert dieses Risiko, beseitigt es aber nicht.
Brandneue Informationen
Kein Modell kann ein Ereignis verifizieren, das es nie gesehen hat. Für aktuelle Fakten nutzen Sie die Websuche oder den Research-Modus mit Quellen.
Graduelle Fehler
Ein Prüfer erkennt erfundene Fakten zuverlässiger als eine leicht abweichende Zahl, etwa 30 %, wo es eigentlich 26 % sind.
Wann Sie Auto Verification aktivieren sollten
| Anwendungsfall | Empfehlung | Warum |
|---|---|---|
| Juristische Recherche | ✅ Ein, plus juristische Datenbank | Erfundene Fallzitate sind der am besten dokumentierte Fehler. |
| Medizinische und gesundheitliche Fragen | ✅ Ein, plus ärztliche Fachperson oder offizielle Leitlinien | Ein Fehler kann Schaden anrichten, nicht nur peinlich sein. |
| Finanzkennzahlen | ✅ Ein, plus die Pflichtmitteilung oder der Bericht | Zahlen lassen sich leicht selbstsicher und falsch angeben. |
| Quellenangaben, Statistiken, Zitate | ✅ Ein | Jede davon ist eine überprüfbare Aussage. |
| Personen, Daten, Geschichte | ✅ Ein | Selbst aktuelle Reasoning-Modelle liegen bei personenbezogenen Fakten oft daneben. |
| Code | ⏭️ Wird automatisch übersprungen | Führen Sie den Code stattdessen aus und testen Sie ihn. |
| Kreatives Schreiben, Meinungen, Brainstorming | ⏭️ Wird automatisch übersprungen | Wahrheit ist hier nicht der relevante Maßstab. |
| Mathematik, Anleitungen, Definitionen, Grammatik | ⏭️ Wird automatisch übersprungen | Eine Faktenprüfung bringt hier wenig. |
Holen Sie sich zu jeder Antwort eine zweite Meinung
Chatten Sie mit ChatGPT, Claude, Grok oder Perplexity und lassen Sie Gemini jede Antwort auf Fehler, veraltete Fakten und fehlenden Kontext prüfen. Verfügbar in den kostenpflichtigen Tarifen.
Häufig gestellte Fragen
Was ist ein KI-Faktenprüfer?
Ein KI-Faktenprüfer ist ein zweites KI-Modell, das eine Antwort auf sachliche Fehler, veraltete Informationen und fehlenden Kontext prüft, bevor Sie sich darauf verlassen. Am besten funktioniert das, wenn der Prüfer aus einer anderen Modellfamilie stammt als das Modell, das die Antwort geschrieben hat.
Wie prüfe ich KI-Antworten auf Fakten?
Listen Sie die überprüfbaren Aussagen auf (Namen, Zahlen, Daten, Zitate und Quellenangaben), lassen Sie sie von einem Modell aus einer anderen Familie prüfen oder vergleichen Sie mehrere Modelle nebeneinander, und bestätigen Sie alles Wichtige anhand einer Primärquelle. Wo sich die Modelle widersprechen, prüfen Sie nach, bevor Sie handeln.
Kann eine KI ihre eigene Antwort auf Fakten prüfen?
Nur eingeschränkt. Eine Studie zu LLM-Verifizierern aus dem Jahr 2025 ergab, dass die Verifizierung über Modellfamilien hinweg wirksamer ist als die Selbstverifizierung oder die Verifizierung innerhalb derselben Familie. Ein Modell, das gefragt wird, ob es sich sicher ist, wiederholt meist seine eigene Antwort.
Wie funktioniert Auto Verification von MultipleChat?
Nachdem eine Antwort ausgegeben wurde, erhält Gemini Ihre ursprüngliche Frage und die Antwort. In einem einzigen Aufruf entscheidet es, ob eine Verifizierung für diese Art von Inhalt sinnvoll ist, und wenn ja, was korrekt ist und welche Probleme bestehen. Die Antwort zeigt dann ein Verified-Abzeichen oder ein Issues-found-Abzeichen mit einer kurzen Beschreibung.
Ist Auto Verification standardmäßig aktiviert?
Nein. Auto Verification ist standardmäßig ausgeschaltet. Aktivieren Sie „Auto-verify answers“ im Tool-Menü neben dem Eingabefeld; die Funktion ist in den Bezahltarifen verfügbar. Sobald sie aktiv ist, wird jede Antwort direkt nach der Ausgabe geprüft, und jede Prüfung zählt als eine Nachricht.
Prüft Auto Verification jede Antwort?
Nein. Inhalte, bei denen ein Faktencheck wenig bringt, werden übersprungen, was Credits spart: einfache Mathematik und Berechnungen, Code-Generierung und Debugging, kreatives Schreiben, Meinungen und subjektive Fragen, Anleitungen sowie Definitionen oder Grammatikhilfe.
Was, wenn der KI-Faktenprüfer sich irrt?
Das kann passieren. Wenn zwei Modelle denselben blinden Fleck haben, können sich beide auf dieselbe Weise irren – ein Abzeichen ist also ein Signal, kein Beweis. Bei allem, was Sie veröffentlichen, einreichen oder als Handlungsgrundlage nutzen, sollten Sie zentrale Aussagen anhand einer Primärquelle bestätigen und eine menschliche Prüfung einbeziehen.
Haben KI-Halluzinationen schon echten Schaden verursacht?
Ja. Im Fall Mata v. Avianca (2023) verhängte ein Bundesrichter eine Geldstrafe von 5.000 $ gegen zwei Anwälte und ihre Kanzlei, nachdem in einem Schriftsatz sechs von ChatGPT erfundene Gerichtsentscheidungen zitiert worden waren. 2025 erklärte sich Deloitte Australia bereit, einen Teil des Honorars von 440.000 A$ für einen Regierungsbericht zurückzuzahlen, der ein erfundenes Gerichtszitat und Verweise auf nicht existierende Forschungsarbeiten enthielt.
Quellen
- Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y. 22. Juni 2023), Sanktionsbeschluss; berichtet im ABA Journal.
- Smith v. Farwell (Mass. Super. Ct., Feb. 2024); berichtet von der Maryland State Bar Association.
- Associated Press, „Deloitte to partially refund Australian government for report with apparent AI-generated errors“, 7. Oktober 2025 (über CTV News).
- Dahl, Magesh, Suzgun und Ho, „Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models“, Stanford RegLab und HAI, 2024 (Zusammenfassung).
- OpenAI, System Card zu o3 und o4-mini, April 2025, PersonQA-Evaluation (Bericht von Techzine).
- Lu, Teehan, Jin und Ren, „When Does Verification Pay Off? A Closer Look at LLMs as Solution Verifiers“, arXiv:2512.02304, Dezember 2025.
- Google DeepMind, „FACTS Grounding: A new benchmark for evaluating the factuality of large language models“, 17. Dezember 2024.
- MultipleChat Dokumentation: Auto-Verification.