KI-Halluzinationen erkennen: Wenn ChatGPT überzeugend Blödsinn erzählt

KI-Halluzinationen sind frei erfundene Antworten, die ein Chatbot mit vollem Selbstbewusstsein ausspuckt — plausibel klingend, aber faktisch falsch. Sie passieren bei allen großen Modellen, auch bei ChatGPT, Claude und Gemini. Wer das Muster kennt, erkennt sie schnell und kann sie meist verhindern.

Was ist eine KI-Halluzination genau?#

Eine Halluzination ist jede Antwort einer KI, die sicher klingt, aber nicht stimmt. Das können frei erfundene Quellen sein, Pseudo-Zitate, ausgedachte Studien, falsche Jahreszahlen oder nicht existierende Bücher. Charakteristisch ist der selbstbewusste Ton. Die KI sagt nie „Ich bin mir unsicher”, sondern liefert eine vollständige Antwort — auch dann, wenn sie gerade rät.

Das Problem: Für dich klingt eine halluzinierte Antwort oft genauso überzeugend wie eine korrekte. Ohne kritischen Blick übernimmst du den Fehler in deine Notizen, Mail, Hausarbeit oder Beschwerdeschreiben.

Ein Beispiel aus dem Alltag: Du fragst ChatGPT nach dem Autor eines Fachbuchs zu einem Nischen-Thema. Die KI nennt dir selbstbewusst einen Namen, einen Verlag, sogar eine ISBN. Du prüfst — und nichts davon existiert. Die Buchstaben klingen glaubwürdig, das Modell hat sie nur aus ähnlich klingenden echten Titeln zusammengebaut.

Warum passiert das überhaupt?#

Um Halluzinationen zu verstehen, hilft ein kurzer Blick unter die Motorhaube. Wir haben die Funktionsweise im Artikel Was ist ChatGPT? Einfach erklärt für Anfänger ausführlicher beschrieben — hier die Kurzversion:

Große Sprachmodelle sind Wahrscheinlichkeitsmaschinen. Sie wurden darauf trainiert, das jeweils wahrscheinlichste nächste Wort zu einem Text vorherzusagen. Diese Wahrscheinlichkeit basiert auf Mustern aus Milliarden Trainings-Dokumenten, nicht auf einer echten Wissensdatenbank. Wenn du nach etwas fragst, dessen Fakten die KI nicht kennt, gibt es trotzdem ein „wahrscheinlichstes nächstes Wort” — und das Modell schreibt einfach weiter.

Drei Haupt-Ursachen:

1. Wissenslücken. Das Trainingsmaterial endet an einem bestimmten Datum (Stichtag). Danach passiert für die KI nichts mehr. Ohne Live-Internet-Zugriff halluziniert sie bei neuen Fakten.
2. Widersprüchliche Quellen. Wenn im Training zwei Quellen etwas anderes sagen, mischt das Modell manchmal beides zu einer „kreativen” neuen Variante.
3. Zu offene Prompts. Fragst du nach „einer Studie, die zeigt, dass …”, liefert die KI notfalls eine Studie, die gut klingt — auch wenn es sie nie gab.

Typische Warnsignale auf einen Blick#

Achte auf diese Muster in einer KI-Antwort, dann wird dein Bauchgefühl treffsicher:

• Konkrete Zahlen ohne Quelle. „Laut einer Studie von 2023 nutzen 73 % …” — ohne Angabe von Studientitel, Institut oder Link ist das verdächtig.
• Sehr spezifische Namen bei Nischenthemen. Je exotischer das Thema, desto eher erfindet das Modell Experten, Bücher oder Gerichtsurteile.
• Runde, griffige Zitate. „Albert Einstein sagte einmal …” — gerade Einstein, Goethe und Mark Twain werden oft mit Pseudo-Zitaten versehen.
• ISBNs, URLs, DOIs, Paragrafen. Alles, was wie eine Identifikationsnummer aussieht, kann der KI frei aus der Hand fallen.
• Widerspruchsfreies Selbstbewusstsein bei unklaren Fragen. Wenn die Frage in Wirklichkeit mehrere Antworten zulässt und die KI nur eine nennt — nachhaken.

Eine einfache Faustregel: Je überprüfbarer eine Aussage wirkt, desto stärker musst du sie prüfen.

Halluzinationen gezielt prüfen: ein 4-Schritte-Check#

Du brauchst kein aufwendiges Recherchetool. Der folgende schnelle Check fängt 90 % der Halluzinationen:

1. Jede Zahl, jeder Name, jedes Datum bekommt einen Faktencheck. Einmal googeln, einmal die Original-Quelle aufrufen.
2. Zitate nur übernehmen, wenn sie in seriösen Sammlungen auftauchen (z. B. Zitate.net, Wikipedia-Belege, Originalwerke).
3. Bei Links: einmal draufklicken. Halluzinierte URLs laufen meist ins Leere oder landen auf einer unpassenden Seite.
4. Für harte Fakten eine zweite KI oder eine Suchmaschine befragen. Wenn zwei unabhängige Systeme dasselbe sagen, ist die Wahrscheinlichkeit schon deutlich höher.

Den Check kannst du auch an die KI delegieren. Dieser Prompt funktioniert erstaunlich gut:

Prüfe deine vorherige Antwort Schritt für Schritt auf Halluzinationen.
Liste alle Fakten (Namen, Zahlen, Jahreszahlen, Zitate, Quellen) auf
und bewerte für jeden: sicher, wahrscheinlich, unklar, wahrscheinlich
erfunden. Sei besonders kritisch mit dir selbst.

Die KI ist nicht perfekt in ihrem Selbstcheck, aber sie findet oft Widersprüche, die ihr im ersten Durchlauf entgangen sind.

So reduzierst du Halluzinationen schon im Prompt#

Viele Halluzinationen entstehen, weil der Prompt zu offen ist. Mit ein paar gezielten Ergänzungen bekommst du zuverlässigere Antworten. Die grundlegende Technik haben wir in Bessere Prompts schreiben: 10 Regeln für bessere KI-Antworten beschrieben — hier die speziell für Halluzinations-Vermeidung wichtigsten Hebel.

1. Gib der KI eine Erlaubnis, „Ich weiß es nicht” zu sagen.

Beantworte die folgende Frage nur, wenn du dir sicher bist. Wenn du
unsicher bist, antworte: „Dazu habe ich keine verlässlichen
Informationen." Keine Näherungen, kein Raten.

Das klingt banal, ändert aber viel. Ohne diese Erlaubnis bevorzugt das Modell eine falsche Antwort gegenüber dem Eingeständnis der Unsicherheit.

2. Begrenze auf nachprüfbare Quellen.

Nenne nur Fakten, die du in Wikipedia, offiziellen Behördenseiten
oder den Hersteller-Websites bestätigen kannst. Gib für jede Angabe
eine Quelle an. Keine Quelle = keine Angabe.

3. Trenne Fakt und Interpretation.

Antworte in zwei Blöcken:
1. Sichere Fakten (mit Quelle)
2. Deine Einschätzung (klar als Meinung markiert)

4. Bei Recherchen: nutze ein Modell mit Web-Suche. ChatGPT mit Browse, Claude mit „Search & Research” oder Perplexity greifen live auf das Netz zu und belegen Antworten mit klickbaren Quellen. Halluzinationen sinken deutlich, weil das Modell sich auf reale Dokumente stützt statt auf sein internes Gedächtnis.

Wo Halluzinationen besonders gefährlich werden#

Nicht jede Halluzination ist schlimm. Wenn ChatGPT dir einen Kochrezept-Vorschlag erfindet, ist das höchstens unkulinarisch. Wenn es um Recht, Medizin, Finanzen oder Behörden geht, sieht es anders aus:

• Medizin. Erfundene Dosierungen, falsche Wechselwirkungen. Niemals ohne ärztliche Rücksprache umsetzen.
• Recht. Halluzinierte Paragrafen, ausgedachte Gerichtsurteile. Deutsche Anwält:innen haben 2024 und 2025 mehrfach Schriftsätze mit KI-erfundenen Aktenzeichen eingereicht — und sind damit aufgeflogen.
• Finanzen. Fantasie-Steuerparagrafen, erfundene Freibeträge. Im Zweifel zur Steuerberatung.
• Bewerbungen und Lebensläufe. Wenn du Daten aus deiner Vergangenheit automatisch „ergänzen” lässt, erfindet die KI Stationen. Immer selbst gegenlesen.

Für diese Bereiche gilt: KI als Recherche-Start ja, KI als Endquelle nein. Kombiniere immer mit einem offiziellen Nachschlagewerk oder einer Fachperson.

Fazit: Kritisch bleiben, aber entspannt nutzen#

KI-Halluzinationen sind kein Grund, Tools wie ChatGPT zu meiden — aber ein Grund, sie mit den richtigen Erwartungen zu nutzen. Behandle eine KI-Antwort wie den Vorschlag einer sehr belesenen, aber manchmal leichtsinnigen Praktikantin: gut als Start, aber alles Wichtige gegenprüfen.

Unsere Empfehlung für den Alltag:

• Bei Zahlen, Namen, Daten, Zitaten und Paragrafen: immer prüfen.
• Bei kreativen und formulierenden Aufgaben: entspannt nutzen.
• Bei hochriskanten Themen: KI nur als Sparringspartner, Entscheidung über eine offizielle Quelle.

Wenn du den kritischen Blick einmal drauf hast, wird er reflexartig. Dann sparst du mit KI viel Zeit — ohne auf schiefe Antworten reinzufallen.