KI-Halluzinationen: Wie Sie falsche Antworten erkennen und vermeiden

Das größte Missverständnis über KI-Fehler: Das Modell "weiß es besser". In Wirklichkeit hat ein Sprachmodell kein "Wissen" im menschlichen Sinne — es hat statistische Muster. Und manchmal erzeugt es Ausgaben, die plausibel klingen, aber faktisch falsch sind.

Das nennt man Halluzination. Für Kanzleien ist das kein akademisches Problem.

Was eine Halluzination ist — und was nicht

Halluzination: Das Modell gibt eine falsche Information mit hohem Selbstvertrauen aus. Kein Zögern, kein "ich bin mir nicht sicher" — einfach falsch.

Beispiele:
- Erfundene Urteilsnummern ("BFH-Urteil vom 12.3.2024, Az. V R 44/23" — existiert nicht)
- Falsche Paragraphennummern ("§ 15a EStG regelt..." — stimmt nicht)
- Veraltete Rechtslage als aktuelle ausgegeben
- Korrekte Struktur, falsche Zahlen (Freibeträge, Grenzwerte)

Keine Halluzination:
- Modell sagt "das weiß ich nicht" — das ist korrekte Unsicherheit
- Modell lehnt eine Anfrage ab — das ist eine Schutzmaßnahme
- Modell liefert ungenaue Paraphrase — das ist Ungenauigkeit, nicht Erfindung

Warum Halluzinationen bei juristischer Arbeit besonders gefährlich sind

Juristische und steuerliche Texte haben eine Eigenschaft, die Halluzinationen fast unsichtbar macht: Sie klingen immer sachlich. Ein erfundenes Urteil klingt genau wie ein echtes. Eine falsche Paragraphennummer sieht aus wie eine richtige.

Ein Schriftsatz mit einem nicht-existenten Urteil landet beim Gericht. Eine Einkommensteuererklärung mit falschen Freibeträgen landet beim Finanzamt. Die Konsequenz ist nicht "das Dokument ist offensichtlich falsch" — die Konsequenz ist ein Fehler, der erst auffällt, wenn es zu spät ist.

Wann Halluzinationen besonders häufig auftreten

1. Sehr spezifische Fakten
Je spezifischer eine Anfrage, desto höher das Halluzinationsrisiko. "Was ist der Erbschaftsteuer-Freibetrag für Geschwister?" ist riskanter als "Erkläre mir das Konzept der Erbschaftsteuer."

2. Randgebiete und seltene Konstellationen
Das Modell hat weniger Trainingsdaten für seltene Sachverhalte und "füllt" die Lücken mit statistisch plausiblen, aber erfundenen Details.

3. Aktuelle Entwicklungen nach Trainings-Cutoff
Änderungsgesetze, neue BGH-Urteile, neue BMF-Schreiben nach dem Trainingsende — das Modell kennt sie nicht, kann aber trotzdem Antworten konstruieren, die so klingen, als ob es sie kennt.

4. Wenn Sie das Modell nach genauen Zitaten fragen
"Zitiere mir den genauen Wortlaut von §..." — sehr hohes Halluzinationsrisiko. Modelle reproduzieren Gesetzestexte oft ungenau.

Konkrete Erkennungsmethoden

Methode 1: Quellen-Check

Wenn ein Modell ein Urteil oder einen Paragraphen nennt: Prüfen Sie es. Immer. Das dauert 30 Sekunden.

• Urteilsnummer in juris, Beck-Online oder Bundesgerichtshof.de eingeben
• Paragraphennummer im offiziellen Gesetzestext prüfen (gesetze-im-internet.de)

Findet sich nichts: Halluzination.

Methode 2: Gegenüberstellung

Fragen Sie das Modell mit umgekehrter Fragestellung: "Welche Argumente sprechen gegen die Meinung, die du gerade vertreten hast?" oder "Was könnte an dieser Aussage falsch sein?"

Ein Modell, das selbst die Schwächen benennt, ist zuverlässiger als eines, das alles sicher behauptet.

Methode 3: Schichttrennung

Lassen Sie KI das, was es gut kann, und prüfen Sie das, was riskant ist:

• KI gut: Struktur, Formulierung, Zusammenfassung, Argumente ordnen
• Mensch prüft: Alle Fakten, Zahlen, Zitate, Rechtsverweise

Regel: Alles, was man bei Falschheit haftbar machen würde, wird manuell verifiziert.

Methode 4: Unsicherheit provozieren

Fügen Sie in den Prompt ein: "Wenn du dir bei etwas nicht sicher bist, sage das explizit." Moderne Modelle (Claude, GPT-4o) halten sich daran besser als ältere.

Was Halluzinationen reduziert

Kontextreichheit: Je mehr relevantem Text Sie dem Modell mitgeben (das Vertragsdokument, den Bescheid, die Aktenlage), desto weniger muss es "erfinden". Das Modell fasst dann zusammen statt zu konstruieren.

Aufgabentyp wählen: Fragen Sie "Analysiere diesen Text, der vor dir liegt" statt "Erkläre mir die Rechtslage zu X allgemein". Das erste hat weniger Halluzinationsrisiko.

Richtig prompen: "Liste alle Fakten auf, die du aus diesem Dokument extrahierst — ohne etwas hinzuzufügen, was nicht explizit drin steht" reduziert Halluzinationen messbar.

Die entscheidende Konsequenz

Halluzinationen sind kein Grund, KI nicht zu nutzen. Sie sind ein Grund, KI richtig zu nutzen.

Ein Arzt, der Labortests interpretiert, fragt auch nicht "stimmt dieses Gerät?", sondern er kennt den Fehlerbereich des Instruments und handelt entsprechend. Das ist das Modell für KI-Nutzung in professionellen Kontexten: Werkzeug kennen, Fehlermodus kennen, entsprechend handeln.

Systematisch und sicher mit KI arbeiten

Claude Code Mastery →

Stand September 2026. Halluzinationsraten variieren je nach Modell und Aufgabe — die genannten Methoden gelten für alle aktuellen Großmodelle.