„Das Urteil gibt es wirklich — ich habe es aus dem BGH zitiert.“ Das sagte ein KI-System zu einem Anwalt in den USA. Das Urteil existierte nicht. Der Anwalt reichte es trotzdem ein. Das Gericht bemerkte es. Die Karriere des Anwalts nicht.
Das ist kein Einzelfall. Das ist die Natur von Sprachmodellen.
Was Halluzinationen wirklich sind — und warum sie sich so echt anfühlen
KI-Sprachmodelle sind keine Datenbanken. Sie „suchen“ nicht nach Fakten — sie vorhersagen das wahrscheinlichste nächste Wort in einer Sequenz. Das Ergebnis klingt immer flüssig, strukturiert und kompetent — auch wenn der Inhalt erfunden ist.
Das ist kein Bug. Das ist das Prinzip.
Warum das gefährlich klingt — aber auch lösbar ist: Das Modell „weiß“ nicht, dass es lügt. Es hat kein Bewusstsein. Es optimiert für sprachliche Kohärenz, nicht für Wahrheit. Wenn eine plausible Antwort existiert, gibt es sie. Wenn nicht, erfindet es eine plausible — und liefert sie mit derselben Sicherheit.
Das bedeutet: Halluzinationen passieren am häufigsten genau dort, wo man sie am wenigsten erwartet — bei spezifischen Fakten, Zahlen, Gerichtsurteilen, Paragrafennummern.
Wie häufig passiert das — und in welchen Situationen?
Grobe Faustregeln aus der Praxis:
| Aufgabe | Halluzinationsrisiko |
|---|---|
| Allgemeine Textzusammenfassung | Niedrig |
| Stimmungsanalyse, Klassifizierung | Sehr niedrig |
| Code-Generierung (mit Tests) | Mittel |
| Spezifische Urteile / Paragrafennummern | Hoch |
| Zahlen aus Dokumenten extrahieren | Mittel–hoch |
| Eigennamen, Daten, Firmennamen | Mittel |
Das Muster: Je spezifischer die Faktenanfrage, desto höher das Risiko. Allgemeine Aufgaben (Texte kürzen, Sprache prüfen, Strukturieren) sind viel sicherer.
Was in Kanzleien konkret schiefgehen kann
Die Lösung: Kein KI-Verbot, sondern kluger Workflow
Das Problem ist nicht KI selbst — es ist KI ohne Qualitätssicherung.
Zuverlässige KI-Nutzung in Kanzleien funktioniert nach einem einfachen Prinzip:
KI arbeitet, Mensch prüft den Prüfschritt.
Konkret:
Was das für Kanzleien bedeutet
KI ist für Kanzleien besonders wertvoll bei strukturierten Routineaufgaben mit klarem Input und verifizierbarem Output:
- Fristen aus Bescheiden extrahieren (mit menschlicher Gegenprüfung)
- Mandantenkorrespondenz vorbereiten (nie blindlings versenden)
- Interne Dokumentation generieren
- Belegerfassung und Kategorisierung
KI ist risikobehaftet bei Aufgaben, die auf spezifischen Rechts- oder Steuerfakten basieren — ohne explizite Verifikation im Nachgang.
Der Unterschied zwischen einem KI-Desaster und einem KI-Gewinn liegt fast immer im Workflow, nicht im Modell.
Wie man das richtig baut
Der Weg zu zuverlässigen KI-Agenten in der Kanzlei ist lernbar. Unser Kurs zeigt, wie man Agenten baut, die:
- Unsichere Ausgaben kennzeichnen statt zu verschweigen
- Fakten mit Quellenangaben verknüpfen
- Human-in-the-Loop-Schritte korrekt einbauen
Claude Code Mastery — KI-Agenten für Kanzleien und KMU
Von 0 auf eigene KI-Automatisierungen in 4 Wochen. Mit eingebautem Human-in-the-Loop und strukturierten Verifikationsschritten — für Rechtsanwälte, Steuerberater und KMU-Inhaber.
Zum Kurs →Erst sehen, dann entscheiden?
Wir zeigen Ihnen in 30 Minuten, wie KI-Automatisierung mit eingebautem Qualitätsschutz konkret in Ihrer Kanzlei aussieht — mit echten Beispielen, ohne Verkaufsdruck.
Demo anfragenKostenlos · 30 Minuten · Kein Verkaufsgespräch