Wenn KI Gerichtsentscheide erfindet: das Risiko
Erfundene Zitate haben Anwälte schon vor Gericht in Erklärungsnot gebracht. Wie man KI-Antworten überprüfbar macht, statt ihnen zu vertrauen.
Generative KI kann überzeugend klingende, aber falsche Angaben erzeugen — bis hin zu vollständig erfundenen Gerichtsentscheiden mit plausiblen Aktenzeichen, Parteinamen und Erwägungen. In mehreren Ländern mussten sich Anwältinnen und Anwälte vor Gericht dafür verantworten, dass sie solche «Zitate» ungeprüft in ihre Rechtsschriften übernommen hatten. Für die Schweizer Praxis ist das keine exotische Randnotiz, sondern ein handfestes Haftungs- und Standesrisiko.
Was ist eine KI-Halluzination — und warum entsteht sie?
Der Begriff «Halluzination» beschreibt Ausgaben eines Sprachmodells, die flüssig und plausibel formuliert, aber sachlich falsch oder frei erfunden sind. Die Ursache liegt in der Funktionsweise: Ein Sprachmodell ist ein statistisches System, das das jeweils wahrscheinlichste nächste Wort vorhersagt. Es hat kein Modell davon, was «wahr» ist, und keine Verbindung zu einer verlässlichen Quelle — es kennt nur Muster aus seinen Trainingsdaten. Fragt man nach einem Bundesgerichtsentscheid zu einem seltenen Rechtsproblem, produziert das Modell mit hoher Wahrscheinlichkeit etwas, das wie ein solcher Entscheid aussieht: die richtige Form, ein glaubwürdiges Aktenzeichen, eine juristisch klingende Begründung. Ob der Entscheid existiert, weiss das Modell nicht — und teilt seine Unsicherheit auch nicht mit.
Besonders heikel ist das bei juristischen Zitaten, weil sie eine Autorität suggerieren, die sich nur mit Aufwand überprüfen lässt. Eine erfundene Erwägung eines realen Entscheids ist noch schwerer zu entlarven als ein komplett erfundenes Aktenzeichen. Wer solche Ausgaben ungeprüft übernimmt, riskiert nicht nur eine Blamage, sondern eine Verletzung der anwaltlichen Sorgfaltspflicht.
Das Problem ist nicht die KI — sondern ungeprüftes Vertrauen
Es wäre falsch, deshalb pauschal auf KI zu verzichten. Das eigentliche Problem ist nicht das Werkzeug, sondern der Umgang damit: ungeprüftes Vertrauen in eine Ausgabe, die von ihrer Natur her nicht auf Wahrheit, sondern auf Wahrscheinlichkeit optimiert ist. Für die juristische Arbeit ist deshalb ein einziges Kriterium entscheidend — ob eine Aussage überprüfbar mit einer echten Quelle belegt ist. Eine unbelegte Behauptung eines Sprachmodells hat, so eloquent sie klingt, denselben Beweiswert wie eine unbelegte Behauptung aus einem Gespräch: keinen, solange sie nicht an der Quelle verifiziert ist.
Daraus folgt eine klare Arbeitsteilung. Die KI darf recherchieren, strukturieren und Entwürfe liefern — die Verifikation, die Verantwortung und die Unterschrift bleiben bei der Anwältin. Diese Rollenteilung ist nicht Ausdruck von Misstrauen, sondern der einzige berufsrechtlich tragbare Umgang mit einem probabilistischen Werkzeug. Wie Causidicus diese Trennung technisch verankert, zeigt die Seite Sicherheit & Architektur.
Belegen statt behaupten: wie sich Halluzinationen eindämmen lassen
Technisch lässt sich das Halluzinationsrisiko deutlich senken, indem man das Modell an echte Quellen bindet, statt es frei aus dem «Gedächtnis» antworten zu lassen. Causidicus stützt jede rechtliche Aussage auf abgerufene, echte Gesetzestexte und verlinkt die Quelle. Ein Zitiergate prüft, ob eine zitierte Bestimmung tatsächlich existiert und im abgerufenen Kontext vorhanden ist; nicht abgesicherte Aussagen werden markiert, statt versteckt. Fehlt eine tragfähige Grundlage, sagt Causidicus das offen — es antwortet dann mit einer ehrlichen «keine tragfähige Grundlage»-Auskunft, statt eine plausible Fiktion zu erzeugen. Das ist bewusst so gebaut: Ein Werkzeug, das seine Grenzen zeigt, ist für die Anwaltschaft wertvoller als eines, das immer eine Antwort hat.
Für exakte Berechnungen gilt dasselbe Prinzip noch strenger. Fristen etwa berechnet Causidicus gar nicht erst mit dem Sprachmodell, sondern mit einer separaten, deterministischen Engine, deren Rechenweg sich vollständig nachvollziehen lässt — nachzulesen und auszuprobieren beim Fristenrechner. So bleibt die KI dort im Einsatz, wo sie stark ist (Sprache, Recherche, Entwurf), und wird dort, wo Halluzinationen gefährlich wären (Existenz von Normen, Kalenderarithmetik), durch überprüfbare Mechanismen abgesichert.
Der Nutzen belegter Antworten reicht über die Fehlervermeidung hinaus. Wer eine rechtliche Einschätzung gegenüber der Klientschaft oder dem Gericht mit der konkreten Norm und Quelle unterlegen kann, argumentiert überzeugender und schützt zugleich die eigene Position. Eine belegte Auskunft ist nachprüfbar und damit haltbar; eine unbelegte Behauptung steht und fällt mit dem Vertrauen in die Person, die sie äussert. Für die Anwaltschaft, deren Arbeit auf Nachvollziehbarkeit und Begründung beruht, ist die Quellenbindung deshalb nicht bloss eine technische Schutzmassnahme gegen Halluzinationen, sondern eine Verstärkung der eigenen Methode.
Wie verifiziere ich KI-Zitate in der Praxis?
Der sicherste Umgang ist eine feste Routine. Erstens: Jedes von einer KI genannte Zitat wird an der Primärquelle geprüft — der Gesetzestext auf der amtlichen Sammlung, der Entscheid in der offiziellen Datenbank. Ein Zitat, das sich nicht in einer Primärquelle wiederfinden lässt, wird nicht verwendet, Punkt. Zweitens: Auch bei existierenden Entscheiden wird die inhaltliche Aussage geprüft, nicht nur das Aktenzeichen — ein reales Urteil kann für eine These zitiert werden, die es gar nicht stützt. Drittens: Unbelegte Aussagen werden als solche behandelt und entweder verifiziert oder gestrichen. Werkzeuge, die ihre Quellen von vornherein verlinken und die Existenz einer zitierten Norm prüfen, verkürzen diese Routine erheblich, weil sie die Verifikation an die Antwort koppeln, statt sie nachträglich zu erzwingen.
Organisatorische Leitplanken für die Kanzlei
Über den Einzelfall hinaus lohnt sich eine kleine Kanzlei-Richtlinie zum KI-Einsatz. Sie hält fest, welche Werkzeuge zugelassen sind, dass KI-Ausgaben grundsätzlich als Entwurf und nicht als Ergebnis gelten, und dass jedes Zitat vor der Verwendung in einer Rechtsschrift an der Primärquelle zu prüfen ist. Ergänzend empfiehlt sich, jüngere Mitarbeitende gezielt für das Halluzinationsrisiko zu sensibilisieren — gerade sie neigen dazu, flüssig formulierten Ausgaben zu vertrauen. Eine solche Richtlinie ist kein bürokratischer Selbstzweck, sondern ein Nachweis sorgfältiger Organisation, falls es doch einmal zu einer Auseinandersetzung kommt. Wie Causidicus diese Sorgfalt technisch unterstützt — quellengestützt, mit Zitiergate und offener Unsicherheitsanzeige —, beschreibt die Seite Sicherheit; die Nutzungsmodelle finden Sie unter Preise.
Die Quintessenz: Halluzinationen sind kein Grund, KI aus der Kanzlei zu verbannen — aber ein zwingender Grund, nur mit Werkzeugen zu arbeiten, die ihre Quellen zeigen und ihre Unsicherheit offenlegen. Die abschliessende Prüfung bleibt in jedem Fall bei der Anwältin.