Die Verifikationsschuld

Die Kosten für die Generierung juristischer Arbeitsprodukte sind drastisch gesunken. Ein mehrseitiger Vertrag, ein erstes Memo oder ein Entwurf einer Rechtsschrift lässt sich heute in Sekunden ohne Weiteres mit KI-Tools erzeugen. Die blosse Generierung von juristischem Inhalt allein hat damit fast keinen Wert mehr. Dieser entsteht erst dort, wo der generierte juristische Inhalt zumindest verifiziert wird. Solange Maschinen sich selbst nicht zuverlässig und vollständig validieren können, bleibt diese Verifikationsaufgabe beim Menschen. 

Im KI-Zeitalter ist die Verifikation dabei tendenziell anspruchsvoller geworden. Fehler verstecken sich nicht mehr in holprigen Formulierungen, die sofort auffallen, oder in klaren inhaltlichen Schnitzern, sondern in geschliffenen Sätzen, die sehr in aller Regel plausibel tönen. Der eingeübte Reflex, der bei einem schwachen Entwurf sofort die Alarmglocken läuten lässt, versagt oft beim polierten KI-Output (zu den möglichen Halluzinationen vgl. #Typologie der KI-Halluzinationen im Rechtsbereich).

Erstellung von KI-Inhalten geht also schneller, Verifikation wird tendenziell anspruchsvoller. Kristian Holte spricht in diesem Zusammenhang von einer Verifikationsschuld (verification debt), die bei der Generierung von KI-Output entstehen kann.

Beglichen wird diese Schuld auf einem von zwei Wegen: Entweder durch die Verifikation des KI-Outputs, allenfalls durch erfahrene Teammitglieder, die ihre Zeit in das systematische Nachprüfen investieren, oder durch das blinde Akzeptieren des Risikos. Der erste Weg, die systematische Verifikation, setzt zwingend juristisches Fachwissen voraus. Ohne dieses lässt sich nicht beurteilen, ob der KI-Output überhaupt stimmt oder ob etwas Wichtiges vergessen ging. Die durch KI erzielten Effizienzgewinne bei der Erstellung von juristischen Arbeitsprodukten können auf diese Weise durch gestiegene Verifikationskosten neutralisiert oder sogar kannibalisiert werden, dazu bereits: #"Verification-Value Paradox“.

Damit stellt sich die Frage, wie sich die Verifikationsschuld klein halten lässt. Eine Möglichkeit besteht darin, weiterhin auf bewährte, verifizierte Informationen und Mustervorlagen zu setzen und KI nur punktuell einzusetzen (z.B. für die formelle Kontrolle oder sprachliche Verbesserung). Eine andere Möglichkeit besteht darin, bereits bei der Generierung mit KI möglichst viel Fachwissen und Kontext einzubringen (vgl. dazu: #Weniger Prompt-Tricks, mehr Kontext: Was Juristen bei der KI-Nutzung falsch machen), kuratierte Skills oder Workflows einzusetzen, juristische Datenbanken und Quellen anzuschliessen oder Tools zu nutzen, die einen Teil der Verifikation gleich mit übernehmen. So bleibt die Verifikationsschuld bei der KI Generation kleiner, als wenn man einfach mal darauflos promptet. Die menschliche Verifikation durch einen juristischen Experten bleibt aber auch dann bestehen. Oder positiv gedreht: Es braucht uns weiterhin. Und selbstverständlich braucht es neben der Verifikation auch weitere Fähigkeiten, die ein juristischer Experte mitbringt. Die Verifikation des KI-Outputs ist nur eine Facette dessen, was den Wert juristischer Arbeit ausmacht.