Die diesjährige Podiumsdiskussion der Schleswig-Holsteinischen Rechtsanwaltskammer am 20. März in Kiel beleuchtete die Chancen, Risiken und Grenzen des Einsatzes selbstlernender Systeme auf dem Rechtsberatungsmarkt. Als Diskussionsteilnehmer konnten renommierte Experten aus Politik, Justiz und Rechtsberatung gewonnen werden: Klaus Meyer-Cabri, Ministerialdirektor und Leiter der Abteilung D – Bessere Rechtssetzung, Digitale Gesellschaft und Innovation, Europaangelegenheiten und internationale Zusammenarbeit des Bundesministeriums der Justiz, Isabelle Biallaß, Leitung des Think Tanks Legal Tech & KI in der Justiz NRW, Richterin am Amtsgericht Essen und Mitglied im Vorstand des Deutschen EDV-Gerichtstags e. V., Martin Rollinger, Geschäftsführer von SINC und Volljurist, sowie Dr. Nadine Lilienthal, Partnerin und Geschäftsführerin von legaleap.law, Host des Podcasts „Zukunft Rechtsmarkt“ und Mitgründerin des New Legal Network. Die Moderation übernahm der Soziologe, Filmemacher und Journalist Burkhard Plemper.
KI unterstützt Gerichte bereits heute
Isabelle Biallaß erläuterte, dass künstliche Intelligenz bereits heute an Gerichten eingesetzt werde, zum Beispiel bei der Vorbereitung von Verfahren rund um Fluggastrechte. Wichtig sei, dass die KI lediglich unterstütze. Ein System, das die eigentliche Arbeit des Richtens übernähme, wäre eine „Dystopie“ und spräche sowohl gegen das Grundgesetz als auch das Berufsethos der Justiz.
Grundgesetz als Bollwerk gegen den KI-Richter
Klaus Meyer-Cabri bestätigte, dass das Grundgesetz verhindere, dass die KI selbst richten werde. Das Richteramt sei dem Menschen anvertraut und juristische Entscheidungen ihm vorbehalten. Anders sehe es im Bereich der Verwaltung aus, wo die KI zum Beispiel Einladungen vorbereiten könne. Allerdings seien die aktuellen Chatbots noch nicht so weit, die Gedankenwelt der Rechtsprechung zu verstehen, was die praktische Anwendung einschränke.
Einführung der E-Akte bindet Ressourcen
Martin Rollinger berichtete, dass es in der Justiz zwar eine große Akzeptanz für neue Ideen gebe, diese Vorschläge aber erst einmal eher gesammelt würden, bis die Einführung der E-Akte in zwei bis drei Jahren hoffentlich abgeschlossen sei. Dabei falle auf, dass die elektronischen Akten immer dicker würden. Das werfe die Frage auf, wer das alles lesen solle.
Wo beginnt die Entscheidungsrelevanz von KI?
Dr. Nadine Lilienthal betonte, dass KI Korrelationen, also Wahrscheinlichkeiten erkenne, nicht aber Kausalitäten, das heißt Ursache und Wirkung, nachempfinden könne. Entscheidend sei zu klären, bis zu welchem Punkt KI nur unterstütze und wo sie anfange, die Entscheidung des Richters zu beeinflussen. Dies sah auch Isabelle Biallaß als offenen Streitpunkt. Irgendwann müsse es eine obergerichtliche Entscheidung hierzu geben, die dann hoffentlich nicht besage, dass man bereits zu weit gegangen sei.
Mögliche Spielräume für Erleichterungen durch KI
Prinzipiell müsse ein Richter die Prozessakte einmal komplett lesen, so Biallaß. Während die Beweisführung und juristische Würdigung ureigenste richterliche Aufgaben seien, wäre es eine große Erleichterung, wenn definitiv bekannte Textbausteine nicht jedes Mal erneut gelesen werden müssten. Auch eine Prüfung bereits ausformulierter Entscheidungen im Nachhinein durch vorgabenkonforme Large-Language-Models könnte eine große Hilfe für die Richter sein.
Gefahr von Bias
Laut Biallaß bestehe auch die Gefahr eines Bias, also der Übernahme von Vorurteilen durch die KI. Hintergrund ist, dass diese mit den realen Daten der Vergangenheit trainiert werde, die selbst von menschlichen Vorurteilen beeinflusst sein können. Die Fähigkeit zur Selbstreflexion gehe der Maschine dabei ab. Je mehr sich der Mensch von der KI unterstützen lasse, desto größer sei das Risiko, deren Arbeit im Falle einer großen Arbeitsbelastung nur noch „abzunicken“.
Rechts-KI benötigt mehr Trainingsdaten
Die Fähigkeiten der KI steigen und fallen mit der Datenlage. Diese sei laut Klaus Meyer-Cabri in Deutschland viel zur gering, die Systeme lernten „mit einem winzigen Ansatz“. Erforderlich sei der Aufbau einer entsprechenden Datenbank, um überhaupt erst die Voraussetzungen für eine KI-Unterstützung zu schaffen. Hierbei gelte es allerdings auch den Datenschutz zu wahren, sprich sensible Informationen zu schwärzen. Evtl. wäre auch das eine Aufgabe für die KI.
Anwaltschaft als Treiber des KI-Einsatzes
Dr. Nadine Lilienthal sah denn auch die Anwältinnen und Anwälte als Innovationstreiber in Sachen KI. Im Gegensatz zur Richterschaft müssten sie keine Entscheidungen treffen – dies sorge für mehr Flexibilität, um neue Tools jetzt zu nutzen. Die Frage sei, wie es gelingen könne, dass die Justiz hiermit Schritt halte.
Effizienzmaximierung ist der Schlüssel
Hieran anschließend führte Martin Rollinger die Überlastung der Justiz auch auf die „industrialisierte Prozessführung“ der Anwaltschaft zurück. Wichtig sei, die vorhandenen Prozesse durch KI-Tools im Nichtentscheidungsbereich effizienter zu machen. Legal-Tech-Kanzleien sollten direkt die ohnehin vorliegenden Datensätze einreichen, die eine automatisierte Texterstellung ermöglichen. Es gebe „jede Menge kleine Hilfsmöglichkeiten“, die zusammenwirkten.
Problembewusstsein vorhanden
Vom Moderator Burkhard Plemper befragt bestätigte das Publikum die Fülle der Daten als Herausforderung: So hieß es, man müsse ja nicht immer alles ans Gericht übersenden. Allerdings sei man auch angehalten, in jedem Prozess umfassend zu informieren. Sei das Material nicht ausreichend, werde dies durchaus von der Justiz angemahnt. Eine Richterin ergänzte, dass es ihr vor allem auf die Struktur ankomme. Hier schien sich das Publikum einig zu sein und dabei, dass die Gerichte aktiv eine sinnvolle Strukturierung einfordern sollten. Bisweilen schaukelten sich die Anwälte auch gegenseitig hoch beim Umfang ihrer Einreichungen.
Es geht auch um die Digitalisierung
Plemper stellte fest, dass es eine Zweigleisigkeit von technischer und Kommunikationsherausforderung gebe. Isabelle Biallaß betonte, dass es auch noch darum gehe, die Digitalisierungslücke zu schließen. Sobald dies geschehen sein werde, habe man auch die benötigten Datensätze und könne diese einfach miteinander austauschen. Das sei nicht einmal ein KI-Thema.
Mehr auf die Vorteile fokussieren
Klaus Meyer-Cabri betonte, dass trotz der Herausforderungen bereits viel passiere und es vorangehe. Der Blick über die Grenzen zeige, dass andere Länder zuerst die Vorteile sähen. Wir müssten viel offener sein. Dass KI-Tools nicht alle Probleme im Alleingang lösen, sei klar. Sein Appell: Fangen wir doch erst einmal an!
KI hilft, ist aber (noch) nicht fehlerfrei
Martin Rollinger bestätigte, dass KI mit Blick auf Urteile oft als Zukunftsmusik bezeichnet werde. Die Frage sei aber, wo man sie heute schon nutzen könne. Wenn bisherige Anwendungen mit „alter“ Technik zuverlässiger liefen, könne man einfache Qualitätsprüfungen in die KI einbauen. Dass es sich lohne, zeigten die automatischen Übersetzungen, die „eine der größten KI-Erleichterungen der letzten Jahre“ gewesen seien. Selbst wenn es noch zu Fehlern komme, sei die Bearbeitung einschließlich Korrektur schneller als frühere Prozesse. Die „Angstdiskussion“ über das, was KI irgendwann könne, verbaue Lösungen.
Was hat der Verbraucher davon?
Aktuell gehe es laut Dr. Nadine Lilienthal in erster Linie darum, den Status quo zwischen Rechtsanwälten und Justiz zu erhalten. Im zweiten Schritt solle das System dann verbessert werden. In Bezug auf das Schwärzen von Akten zur Veröffentlichung ergänzte sie, dass es auch hier eine Fehlerquote gebe, die noch zu beheben sei. Isabelle Biallaß verwies auf das bayerische Projekt LeAK, das hierbei bereits besser als der Mensch sei. Aber es gelte wieder einmal, dass wir an KI, anders als an Menschen, auf einmal sehr hohe Erwartungen stellten, anstatt einfach zu handeln.
Rechtsgebiete für den KI-Einsatz
Auf die Frage, ob es Rechtsgebiete gebe, die für KI besonders geeignet oder ungeeignet seien, unterstrich Biallaß, dass immer dann besondere Vorsicht geboten sei, wenn es um schutzbedürftige Personen gehe. Dies betreffen beispielsweise das Strafrecht und das Sozialrecht. Dies liege wie zuvor geschildert daran, dass die KI Wahrscheinlichkeiten errechne, die aus den Trainingsdaten stammen. Der Vorbehalt gelte somit auch für Unterstützungstätigkeiten der KI. Andernfalls würden vorhandene Vorurteile verstärkt.
Informationsanspruch der Bevölkerung
Auf Nachfrage aus dem Publikum stellte Biallaß dar, dass die Datenbanken von den Ländern gepflegt werden. Was auf den bekannten Portalen wie juris, Beck und Wolters Kluwer veröffentlicht werde, sei auch in den Ländern verfügbar. Generell habe der Bürger laut Urteil des Bundesgerichtshofs einen Anspruch auf die Einsehbarkeit relevanter Urteile
Klare Regeln und auch Verbesserung im Kleinen
Abschließend fragte Moderator Burkhard nach etwaigen politischen Forderungen zum Thema. Martin Rollinger konstatierte, dass man klare Regeln brauche, wo KI eingesetzt werden dürfe, und ob der tatsächliche oder der idealisierte Mensch der (Qualitäts-)Maßstab sei. Laut Dr. Nadine Lilienthal sei es wichtig, gleichzeitig auf die KI und bestehende Prozesse zu schauen, um mit kleinen, praktischen Veränderungen zu beginnen, die schon viel brächten. Isabelle Biallaß lobt den engen Austausch zwischen Bund und Ländern.
Gesetze und Umsetzung zusammendenken
Klaus Meyer Cabri reflektierte, dass neben dem Gesetz jetzt auch die Umsetzung mitgedacht werde. Das sei neu. Bereits die Vermeidung rechtlicher Hürden helfe. Das Recht solle leicht zugänglich sein.