Kommt KI in die Gerichte?
Zum Stand der Entwicklung
Die jüngsten Entwicklungen um ChatGPT haben gezeigt, dass die Technologie bereit ist, Jurist:innen aktiv zu unterstützen. Dennoch wird KI in Gerichten derzeit aufgrund zahlreicher Hürden nur selten eingesetzt.
Die Nachrichten über künstliche Intelligenz überschlagen sich. KI-Systeme wie ChatGPT werden mit jedem Update besser und dessen Benutzerfreundlichkeit steigt mit dem GPT-Store oder den Schnittstellen. Verschiedene Produkte für Anwält:innen nutzen ChatGPT bereits als Unterstützung, um Inhalte von Dokumenten zusammenzufassen, Informationen zu extrahieren oder auch neue Textbausteine zu generieren. Der geschulte Blick von Anwält:innen erkennt dabei schnell, wenn ChatGPT z.B. Urteile oder Gesetze erfindet (Halluzination) und kann diese direkt korrigieren.
Bei dieser Erfolgsgeschichte der KI stellt sich die Frage, wann Gerichte davon profitieren können.
Zunächst ist festzuhalten, dass der Einsatz von Systemen wie ChatGPT in Gerichten nicht ohne Weiteres möglich ist. Gründe hierfür sind u.a. Bedenken hinsichtlich der eigenen Ersetzbarkeit, der Vereinbarkeit mit datenschutzrechtlichen Regelungen und berufsbezogenen Pflichten, aber auch Haftungsfragen, mangelnde Transparenz und Nachvollziehbarkeit.
KI-ANWENDUNGEN IN GERICHTEN
Wenn KI in Gerichten eingesetzt werden soll, müssen KI-Modelle gebaut werden, die genau den Anforderungen der Gerichte entsprechen. Die Verwendung eines frei verfügbaren (Open Source) KI-Modells, das lokal in Gerichten eingesetzt wird, würde den Datenschutzanforderungen entsprechen. Es gibt bereits erste Projekte und Produkte, die den Einsatz von KI in Gerichten ermöglichen. Zu nennen ist hier zum Beispiel die semantische Textanalyse (STAN), die Informationen wie Prozessbeteiligte, Aktenzeichen, Dokumententyp etc. erkennt (Name-Entity-Recognition, NER). Diese Technologie kann dann genutzt werden, um Metadaten aus (un)strukturierten Dokumenten zu extrahieren, gegebenenfalls zu anonymisieren, automatisch weiterzuleiten oder den Akten zuzuführen. Insbesondere bei der Veröffentlichungspflicht von Urteilen, die momentan aufwendig manuell durchgeführt wird, kann eine KI-gestützte Anonymisierung eine große Unterstützung sein.
HERAUSFORDERUNGEN FÜR DIE JUSTIZ
Trotz der bereits vorhandenen Technologie stockt der Einsatz in den Gerichten, da die Basis für KI immer digitalisierte Daten sind. Erst dann kann ein KI-Projekt gestartet werden. Damit wird deutlich, dass zunächst die Einführung der eAkte abgeschlossen sein muss, bevor KI überhaupt zum Einsatz kommen kann (bis Ende 2025). Danach erst können die KI-Modelle an die Daten angepasst werden. Die derzeit frei verfügbaren juristischen KI-Modelle wurden zumeist auf öffentlich zugänglichen Justizdaten trainiert, in denen Personen, Orte und Organisationen unterrepräsentiert sind und daher die Erkennungsrate von personenbezogenen Daten geringer ist als bei überrepräsentierten Entitäten wie Normen, Gesetzen und Gerichten. Gerade hier ist aber eine hohe Erkennungsrate entscheidend, um eine vollständige Anonymisierung zu gewährleisten.
Eine Verbesserung kann nur durch ein KI-Training mit Echtdaten eintreten. Diese können aber nur verwendet werden, wenn es datenschutzrechtlich abgeklärt ist und zuvor eine Anonymisierung stattgefunden hat. Hier befinden wir uns in einem Dilemma: Keine KI zur Anonymisierung ohne vorherige Anonymisierung der Daten. Der erste Schritt der Anonymisierung muss daher datenschutzkonform erfolgen und manuell oder durch eine generische KI durchgeführt werden. Eine generische KI benötigt aber eine manuelle Nachkontrolle, da deren Erkennungsrate bei ca. 70 Prozent liegt.
DER EU AI ACT KOMMT
Neben den datenschutzrechtlichen Implikationen kommt nun auch die europäische KI-Regulierung, die den Einsatz von KI in Gerichten als Hochrisiko-KI einstuft. Damit ergeben sich zusätzliche Hürden wie erhöhte Dokumentationspflichten, Konformitätserklärung, CE-Kennzeichnung, Risikomanagement, Kontrolle der Daten und Infrastruktur und vieles mehr. Der Anwendungsfall KI in der Justiz wird damit für Start-ups und kleine Unternehmen, die bisher Innovationstreiber waren, finanziell und rechtlich immer unattraktiver.
Zusammenfassend lässt sich festhalten, dass neben der Digitalisierung weitere regulatorische Herausforderungen auf die Justiz und den Einsatz von KI in der Justiz zukommen werden. Erst wenn die regulatorischen Rahmenbedingungen eindeutig sind, kann Innovation durch den Einsatz von KI in Gerichten vorangetrieben werden.
