„Zuhören – Mitreden!“: KI und Rechtspflege – Status und Ausblick

EINBLICK IN DIE BAYRISCHE JUSTIZ

„Alles, was den Prozess effizienter und effektiver macht, soll im Vordergrund stehen“ (Bettina Mielke)

Dr. Mielke ist nicht nur Juristin, sondern auch studierte Informatikerin, und steht damit an der Schnittstelle zwischen Recht und Technologie. Zu der Frage, wie der Stand der Digitalisierung der Justiz in Bayern ist, führt sie aus, dass bereits ca. 85 Prozent der Zivilverfahren als elektronische Akte geführt werden. Bis 2026 wird erwartet, dass alle Verfahren als E-Akte geführt werden.

Dr. Mielke sieht eine große Notwendigkeit für die Verwendung digitaler Mittel in der Justiz. Dies sei erkannt worden, so dass erste Projekte ins Leben gerufen wurden. In Ingolstadt seien drei digitale Strukturierungstools erfolgreich getestet worden. Diese Entwicklung sei insbesondere dem Umstand geschuldet, dass die Gerichte am Audi-Hauptsitz auch mit einer entsprechend hohen Zahl an Dieselklagen konfrontiert wurden. Schwerpunkt der getesteten Tools habe dabei ganz klar auf die Extraktion von Metadaten gelegen. Ein Einsatz von KI finde noch nicht statt und werde derzeit auch noch nicht in Aussicht gestellt.

Der Begriff der KI wird derzeit laut Dr. Mielke inflationär verwendet. Durch die KI-Verordnung (auch AI Act) erwartet sie, dass die Verwendung des Begriffs abnehmen wird. Grund dafür sei, dass Unternehmen angesichts der in Aussicht gestellten Regulierungsmaßnahmen vorsichtiger mit den damit verbundenen Begrifflichkeiten umgehen würden.

Dr. Mielke beteuert, dass die erfolgreiche Digitalisierung der Justiz nicht von dem Einsatz künstlicher Intelligenz abhängt. Es müsse generell geschaut werden, wo Prozesse grundsätzlich effektiver gestaltet werden können, auch ohne es auf den Einsatz von KI ankommen zu lassen.

DATENSCHUTZRECHTLICHE FRAGEN UND DIE KI-VERORDNUNG

Dr. Auer-Reinsdorff greift die Ausführungen von Dr. Mielke auf, um auf die möglichen Auswirkungen der KI-Verordnung (auch AI Act) einzugehen. Ein aus ihrer Sicht entscheidender Aspekt des AI Acts ist, dass die Datenschutzgrundverordnung unberührt bleiben soll.

„Beim Datenschutz hat die KI-Verordnung eine Chance verpasst“ (Isabell Conrad)

Frau Conrad hebt die durch die Veröffentlichung von ChatGPT eingetretene Disruption hervor. In absehbarer Zeit würden dadurch bestimmte Berufsgruppen gänzlich wegfallen, während andere grundlegend verändert werden würden. Sie erinnerte sich dabei an das Zitat, dass KI nicht Kanzleien ersetzen würde, sondern Kanzleien, die KI einsetzen, Kanzleien ersetzen würden, die keine KI einsetzen.

Die große Aufgabe für Deutschland und die EU sieht Frau Conrad darin, KI zu entwickeln, die EU- und deutsche Grundrechte und Grundprinzipien wahrt. Eine entsprechende KI müsste dabei zugleich ethisch sein und dennoch Kompetenzen aufweisen, die auf internationalem Niveau konkurrenzfähig sind. Das wesentliche Problem besteht dabei jedoch darin, dass die Entwicklung starker KI-Modelle für autokratische und zentralistische Staaten deutlich leichter ist, da sie auf große Mengen von Datenbeständen zurückgreifen können, ohne entsprechende (Schutz-)Rechte möglicher betroffener Personen berücksichtigen zu müssen.

Beim Datenschutz sieht Frau Conrad eine durch die KIVerordnung verpasste Chance. Die Datenschutzgrundverordnung sei schließlich eine „Grundverordnung“ und lasse spezialgesetzliche Regelungen durchaus zu. Hier hätte es, so Frau Conrad, einer Konkretisierung im Entwurf durch die Kommission bedurft. Da der AI Act jedoch deutlich vor Veröffentlichung von ChatGPT und der rasanten technologischen Entwicklung konzipiert wurde, seien eingangs entsprechende Fragestellungen nicht hinreichend durchleuchtet worden. Die größte Schwierigkeit mit Blick auf die KI-Verordnung und die DSGVO sieht Frau Conrad in der praktischen Handhabung des Datenschutzes. Den Hintergrund bilde dabei die starke Ausdehnung des Anwendungsbereichs der DSGVO durch die Rechtsprechung des EuGH.

EINE PRAKTISCHE PERSPEKTIVE

„Manchmal kriege ich ausgedruckte PDFs als Datensatz“ (Maria Börner)

Dass die Herausforderung bei der Entwicklung von KI-Modellen klar in der Handhabung des Datenschutzes liegt, sieht auch Dr. Börner. Aus der praktischen Sicht hängt die Entwicklung stark von der Qualität und der Menge der zum Training verfügbaren Daten ab. Um diese Bedeutung zu verdeutlichen, erklärt Dr. Börner den Unterschied zwischen herkömmlicher Software-Entwicklung und KI-Entwicklungsprojekten. Bei der herkömmlichen Entwicklung gehe es an erster Stelle um den Aufbau einer Infrastruktur zur Verarbeitung von Daten.

Bei KI-Projekten hingegen liege der Fokus auf den Daten selbst. Daher benötige die KI-Entwicklung Datensätze, die gleich oder ähnlich strukturierte Daten enthalten. Das Hauptproblem hier bestehe jedoch darin, dass es an den erforderlichen Datensätzen fehle. Als Anekdote aus ihrem Alltag erzählt Frau Dr. Börner, wie ihr Kunden teils ausgedruckte PDFs als Datensätze aushändigen.

Durch die Frage nach dem Datenschutz bei der Entwicklung von KI-Tools und die damit einhergehende rechtliche Prüfung des Vorhabens verlängern sich Projekte oft um mehrere Monate, bis es zu einer Entscheidung kommt, so Dr. Börner. Oft sei die Entscheidung am Ende negativ, da das Projekt durch die Entscheidungsträger der Kunden vor dem Hintergrund des Gesamtaufwands als zu kompliziert empfunden werde. Besonders wichtig sei es daher, dass Regulierungen klar und verständlich sind, damit der zur Umsetzung benötigte Aufwand gering bleibe.

Wie Dr. Mielke geht auch Dr. Börner davon aus, dass es in erster Linie auf die Optimierung der Prozesse und nicht auf den Einsatz von KI ankomme. Oft reichen schon Optimierungen der Benutzeroberfläche (UI) und Benutzererfahrung (UX) aus.

DER ROBORICHTER KOMMT NICHT

Wenn es um KI-Projekte in der Justiz geht, spricht Dr. Börner von „human in the loop“ – der menschlichen Einbindung in den KI-Prozess – und nicht vom Roborichter. Im Vordergrund soll KI als Unterstützung und nicht als Ersatz dienen und stets der menschlichen Kontrolle unterliegen.

„KI ist in der Justiz noch nicht wirklich praktiziert oder geplant“ (Martin Müller-Follert)

Hierauf geht Dr. Müller-Follert ein und verweist zunächst auf Art. 92 GG, aus dem sich ergibt, dass die Rechtsprechung Richterinnen und Richtern anvertraut ist. Daraus ließe sich klar herleiten, dass der Mensch im Mittelpunkt stehe und es daher auch keine Roborichter geben dürfe. Damit die Richterinnen und Richter ihren Aufgaben gerecht werden und insbesondere den substanziellen Anspruch auf effektiven Rechtsschutz in Art. 19 Abs. 4 GG sichern können, müssen sie klar sorgsam mit dem umgehen, was ihnen anvertraut wurde, während sie gleichzeitig ihre Aufgaben in angemessener Zeit erledigen. Um dies zu gewährleisten, sieht Dr. Müller-Follert die Verwendung digitaler Tools als notwendig an. Insbesondere mit Blick auf die Waffengleichheit zwischen Justiz und Anwaltskanzleien, die in Massenverfahren große, teils automatisiert erstellte Schriftsätze einreichen, ist diese Ansicht klar nachvollziehbar.

In Berlin sollen daher Tools zur Extraktion von Metadaten und zur Strukturierung und Zuordnung des Parteivortrags zum Einsatz kommen. Diese Tools setzen jedoch keine KI ein. Der Einsatz von KI sei derzeit auch noch nicht geplant. Ein Grund dafür sei auch, dass die E-Akte noch nicht flächendeckend eingeführt ist und es somit bei der Digitalisierung entsprechende andere Baustellen gibt.

Den künftigen Einsatz von KI sieht Dr. Müller-Follert bei der Umsetzung des derzeitigen Gesetzgebungsverfahrens zur Dokumentation der Hauptverhandlung im Strafprozess als unbedingt erforderlich an. Eine Transkription des Hauptverhandlungsprotokolls werde ohne den Einsatz von LLMs nicht funktionieren können. Bedingt sei dieser Umstand unter anderem auch durch den sich immer weiter zuspitzenden Fachkräftemangel. Damit eine entsprechende KI entwickelt und flächendeckend eingesetzt werden könne, bedürfe es jedoch der engen Zusammenarbeit aller Bundesländer.

Die Veranstaltung wurde aufgezeichnet und kann auf der Website des Berliner Anwaltsvereins eingesehen werden.