Künstliche Intelligenz in der Justiz – Chancen, Risiken und Perspektiven

Auch einen häufigen Einwand nahm er vorweg, dass nämlich oft Bedenken geäußert würden, ob Digitalisierung und Justiz sich nicht ausschließen würden. In vielen Fernsehproduktionen würden bei Justizszenen immer noch Aktenwagen durch die Flure geschoben oder Berge von Akten auf den Richtertischen liegen. Das Gegenteil sei aber der Fall: Justiz und Digitalisierung schlössen sich gerade nicht aus. Maßgeblich seien die Daten, von denen genügend vorliegen, die aber strukturiert werden müssen. Ein erster Schritt sei getan, 90 Prozent der Gerichte in Brandenburg hätten schon die E-Akte, bis Jahresende seien 100 Prozent angestrebt. Im Übrigen gebe es schon KI-Anwendungen, etwa KI am Amtsgericht Königs Wusterhausen für die Bearbeitung der vielen Fluggastrechteklagen. Einen weiteren Einsatzbereich sieht er in der Texterstellung und verwies dazu auf die Arbeitsgruppe MAKi,¹Massenverfahrensassistenz mithilfe von KI“ – Nicht zu verwechseln mit dem MaKI Marktplatz der KI-Möglichkeiten der Bundesverwaltung: https://www.kimarktplatz.bund.de/Webs/MaKI/DE/startseite/startseiteartikel.html an der neben Brandenburg auch Niedersachsen, Hessen und Nordrhein-Westfalen beteiligt sind, sowie den bevorstehenden Start der Justiz-Cloud.

„Ein erster Schritt ist getan, 90 Prozent der Gerichte in Brandenburg haben schon die E-Akte, bis Jahresende sind 100 Prozent angestrebt“

Im zweiten Teil führte er zu einigen Grundlagen und Hintergründen zur generativen KI aus. Man durfte den Eindruck haben, dass er das auch tatsächlich selbst verstanden hat. Eine Anwendungsmöglichkeit der generativen KI könne z.B. die Einführung von Chatbots sein, die jungen Richterinnen und Richtern helfen könnte, sich in ein Rechtsgebiet einzuarbeiten. Interessant fand der Berichterstatter die Anmerkung, er habe den Eindruck, dass die Einführung der Chatbots nicht so die große Revolution sei, diese wäre eigentlich schon früher durch die Einführung der großen Datenbanken wie etwa juris oder beck-online eingetreten. Offenbar hat er tatsächlich Interesse an dem Thema, da er von verschiedenen Besuchen bei Unternehmen berichtete, die sich mit dem Thema beschäftigen.

Im dritten Teil ging es dann um den rechtlichen Rahmen: Klar sei, dass Entscheidungen letztendlich immer von Menschen getroffen werden müssten und nur von ihnen getroffen werden dürfen. Bei KI-Anwendung in der Justiz gehe es um Hochrisikoanwendungen, die durch entsprechende Schutzmaßnahmen abgesichert werden

müssen. Es müsse ein klarer gesetzlicher Rahmen vorgegeben sein. Er verwies dabei u.a. auf die KI-VO der EU und sprach auch das Arbeitspapier des DAV an, dem er allerdings – so der Eindruck des Berichterstatters – nicht in allen Teilen folgen mag.

Sodann ging er im vierten Teil auf die Probleme ein, und zwar zunächst darauf, wie KI auf Menschen wirkt. Hier verwies er auf zwei widersprüchliche Phänomene: Zum einen gebe es den „Automation Bias“, die Tendenz von Menschen, Ergebnisse von Computern ungeprüft zu übernehmen, auch wenn sie widersprüchlich sind. Auf der anderen Seite stehe die „Algorithm Aversion“: Menschen vertrauen Computern unter bestimmten Umständen weniger, selbst wenn diese Systeme nachweislich bessere oder objektivere Entscheidungen treffen als Menschen. Hier gehe es darum, das Konzept „Human in the loop“ hinreichend zu verankern, dass also die entscheidenden Schritte immer von Menschen geprüft und überwacht werden. Es dürfe eben keine Blackbox sein. Er sei aber optimistisch, dass es gelingen kann, diese Probleme zu lösen.

„Hier gehe es darum, das Konzept „Human in the loop“ hinreichend zu verankern, dass also die entscheidenden Schritte immer von Menschen geprüft und überwacht werden“

In der anschließenden Diskussion wurde natürlich sofort (wie immer in diesen Veranstaltungen) die Frage der Kontrolle der Entscheidungsfindung aufgeworfen. Erfreulicherweise wurde das Schlagwort „Robo Judge“ nicht genannt, sondern die Diskussion entspann sich auf hohem Niveau zur Frage, wie die menschliche Entscheidungsfindung bei Gerichtsentscheidungen – gerade im Strafrecht – sichergestellt werden könne und ob die im Vortrag genannten gesetzlichen Voraussetzungen ausreichend seien. Die Auffassungen, wie überprüfbar die Entscheidungen von generativer KI ist, gingen auseinander. Im Weiteren ging es auch um technische Fragen, etwa inwieweit die Digitalisierung bei der Tatbestandsfeststellung helfen könne: Ganz konkret wurde zum Beispiel die Frage aufgeworfen, dass der unstreitige Vortrag noch einigermaßen darstellbar sei, aber es nicht so einfach sei, den jeweils streitigen Vortrag korrekt zu extrahieren. Außerdem gebe es auch „schlechte“ Urteile, die dann auch in eine Datenbank einflößen, wenn sie ungeprüft übernommen würden. Als weitere Problematik wurde die Anonymisierung der Daten angesprochen. Die erforderliche Schwärzung der Urteile sei ja auch der Hintergrund, dass nur sehr wenige Urteile veröffentlicht werden, weil das für die Richterschaft bisher einfach zu zeitaufwendig ist. Andererseits ist das aber erforderlich, um eine hinreichende Datengrundlage für eine vernünftige Justiz-KI zu schaffen. Ein Anonymisierungstool könnte hilfreich sein. Auf Nachfrage ergab sich, dass auch in Brandenburg die Veröffentlichungsquote nur bei ca. einem Prozent liegt.

Auf die abschließende Frage, wie er die Dicke der Bretter einschätze, die er noch bohren müsse, um ein länderübergreifendes einheitliches System herzustellen, zeigte sich der Minister sehr optimistisch. Er habe den Eindruck, dass es bei allen Ländern angekommen sei, dass die technischen und personellen Anforderungen einfach zu groß und zu teuer seien, als dass ein Bundesland das alleine machen könne. Zum genauen Zeitpunkt des Startes der Justiz-Cloud wollte er sich nicht äußern, deutete aber an, dass er auf einen früheren Start hinarbeiten möchte als zuletzt im Raum stand.

Der Berichterstatter kann als Fazit der Veranstaltung durchaus feststellen, dass es sich hier nicht um eine Werbeveranstaltung gehandelt hat, sondern dass hier tatsächlich an der Sache gearbeitet wird. Die Fragen aus der Zuhörerschaft aus Justiz und Anwaltschaft zeigten aber auch die Vielzahl der Facetten auf, die zu bedenken sind. Aber da das Thema nicht mehr verschwinden wird, braucht es mehr solcher Veranstaltungen. Denn sie zeigte auch, dass noch viel Wissen über die Hintergründe, Funktionsweise und auch die Fähigkeiten der Technik – was kann sie und was nicht – vermittelt werden muss.