Künstliche Intelligenz und Algorithmen in der Rechtsanwendung
Martin Kment / Sophie Borchert Künstliche Intelligenz und Algorithmen in der Rechtsanwendung Verlag C. H. Beck, 1. Aufl. 2022, 124 Seiten, Hardcover, 49,00 Euro, ISBN 978-3-406-78619-8
Man hört die Begriffe dauernd, aber was ist das eigentlich? „Schillernde Gegenwartsbegriffe“ nennen die Autorinnen das treffend. Das Buch erhebt den Anspruch, einen Überblick über den „substanziellen Nexus“ der Thematik zu liefern, so das Vorwort. Als ich das las, löste das bei mir etwas Stirnrunzeln aus, weil ich das nicht verstanden hatte und fürchtete, mich durch ein sprachlich abgehobenes Elfenbeinturmwerk mühen zu müssen. Aber (weitgehende) Entwarnung: Schon in Kapitel 1 findet man eine kurzweilig zu lesende Kurzfassung der unglaublichen Veränderungen, die die „Computertechnik“ in den letzten Jahrzehnten mit sich brachte. Und in Kapitel 2 gelingt es den Autorinnen, die informatorischen Grundlagen auf „Anfängerniveau“, aber hinreichend präzise darzulegen und Begriffe wie „Turing-Maschine“, „Neuronales Lernen“, „Maschinelles Lernen“ u. a. erklären.
Johannes Hofele | Rechtsanwalt | Fachanwalt für Steuerrecht | Sprecher des Arbeitskreises Mietrecht und WEG im BAV | www.breiholdt-legal.de
Exklusiv für Mitglieder | Heft 12/2022 | 71. Jahrgang
In Kapitel 3 stellen sie dar, in welchen Rechtsbereichen Algorithmen schon Einzug gehalten haben, etwa im Rahmen des automatisierten Verwaltungsverfahrens (§ 35 a VwVfG, das im Übrigen im dem Steuerrecht, basierend auf § 155 Abs. 4 AO, schon erstaunlich weit ist) und beleuchten andererseits kritisch das „predicitve policing“, ein Verfahren zur (vermeintlich möglichen) Voraussage von Straftaten bzw. Rückfallquoten. Das Kapitel befasst sich auch mit „Umweltschutz und Mobilität“ und zeigt auf, wo Systeme schon etabliert und wo sie in Entwicklung sind (Verkehrssteuerung, Verkehrsüberwachung und „digitale Mobilität“).
„Richtig juristisch“ wird es in Kapitel 4: Zunächst stellen die Autorinnen die Vor- und Nachteile „der Algorithmen“ dar und stellen dann zutreffend heraus, dass Algorithmen grundsätzlich nur Korrelationen ermitteln, aber nicht (auch) Kausalitäten. Daraus folgt – zwingend – dass die Entscheidungsprozesse der Algorithmen intransparent sind: Sie sind weder voraussehbar noch reproduzierbar. Für Juristinnen spannend zu lesen sind die Ausführungen zu den verfassungsrechtlichen Aspekten, also inwieweit das Demokratie und Rechtsstaatsprinzip, das Recht auf informationelle Selbstbestimmung und der allgemeine Gleichheitssatzsatz betroffen sind. In diesem Zusammenhang stellen sie auch einen extrem problematischen – erst in jüngster Zeit und mehr oder weniger zufällig entdeckten – Aspekt dar und finden sogar eine sehr treffende deutsche Bezeichnung hierfür: (Pseudo-) subjektive Verzerrungen, englisch „Bias“ genannt: Wird ein Bilderkennungsprogramm nur mit Fotos von hellhäutigen Menschen trainiert, kann es schon vorkommen, dass dunkelhäutige als Gorillas erkannt werden, wobei sich die Entwickler des Programmes dieses Problems anfänglich anscheinend überhaupt nicht bewusst waren. Aber Algorithmen können nicht nur diskriminierend, sondern auch, wieder bewusst oder unbewusst, manipulativ sein, auch dies ist sehr spannend zu lesen. Ein weiterer Schwerpunkt in diesem Kapitel ist Informationssicherheit, insbesondere der Datenschutz im Rahmen der DSGVO. Beim Thema Künstliche Intelligenz (KI) gilt: Je mehr Trainingsdaten zur Verfügung stehen, desto besser wird sie. Dieser von den Autorinnen mit der schönen Bezeichnung „gewaltiger Datenhunger“ versehene Zusammenhang hat unmittelbare Auswirkungen auf den Datenschutz. Inwieweit sind die Daten „personenbezogen“, helfen Anonymisierung und Pseudonyme, was ist der Unterschied? Erläutert wird auch, dass Datenschutz und Datensicherheit nicht das gleiche sind.
Das eigentliche Anliegen des Buches zeigt sich in Kapitel 5, in dem die Autorinnen Regulierungsmöglichkeiten für den Algorithmeneinsatz darstellen. Nach der Darstellung der Rahmenbedingungen der Regulierung prüfen bzw. stellen sie die Möglichkeiten präventiver, begleitender und repressiver Regulierung dar. Aus Sicht des Rezensenten wendet sich dieses Kapitel weniger an die Rechtsanwenderin, sondern an den Rechtssetzer bzw. auch und gerade an die Programmherstellerin. Aufschlussreich und spannend ist das aber alle Mal. Die Autoren sprechen sich für einen interdisziplinären Diskurs aus, um eine Regulierung mit Augenmaß erreichen.
Fazit: Das Buch verschafft einen guten Überblick über das, was hinter den Begriffen Künstliche Intelligenz und Algorithmus steht. Für die unmittelbare tägliche anwaltliche Arbeit lässt es sich zwar eher nicht nutzen, das ist aber auch nicht der Anspruch. Ich hätte mir manchmal eine etwas klarere Sprache gewünscht, lesenswert ist das Buch aber allemal. Und zwar vor allem für alle Juristin-nen, die schon immer einmal wissen wollten „Was heißt das eigentlich“ und sich bisher vor der Beschäftigung mit der Ausrede drückten: „Was geht mich das an?“. Denn eines wird klar und das geht alle an: Weil Algorithmen selbstständig lernen, kann man ihre Entscheidungsfindung nicht „verstehen“. Umso wichtiger ist es gerade auch für Anwältinnen, zu verstehen, warum das so ist und wie man damit – durch die von den Autorinnen zutreffend geforderte ausgewogene Regulierung – umgehen muss.
