KI-Reallabore als Innovationstreiber
Ein Überblick über KI-Reallabore und eine Einordnung, was sie leisten müssen, um dieses Versprechen einzulösen
DAS DILEMMA VON KI UND REGULIERUNG
Die europäische KI-Verordnung wird seit dem ersten Entwurf stark kritisiert, sowohl bei der Definition, was ein KI-System ist, aber auch bei der Auslegung der Hochrisikobereiche. Ein weiterer Kritikpunkt bezieht sich darauf, dass zu den bestehenden Regulierungen eine weitere hinzukommt. Da der Erfolg von KI-Projekten maßgeblich von der Verfügbarkeit und Nutzung von Daten abhängt, kommen hier durch die Datennutzung unter anderem Datenschutz, Urheberrecht, Datengesetz, CLOUD-Act etc. zum Tragen. Gerade für Start-ups und mittelständische Unternehmen bedeutet dies einen enormen Aufwand bei der rechtlichen Prüfung und Umsetzung aller Anforderungen. Den zeitaufwendigen regulatorischen Hürden steht eine sich immer schneller entwickelnde Technologie gegenüber. KI-Projekte müssen von Beginn an durch rechtliche Expertise eingeordnet und alle entsprechenden Pflichten wie Dokumentationspflicht, Risikomanagement etc. durch die Projektbeteiligten erfüllt werden. Diese Pflichten sind notwendig, um den Einsatz sicherer und transparenter Systeme zu gewährleisten, führen jedoch dazu, dass die eingesetzte Technologie während der Erfüllung dieser Vorgaben bereits veraltet sein kann. In einem solchen Szenario sind sowohl die Technologie als auch die zugehörigen Dokumentationen erneut zu modifizieren, was zu einem Dilemma führt.

Dr. Maria Börner | Leitung des Kompetenzzentrums für KI bei Westernacher Solutions | https://westernacher-solutions.com/
EIN ÜBERBLICK ZU DEN KI-REALLABOREN DER KI-VO
Mit Inkrafttreten der KI-Verordnung der Europäischen Union werden bestehende regulatorische Pflichten durch zusätzliche Anforderungen erweitert. Die KI-Verordnung regelt die zu erfüllenden Pflichten und Anforderungen an KI nach einem risikobasierten Ansatz, der den Schutz öffentlicher Interessen wie Gesundheit und Sicherheit gewährleisten soll. Im Fokus der Kritik standen insbesondere die zusätzlichen aufwendigen Pflichten für Hochrisiko-KI-Systeme wie Qualitätsmanagement, Dokumentation, automatisierte Protokollierung, Registrierungspflichten, Konformitätserklärung und CEKennzeichnung. Um trotz der vielen Regulierungen und Pflichten im Zusammenhang mit KI-Projekten innovationsfähig zu bleiben, wurde das Kapitel VI mit Abs. 57 – 63 zur Innovationsförderung beschlossen. In diesem Kapitel wird im Art. 57 Abs. 5 unter anderem die Einrichtung von KI-Reallaboren beschrieben, die es ermöglichen, KI-Systeme in einer kontrollierten Umgebung zu entwickeln, zu trainieren, zu testen und zu validieren.
„Um trotz vieler Regulierungen bei KI-Projekten innovationsfähig zu bleiben, wurden KI-Reallabore beschlossen“
Ziel ist es, sowohl die Anwendungen als auch die regulatorischen Rahmenbedingungen zu testen. In Art. 57 Abs. 7 der Verordnung wird explizit die Bereitstellung von Leitfäden gefordert, um die regulatorischen Anforderungen und deren Erfüllung für die Projektbeteiligten verständlich zu machen. Gemäß Art. 57 Abs. 9 sollen diese Maßnahmen dazu beitragen, Innovation und Wettbewerbsfähigkeit in der Europäischen Union zu fördern, regulatorisches Lernen zu fördern und den Zugang zu KI-Projekten zu erleichtern und zu beschleunigen. Art. 57 Abs. 1 und 2 sehen vor, dass bis zum 2. August 2026 mindestens ein KI-Reallabor auf nationaler Ebene die Arbeit aufnehmen muss. Darüber hinaus können weitere KI-Reallabore auf regionaler und lokaler Ebene eingerichtet werden, um die Verfügbarkeit solcher Testumgebungen zu fördern.
DATENVERARBEITUNG IM KI-REALLABOR
Der Umgang mit personenbezogenen Daten innerhalb des KI-Reallabors wird in Art. 59 besonders hervorgehoben. So dürfen personenbezogene Daten innerhalb des KI-Reallabors zur Entwicklung, zum Training und zum Testen von KI-Systemen verwendet werden, wenn die KI-Projekte bestimmte Voraussetzungen erfüllen, wie z. B. die Wahrung des öffentlichen Interesses, und in einem der aufgeführten Bereiche entwickelt werden. Diese Bereiche sind beispielsweise die öffentliche Verwaltung, die Dienstleistungen, die Gesundheit oder (und) die Sicherheit. Zudem dürfen personenbezogene Daten nur dann verwendet werden, wenn sie nicht durch synthetische, anonymisierte oder andere Daten ersetzt werden können. Es versteht sich von selbst, dass bei der Nutzung personenbezogener Daten im Rahmen des KI-Reallabors auch das Datenschutzrecht der Union gilt. In diesem Zusammenhang müssen auch Kontrollmechanismen und Protokollierungen eingeführt werden, um die Rechte und Freiheiten der betroffenen Personen zu schützen. Zusammenfassend lässt sich sagen, dass KI-Reallabore eine Möglichkeit darstellen, KI-Projekte unter realen technischen und regulatorischen Bedingungen zu etablie ren, und somit eine Chance bieten können, Innovationen zu fördern. Die KI-Reallabore richten sich insbesondere an mittelständische Unternehmen und Start-ups, die als KI-Anbieter oder KI-Betreiber fungieren und so erste KI-Anwendungsfälle in Kooperation mit lokalen Institu tionen unter regulatorischen Rahmenbedingungen schneller entwickeln und erproben können.
AUS DEM LABOR ZU ECHTEN PROJEKTEN
Die Nutzung von Echtdaten bleibt jedoch kompliziert, da es zwar Ausnahmen für die Verarbeitung personenbezogener Daten gibt, diese jedoch durch die Anwendungsbedingungen stark eingeschränkt werden. In der Praxis von KI-Projekten zeigt sich genau hier die größte Hürde. Viele KI-Projekte werden gar nicht erst begonnen, weil insbesondere die datenschutzrechtlichen Rahmenbedingungen unklar sind und auch Bedenken hinsichtlich der Informationssicherheit eine große Rolle spielen. KI-Anbieter können daher nur kleine Testprojekte mit synthetischen Daten aufbauen, die in einer realen Umgebung oft nicht die erwartete Performance zeigen. Ein KI-Reallabor kann hier Abhilfe schaffen, allerdings nur, wenn die notwendigen Daten zur Verfügung stehen und das KI-Testsystem auf diesen Echtdaten weiterentwickelt und verfeinert werden kann. Die lokalen und regionalen KI-Reallabore sind daher verpflichtet, Echtdaten zur Verfügung zu stellen, die möglichst pseudonymisiert oder anonymisiert sind. Entscheidend ist, dass diese Daten vollständig, umfassend und vielfältig sind. Es genügt z. B. nicht, anonymisierte Urteile zur Verfügung zu stellen, sondern es müssen ganze Akten mit den dazugehörigen Anlagen und Schreiben zur Verfügung gestellt werden, um einen echten Mehrwert für alle Beteiligten zu schaffen. Abgesehen davon, dass die E-Akten anonymisiert werden müssen, ist es wichtig, verschiedene Daten zu haben, die fehlerhaft oder unvollständig sind, um die Realität abzubilden. Will man beispielsweise mittels KITechnologie direkt auf Formfehler im Posteingang von Anwaltskanzleien oder Gerichten aufmerksam machen, so benötigt man positive und negative Beispiele, um eine solche KI zu trainieren. Auch die Zahl der Beispiele spielt eine Rolle. Es reicht nicht aus, wenn das KI-System nur ein Negativbeispiel hat, sondern es müssen möglichst viele gesammelt werden.
KI-REALLABOR ALS INNOVATIONSVORTEIL?
Die Bereitstellung unterschiedlicher Daten ermöglicht nicht nur die Weiterentwicklung bereits bestehender Anwendungen, sondern auch die Entwicklung neuer Ideen, die einen Mehrwert bieten. Dies bringt wiederum einen Innovationsvorteil mit sich. Ein weiterer wichtiger Punkt, der bei KI-Reallaboren neben den Daten von enormer Bedeutung ist, ist die Rechenleistung. Da sich das KI-Reallabor in einer geschützten Umgebung befindet und die Daten dort verbleiben sollen, muss eine entsprechende Rechenleistung zur Verfügung stehen. Für KI-Systeme, die beispielsweise Namen aus Texten extrahieren (Name-Entity-Recognition), reichen einfache Rechner aus, während für generative KI-Systeme sogenannte Hochleistungsrechner benötigt werden. Fehlen diese Ressourcen, sind die Anwendungen in den KI-Reallaboren stark eingeschränkt und können ihr volles Potenzial nicht ausschöpfen.
„KI-Reallabore bringen einen Innovationsschub, wenn diese Daten und die technische Infrastruktur bereitstellen“
Zusammenfassend kann gesagt werden, dass KI-Reallabore einen großen Innovationsschub bringen, wenn die notwendigen Mittel und Ressourcen für die regulatorische Beratung, die Bereitstellung von Daten und den Aufbau einer ausreichenden technischen Infrastruktur bereitgestellt werden. Dabei muss klar sein, dass es sich bei einem KI-Reallabor um eine Kooperation zwischen Institutionen wie Behörden und KI-Anbietern handelt und nicht um eine kostengünstige Alternative zur regulatorischen Beratung. Es ist unerlässlich, dass alle Beteiligten ihre Hausaufgaben erledigen. Wenn KI-Anbieter und -Institutionen diese Möglichkeit nutzen, um KI-Anwendungen zu testen und zu entwickeln, während sie die regulatorischen Anforderungen erfüllen und ein Gleichgewicht zwischen Compliance und Innovation wahren, sind KI-Reallabore ein Erfolgsfaktor für Europa.