Unsichtbare Macht im digitalen Markt

Die umfangreiche Verarbeitung personenbezogener Daten und der Einsatz komplexer algorithmischer Systeme führen dabei häufig zu Entscheidungen, deren Grundlagen für die Betroffenen nicht nachvollziehbar sind. Es fehlt an Transparenz hinsichtlich der verwendeten Daten und Kriterien, ein Phänomen, das als Black-Box-Problem¹Burrell, J. (2016). How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms. Big Data & Society, 3(1). bezeichnet wird. Dieser Wandel wirft grundlegende Fragen auf: Wie verändert sich die Stellung der Verbraucher:innen im digitalen Markt? Welche neuen Risiken entstehen durch automatisierte Praktiken? Und inwieweit ist der europäische Rechtsrahmen geeignet, Transparenz, Rechenschaftspflicht und wirksamen Schutz zu gewährleisten?

2. INTRANSPARENZ, MANIPULATION UND ALGORITHMISCHE RISIKEN

Diese Entwicklungen sind rechtlich keineswegs neutral. Der zunehmende Einsatz künstlicher Intelligenz und

automatisierter digitaler Dienste schafft neue, teils strukturelle Risiken für die Rechte der Verbraucher:innen. Im Zentrum steht die Intransparenz automatisierter Entscheidungen: Häufig bleiben sowohl die Entscheidungslogik als auch die maßgeblichen Kriterien für Ablehnungen, Preisgestaltung oder personalisierte Inhalte verborgen.

Hinzu treten Risiken fehlerhafter oder verzerrter Algorithmen, die, insbesondere bei fehlender wirksamer menschlicher Aufsicht, zu unfairen oder diskriminierenden Ergebnissen führen können. Die intensive Verarbeitung personenbezogener Daten verstärkt zudem Gefahren für Privatsphäre, Transaktionssicherheit und Betrugsanfälligkeit.

Diese Risiken manifestieren sich in wiederkehrenden problematischen Praktiken, etwa in manipulativen Gestaltungsmustern (dark patterns),²Dark patterns bezeichnen Gestaltungspraktiken von Benutzeroberflächen, die darauf abzielen, Nutzer:innen zu täuschen oder ihre freie und informierte Entscheidungsfreiheit zu beschränken. irreführender Personalisierung von Angeboten, intransparentem Influencer- Marketing, erschwerten Kündigungsprozessen sowie automatisierten Vertragsabschlüssen ohne informierte Zustimmung. Solche Phänomene verdeutlichen die Grenzen klassischer verbraucherrechtlicher Instrumente und machen eine kohärente europäische Regulierung erforderlich.

3. DIE EUROPÄISCHE ANTWORT: REGULIERUNG DES DIGITALEN MARKTS

Als Reaktion auf diese Herausforderungen hat die Europäische Union einen mehrschichtigen Regulierungsrahmen entwickelt. Die Datenschutz-Grundverordnung (Verordnung (EU) 2016/679 – DSGVO) verankerte umfassende Informations-, Auskunfts- und Kontrollrechte, während die Verordnung (EU) 2018/1725 (EU-Datenschutzverordnung für Organe und Einrichtungen der Union – EUDPR) die Rechenschaftspflicht als zentrale Leitlinie für die rechtmäßige Datenverarbeitung und den Einsatz automatisierter Systeme etablierte. Mit dem Rechtsakt über digitale Dienste (Digital Services Act, Verordnung (EU) 2022/2065 – DSA) wurden erweiterte Transparenz-, Aufsichts- und Risikobewertungspflichten für sehr große Online-Plattformen (Very Large Online Platforms – VLOPs)³Very Large Online Platforms (VLOPs) sind Online-Plattformen mit über 45 Millionen monatlich aktiven Nutzer:innen in der Europäischen Union, denen aufgrund ihrer systemischen Bedeutung eine besondere Verantwortung für die digitale Öffentlichkeit und das Konsumverhalten zukommt. eingeführt. Die praktische Bedeutung dieses Rahmens zeigt sich insbesondere in der Einstufung reichweitenstarker Plattformen als VLOPs und der Aktivierung verschärfter Pflichten zur Risikoanalyse und -minderung.

Von zentraler Bedeutung ist zudem die Verordnung (EU) 2024/1689 über Künstliche Intelligenz (AI Act), die erstmals unionsweit einen risikobasierten Ansatz normiert und erhöhte Anforderungen an Transparenz, menschliche Aufsicht und dokumentierte Compliance festlegt. Ergänzend dazu bestätigte die Europäische Kommission im Jahr 2024 im Rahmen der Neuen Verbraucheragenda den Anpassungsbedarf klassischer verbraucherrechtlicher Richtlinien (UCTD, UCPD, CRD)⁴Richtlinie 93/13/EWG über missbräuchliche Klauseln in Verbraucherverträgen (Unfair Contract Terms Directive – UCTD), Richtlinie 2005/29/EG über unlautere Geschäftspraktiken (Unfair Commercial Practices Directive – UCPD) sowie Richtlinie 2011/83/EU über die Rechte der Verbraucher (Consumer Rights Directive – CRD). an digitale Praktiken. Initiativen wie der Digital Omnibus⁵Der Digital Omnibus bezeichnet eine von der Europäischen Kommission verfolgte Omnibus-Initiative zur systematischen Abstimmung und Vereinfachung digital-regulatorischer Vorgaben, insbesondere im Zusammenspiel von DSGVO, DSA, AI Act und Verbraucherrecht. zielen dabei auf eine Reduzierung regulatorischer Komplexität und eine größere Vorhersehbarkeit der Compliance-Anforderungen ab.

Das Jahr 2025 markierte zudem ein Zwischenetappenziel der „Digitalen Dekade“⁶Die „Digitale Dekade“ fungiert als unionsweiter Politikrahmen zur Steuerung des digitalen Wandels bis 2030, der strategische Zielvorgaben in den Bereichen Kompetenzen, Infrastruktur, Unternehmensdigitalisierung und öffentliche Dienste bündelt. und ging mit einer weiteren Verdichtung des digitalen und verbraucherrechtlichen Rahmens einher, insbesondere durch den Ausbau alternativer und onlinebasierter Streitbeilegungsmechanismen (Alternative Dispute Resolution bzw. Online Dispute Resolution – ADR/ODR) sowie durch die verpflichtende Anwendung der Richtlinie (EU) 2019/882 (European Accessibility Act), der den Schutz von Verbraucher:innen in digitalen Märkten weiter vertieft.

4. VON DEN REGELN ZUR PRAXIS: VERANTWORTUNG UND DURCHSETZUNG?

Das Vorhandensein eines umfassenden europäischen Regelwerks garantiert nicht automatisch einen wirksamen Schutz. Der Fokus verlagert sich zunehmend von der Normsetzung hin zur praktischen Anwendung, Koordination und Durchsetzung, unter Beteiligung von Behörden, Unternehmen, Rechtsberufen und Verbraucher:innen selbst.

Für Unternehmen ist die Botschaft klar: Künstliche Intelligenz, Empfehlungssysteme und digitale Schnittstellen sind keine technisch neutralen Werkzeuge mehr, sondern Quellen erheblicher rechtlicher und regulatorischer Risiken. Gefordert ist ein Compliance-by-Design-Ansatz, der Verbraucherschutz bereits in der Entwicklungsphase digitaler Dienste verankert. Dies umfasst insbesondere die Dokumentation automatisierter Entscheidungen, die Überprüfung algorithmischer Preismechanismen sowie die Sicherstellung wirksamer menschlicher Aufsicht.

Verbraucher:innen treten dabei zunehmend als aktive Rechtsträger:innen mit erweiterten Informations- und Rechtsschutzmöglichkeiten auf. Parallel gewinnt die Rolle der rechtsberatenden Berufe erheblich an Bedeutung. Da algorithmische und gestalterische Entscheidungen digitaler Dienste unmittelbare rechtliche Wirkungen entfalten, wird die Ex-ante-Bewertung ihrer Rechtmäßigkeit und Folgen zu einem zentralen Bestandteil rechtlicher Praxis.

5. DAS RICHTIGE MASS IM DIGITALEN ZEITALTER

Im digitalen Ökosystem der Gegenwart stehen unbestreitbaren Effizienzgewinnen neue Macht- und Informationsasymmetrien gegenüber. Die wachsende Abhängigkeit von algorithmischen Entscheidungen schränkt Transparenz und tatsächliche Kontrollmöglichkeiten der Verbraucher:innen häufig ein.

Die zentrale Herausforderung besteht daher nicht darin, technologischen Fortschritt zu bremsen, sondern ihn rechtlich so zu rahmen, dass Innovation mit Transparenz, Fairness und Vertrauen einhergeht. Der europäische Regulierungsrahmen stellt hierfür inzwischen wirksame Instrumente bereit. Ihre Effektivität wird jedoch davon abhängen, wie konsequent sie in die Praxis digitaler Märkte integriert und durchgesetzt werden. Genau hierin liegt das richtige Maß des digitalen Zeitalters: in einem Markt, in dem der „Klick“ die Rechenschaftspflicht nicht ersetzt und algorithmische Entscheidungen unter wirksamer rechtlicher Kontrolle stehen.