Der Sachverständigenrat für Verbraucherfragen (SVRV) hat sein Gutachten „Verbraucherschutz im Agentic Commerce – KI-Agenten als Herausforderung für die Verbraucherpolitik“ an das Bundesministerium der Justiz und für Verbraucherschutz übergeben. Die Untersuchung beleuchtet den Wandel von reaktiven Chatbots hin zu autonomen KI-Agenten im Onlinehandel, die eigenständig Kaufentscheidungen vorbereiten, Produkte vergleichen sowie Verträge schließen, kündigen oder widerrufen. Laut Prognosen könnte im Jahr 2030 bereits jeder siebte Online-Einkauf über solche KI-Systeme abgewickelt werden. Aus Sicht des Datenschutz- und Compliance-Rechts stellt dieser Wandel das bisher rein menschenzentrierte Verbraucherrecht vor neue Fragen, da automatisierte Entscheidungen tradierte Schutzkonzepte herausfordern.
Agentic Commerce: Herausforderungen durch autonome KI-Systeme
Bisherige Anwendungen Künstlicher Intelligenz im E-Commerce dienten primär der Suchunterstützung oder der direkten Kundenkommunikation. Autonome KI-Agenten, auch als „Custobots“ bezeichnet, hingegen führen komplexe Aufgaben zielgerichtet und ohne dauerhafte menschliche Steuerung aus. Die Weiterentwicklung zur agentischen KI im Kundenservice und Onlinehandel führt zu rechtlichen Fragen. Die Verringerung von Transaktionskosten und kognitiver Überlastung auf Verbraucherseite steht Risiken wie algorithmischen Verzerrungen, neuen Informationsasymmetrien und dem Verlust der Entscheidungsautonomie gegenüber. Der SVRV betont, dass verbraucherpolitische Leitplanken gesetzt werden müssen, bevor sich agentische Systeme flächendeckend am Markt etablieren.
Rechtliche Zurechnung, Transparenz und der Schutz vor KI-Manipulation
Ein Schwerpunkt des Gutachtens liegt auf der Zurechnung von Willenserklärungen und der Haftung bei Fehlentscheidungen autonomer Systeme. Der SVRV empfiehlt, das Autonomierisiko primär der Sphäre der Systemanbieter zuzuweisen und je nach Grad der menschlichen Kontrolle zu differenzieren. Diese Empfehlung fügt sich nahtlos in die jüngste Rechtsprechung zur Zurechnung von KI-Aussagen ein. So stellte das Oberlandesgericht Hamm klar, dass KI-Chatbots organisatorisch dem Betreiber zugerechnet werden und Unternehmen für deren Falschaussagen vollumfänglich haften. Ergänzend fordert der SVRV erweiterte Transparenzgebote für die algorithmische Entscheidungslogik sowie ein zweistufiges Informationsmodell mit maschinenlesbaren Daten für KI-Systeme. Zudem wird vor Manipulationsrisiken durch anthropomorphe Gestaltungsmerkmale und Deceptive Patterns gewarnt, welche die freie Entscheidung beeinträchtigen können.
Integration des Verbraucherschutzes auf der Protokollebene
Da Transaktionen im Agentic Commerce künftig vermehrt über technische Softwareschnittstellen (APIs) anstelle klassischer grafischer Benutzeroberflächen abgewickelt werden, stoßen bisherige Regelungen wie gesetzliche Bestell- oder Kündigungsbuttons an ihre Grenzen. Der SVRV empfiehlt daher, verbraucherschutzrechtliche Vorgaben direkt in den sogenannten Protocol Layer zu integrieren. Dies betrifft auch die Bereitstellung maschinenlesbarer Daten, etwa über den Digitalen Produktpass zur Förderung nachhaltiger Konsumentscheidungen. Ähnliche Anforderungen an strukturierte Transparenz sind im Rahmen der KI-Verordnung bereits bei den Zusammenfassungen von Trainingsinhalten für KI-Modelle mit allgemeinem Verwendungszweck verankert.
Schlussfolgerungen und Handlungsbedarf für Unternehmen
Für Unternehmen, die KI-Systeme entwickeln oder im Kundenkontakt einsetzen, ergeben sich aus der aktuellen Rechtslage konkrete Compliance-Anforderungen. Da Fehlfunktionen oder fehlerhafte Chatbot-Aussagen rechtlich nicht auf die Technik abgewälzt werden können, müssen Betreiber wirksame technische Limits und menschliche Interventionspunkte verankern. Zudem sind Transparenzanforderungen nach der KI-Verordnung strikt einzuhalten und künftige Vorgaben zum Schutz vor Deceptive Patterns vorausschauend zu berücksichtigen. Unternehmen sollten ihre digitale Architektur darauf ausrichten, Kerninformationen in maschinenlesbarer Form bereitzustellen und faire Entscheidungsarchitekturen zu etablieren. Schließlich bleibt die Sicherstellung der gesetzlich geforderten KI-Kompetenz der Mitarbeitenden eine zentrale Voraussetzung, um Haftungsrisiken im betrieblichen Einsatz zu minimieren.
Fazit
Das Gutachten des Sachverständigenrats für Verbraucherfragen verdeutlicht, dass der Vormarsch autonomer KI-Agenten im E-Commerce eine Anpassung des rechtlichen Rahmenwerks erfordert. Weder das tradierte Informationsmodell noch rein designbasierte Schutzvorschriften reichen aus, um den Herausforderungen automatisierten Handelns gerecht zu werden. Für Unternehmen wird KI-Compliance damit zu einem zentralen Baustein der Corporate Governance, der neben Datenschutz und IT-Sicherheit auch die Haftungs- und Lauterkeitsfestigkeit eingesetzter KI-Systeme umfasst.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
