Der einfache Chatbot wird zunehmend von autonomen KI-Agenten abgelöst, die nicht mehr nur reaktiv auf Anfragen antworten, sondern eigenständig Ziele in digitalen Umgebungen verfolgen. Diese sogenannten „Custobots“ können komplexe Aufgaben wie Kaufentscheidungen planen und ausführen, was den E-Commerce grundlegend transformiert. Während diese Entwicklung erhebliche Effizienzgewinne verspricht, rücken gleichzeitig komplexe datenschutzrechtliche und haftungsrechtliche Fragestellungen in den Fokus der Aufmerksamkeit.
KI-Agenten im Einsatz: Visa startet agentisches bezahlen
Ein Schritt zur praktischen Umsetzung ist der aktuelle Start des „Agentic Ready“-Programms von Visa in Europa, an dem unter anderem die Commerzbank und die DZ Bank teilnehmen. Dieses Programm ermöglicht es Finanzinstituten, die Abwicklung von durch KI-Agenten initiierten Zahlungen unter realistischen Bedingungen zu testen, wobei Technologien wie Tokenisierung und biometrische Authentifizierung zur Absicherung der Transaktionen eingesetzt werden.
Parallel dazu hat der Digitalverband Bitkom ein Paper veröffentlicht, das 19 aktuelle Use-Cases für agentische KI im Bereich Customer Experience aufzeigt, die von der automatisierten Schadenregulierung bis hin zur Echtzeit-Leadqualifizierung reichen.
Rechtliche Zurechnung und Haftungsrisiken für Unternehmen
Aus rechtlicher Sicht bleibt die Autonomie dieser Systeme eine Herausforderung, da eine KI nach geltendem Recht keine eigene Rechts- oder Geschäftsfähigkeit besitzt. Erklärungen eines KI-Agenten werden daher grundsätzlich dem Unternehmen zugerechnet, das das System einsetzt, was bedeutet, dass Firmen für Verträge und Fehler ihrer KI vollumfänglich haften. Die Ausrede, dass ein Fehler allein auf die KI zurückzuführen sei, oder ein Haftungsausschluss in den AGBs ist in der Regel unwirksam. Unternehmen müssen daher präzise technische Limits und menschliche Interventionspunkte definieren, insbesondere bei irreversiblen Aktionen wie Zahlungen oder Vertragsabschlüssen, um einen Kontrollverlust zu vermeiden.
Kritische Stimmen und sicherheitstechnische Hürden
Trotz der technologischen Euphorie mehren sich kritische Stimmen aus Politik, Verbänden und der IT-Branche selbst. Die Signal-Präsidentin Meredith Whittaker warnt vor einem beispiellosen „Datenraubzug“, da KI-Agenten für ihre volle Funktionalität weitreichende Zugriffsrechte auf private Nachrichten, Kalender und Kreditkartendaten benötigen. Sogar OpenAI-Chef Sam Altman mahnt zur Vorsicht bei Aufgaben mit hohem Risiko, da die Gefahr von „Prompt Injection“ besteht, bei der Angreifer den Agenten durch versteckte Befehle manipulieren können. Zudem weisen Aufsichtsbehörden wie die spanische AEPD darauf hin, dass die Speicherfähigkeit der Agenten zu einer schleichenden, exzessiven Profilbildung führen kann, was den Grundsatz der Datenminimierung verletzt.
Bedeutung für die Unternehmensstrategie
Für Unternehmen bedeutet der Übergang zum Agentic Commerce, dass sie ihre digitale Strategie von der bloßen Überzeugung menschlicher Kunden auf die Interaktion mit KI-Agenten erweitern müssen, was neue Ansätze wie die „AI Agent Optimization“ (AAO) erfordert. Die klassischen Verbraucherschutzpflichten – etwa zu Preisen, Widerrufsrechten oder Transparenz bleiben die selben. Es gilt jedoch diese Informationspflichten so umzusetzen, dass sie für maschinelle Systeme lesbar sind, während gleichzeitig manipulative Designs gemäß dem geplante „Digital Fairness Act“ vermieden werden müssen. Agentic AI transformiert den E-Commerce, ohne die rechtlichen Grundprinzipien zu verändern: Unternehmen haften weiterhin für Handlungen ihrer Systeme. Entscheidend ist daher eine robuste KI-Governance mit klar definierten Autonomiegrenzen, Verantwortlichkeiten, technischen Zugriffsbeschränkungen und dokumentierten Entscheidungsprozessen. Datenschutz-Folgenabschätzungen und Governance-Strukturen müssen bei der Einführung solcher autonomen Systeme zwingend mitgedacht werden.
Fazit
Der Einsatz von KI-Agenten im E-Commerce bietet enorme Potenziale für die Automatisierung komplexer digitaler Aufgaben, ist jedoch untrennbar mit erheblichen Compliance-Risiken verbunden. Nur durch ein proaktives Risikomanagement und eine tiefgreifende Integration rechtlicher Leitplanken in die Designphase lassen sich die Vorteile dieser Technologie sicher nutzen. Wer die regulatorischen Anforderungen frühzeitig adressiert, sichert sich langfristig die digitale Souveränität über seine Datenströme.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
