Recherchen des Datenschutzunternehmens Redact haben offengelegt, dass Meta auf den Hilfeseiten von WhatsApp verborgene Anweisungen für sein Large Language Model (LLM) hinterlegt hatte. Diese im Quellcode verankerten System Prompts wiesen den integrierten Support-Chatbot gezielt an, Nutzerinnen und Nutzern bei bestimmten Anfragen Informationen über Aufsichtsbehörden sowie Verweise auf Datenschutzgesetze vorzuenthalten. Der Vorfall wirft grundlegende Fragen zur Governance, Compliance und Transparenz beim Einsatz von Künstlicher Intelligenz im Kundenservice auf.
Welche Anweisungen wurden dem Meta-Chatbot im Verborgenen erteilt?
Auf etwa 80 Hilfe- und FAQ-Seiten wurden insgesamt 102 versteckte Textblöcke identifiziert, die als direkte Instruktionen an das KI-Modell formuliert waren. Während ein Großteil dieser Prompts rein organisatorische Hilfestellungen betraf, enthielten zwei Abschnitte wesentliche Einschränkungen für die KI-Antworten. So wurde der Bot angewiesen, bei Problemen mit der Kontolöschung nach Telefonnummernverlust nicht auf die Zuständigkeit von Datenschutzbehörden hinzuweisen.
Darüber hinaus griff eine weitere Anweisung, sobald Nutzer rechtliche Schritte, Gerichte oder Anwälte erwähnten. In diesen Fällen sollte die KI weder Nutzungsbedingungen noch Datenschutzrichtlinien zitieren und ausdrücklich keine Verweise auf Datenschutzgesetze wie die DSGVO vornehmen. Selbst dann nicht, wenn Betroffene diese Gesetze von sich aus ansprachen.
Wie begründet Meta die Prompts und worin liegt der Diskrepanz?
In der offiziellen europäischen Datenschutzerklärung betont WhatsApp ausdrücklich, dass Nutzer das Recht haben, eine Beschwerde bei der zuständigen Datenschutzaufsichtsbehörde einzureichen. Die internen Prompts wiesen die KI jedoch an, genau diese Option im Dialog nicht zu erwähnen. Meta-Sprecher Joshua Breckman erklärte hierzu, dass die Anweisungen aufgrund eines technischen Fehlers im Seitencode sichtbar gewesen seien und nach Bekanntwerden umgehend entfernt wurden. Ziel der Prompts sei es gewesen, den Chatbot auf reinen Produkt-Support zu fokussieren und das Erteilen unbefugter Rechtsberatung zu verhindern.
Einordnung des Vorfalls aus Sicht der KI-Compliance
Aus KI- und Compliance-Perspektive illustriert dieser Fall die Risiken von unzureichend abgestimmtem Prompt Engineering beim Einsatz von KI-Sprachmodellen. Während die Einbindung von System Prompts zur Verhaltenssteuerung von LLMs gängige Praxis ist, führt eine argumentative Abweichung zwischen öffentlich zugänglichen Informationen wie Datenschutzerklärungen und den Anweisungen an das KI-System zu einer bedenklichen Informationsasymmetrie. KI-Support-Systeme dürfen nicht so programmiert sein, dass sie gesetzlich verbriefte Betroffenenrechte oder Beschwerdewege systematisch ausblenden.
Fazit
Der Fall zeigt eindrücklich, dass die Implementierung von Künstlicher Intelligenz in Kundenprozessen einer strengen rechtlichen Steuerung bedarf. Unternehmen müssen sicherstellen, dass die verhaltenssteuernden Prompts ihrer KI-Systeme nahtlos mit den geltenden Datenschutzbestimmungen und der eigenen Transparenzpflicht harmonieren. Eine wirksame KI-Governance setzt voraus, dass automatisierte Auskünfte Betroffenen keine Ausübung ihrer Datenschutzrechte erschweren.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
