USA: Grenzschutz nutzt KI zur Analyse von Social Media

Die US-Grenzschutzbehörde Customs and Border Protection (CBP) hat kürzlich eine Übersicht ihrer eingesetzten sowie in Entwicklung befindlichen KI-Anwendungen veröffentlicht. Diese Liste, die unter anderem automatisierte Risikobewertungssysteme, biometrische Verfahren und die Analyse sozialer Medien umfasst, bietet seltene Einblicke in den technikgestützten Alltag moderner Grenzkontrollen.

KI-Einsatz der US-Grenzschutzbehörde

Wie aus der Auflistung hervorgeht, sind 31 KI-Anwendungen bei der CBP bereits im Einsatz, 28 weitere befinden sich aktuell in der Entwicklung. Besonders brisant sind dabei jene Systeme, die als „Rights-impacting“ gekennzeichnet sind – also Technologien, die potenziell in die Grundrechte von Reisenden eingreifen. Zu den KI-Anwendungen zählen beispielsweise die Analyse von Röntgenbildern bei Frachtkontrollen, die Gesichtserkennung bei der Passkontrolle, die automatisierte Detektion auffälliger Körperwärmesignaturen und die Analyse öffentlich zugänglicher Social-Media-Inhalte. Das zuletzt genannten System (Babel) dient der Auswertung öffentlich verfügbarer Informationen wie Social-Media-Posts und Netzwerke zur Identifizierung potenzieller Bedrohungen. Allein die Summe macht deutlich, in welchem Ausmaß KI heute schon zur Überwachung von Personen eingesetzt wird.

Der europäische Kontrast: Verbotene Praktiken der KI-Verordnung

Mit der im Februar 2025 in Teilen in Kraft getretenen EU-Verordnung über Künstliche Intelligenz (KI-VO) verfolgt die EU einen risikobasierten Regulierungsansatz. Im Zentrum stehen ausdrücklich verbotene KI-Praktiken mit „unannehmbarem Risiko“ gemäß Art. 5 KI-VO. Dazu zählen u.a Social Scoring, manipulative oder ausnutzende Systeme, sowie die ungezielte Erstellung von Gesichtserkennungsdatenbanken, oder die biometrische Kategorisierung nach sensiblen Merkmalen wie politischer Meinung, Religion oder sexueller Orientierung. Auch Systeme zur Vorhersage von Straftaten auf Basis von Persönlichkeitsprofilen oder Verhaltensanalysen sind untersagt.

Ausnahmen für europäische Sicherheitsbehörden?

Trotz der Verbote sieht die KI-Verordnung zahlreiche Ausnahmen vor – insbesondere im Bereich der nationalen Sicherheit und Strafverfolgung. Die Zuständigkeit hierfür bleibt bei den Mitgliedstaaten, wodurch nationale Behörden unter Umständen dennoch KI-gestützte Überwachung einsetzen dürfen.

Intensive Lobbyarbeit haben dafür gesorgt, dass die KI-VO umfassende Öffnungsklauseln enthält. Diese ermöglichen unter bestimmten Voraussetzungen den Einsatz biometrischer Gesichtserkennung im öffentlichen Raum, etwa zur Terrorabwehr oder zur Fahndung nach Straftätern. Auch private Anbieter, die entsprechende Technologien entwickeln, könnten davon profitieren.

Social Media Scanning als „Social Scoring“?

Das US-System Babel arbeitet mit öffentlich zugänglichen Inhalten aus sozialen Netzwerken. Dabei werden unter anderem Bilder, Texte, Verhaltensmuster sowie Beziehungsnetzwerke analysiert. Aus europäischer Perspektive wirft diese Form der Datenauswertung erhebliche rechtliche Fragen auf. Ein zentrales Risiko liegt in der Erstellung individueller Risikoprofile. Wenn solche Profile beispielsweise zur Einreiseverweigerung führen, könnte dies unter das Verbot des Social Scoring nach der KI-Verordnung fallen. Auch die automatisierte Erfassung von Gesichtsbildern, etwa über Plattformen wie Instagram oder TikTok, ist problematisch, wenn dabei eine biometrische Datenbank erstellt oder erweitert wird. Darüber hinaus kann die Analyse von Bildern oder Texten Rückschlüsse auf besonders geschützte Merkmale wie ethnische Herkunft, Religion oder politische Überzeugungen ermöglichen. Eine solche biometrische Kategorisierung wäre gemäß der KI-Verordnung grundsätzlich unzulässig.

Auch wenn laut CBP derzeit keine Gesichtserkennungskomponenten in Babel aktiviert sind, bleibt fraglich, wie dauerhaft diese Trennung zwischen Datensammlung und Auswertung aufrechterhalten werden kann insbesondere im Hinblick auf eine potenzielle Nachnutzung durch Strafverfolgungsbehörden.

Datenschutzrechtliche Einordnung nach der DSGVO

Neben der KI-Verordnung ist bei jedem Einsatz solcher Systeme auch die Datenschutz-Grundverordnung (DSGVO) zu beachten. Die massenhafte, anlasslose Erhebung personenbezogener Daten – selbst wenn diese öffentlich zugänglich sind – muss stets den Datenschutzgrundsätzen genügen. Die bloße Verfügbarkeit von Social-Media-Daten bedeutet nicht, dass ihre Verarbeitung durch Behörden automatisch rechtmäßig ist.

Insbesondere die Verarbeitung sensibler Daten – etwa durch Gesichtsanalyse oder Verhaltensprofile – unterliegt strengen Anforderungen an Rechtmäßigkeit, Zweckbindung und Datenminimierung. Die luxemburgische Datenschutzaufsicht CNPD sowie die deutsche Datenschutzkonferenz (DSK) haben sich mehrfach kritisch zur Nutzung biometrischer Systeme im öffentlichen Raum geäußert.

DSK warnt vor Einsatz von Gesichtserkennungstechnologien

In Deutschland ist der Einsatz biometrischer Gesichtserkennung durch Sicherheitsbehörden hoch umstritten. Die DSK betont, dass es bislang an einer hinreichenden gesetzlichen Grundlage für derartige Maßnahmen fehlt. Die KI-VO erlaubt zwar unter strengen Voraussetzungen Ausnahmen, etwa bei akuter Terrorgefahr – doch gerade in Deutschland besteht ein breiter gesellschaftlicher Konsens, dass Überwachung im öffentlichen Raum verhältnismäßig, gezielt und rechtsstaatlich abgesichert sein muss.

Fazit

Die Veröffentlichung der KI-Systeme durch die CBP bietet einen realistischen Ausblick auf die Zukunft technologiebasierter Grenzkontrollen – und wirft zugleich grundlegende datenschutzrechtliche und ethische Fragen auf. Was technisch möglich ist, darf nicht automatisch als rechtlich zulässig gelten.

Während in den USA sicherheitspolitische Überlegungen tendenziell Vorrang genießen, versucht die EU mit der KI-VO einen normativen Gegenentwurf zu etablieren. Doch auch dieser steht unter dem Einfluss geopolitischer Interessen und Lobbyarbeit. Die Diskussion über die Vereinbarkeit von KI-gestützter Überwachung mit den Grundwerten einer demokratischen Gesellschaft wird uns noch lange begleiten und bleibt insbesondere im Lichte zunehmender sicherheitspolitischer Herausforderungen hochaktuell.