KI-generierte Inhalte gehören inzwischen zum digitalen Alltag. Bilder und Videos lassen sich oftmals so erstellen, dass sie für Nutzer oft nur schwer von echten Aufnahmen zu unterscheiden sind. Damit steigt zugleich das Risiko, dass solche Inhalte gezielt für Täuschungs- und Betrugszwecke eingesetzt werden.
Der Cybersicherheitsmonitor 2026 des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des Programms Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK) zeigt, dass das Bewusstsein für solche Risiken in der Praxis noch nicht allgemein verbreitet ist. Nur 19 Prozent der Befragten haben nach eigenen Angaben bereits die Quelle KI-generierter Inhalte überprüft.
Begrenzte Prüfung von KI-generierten Inhalten
Die vom BSI veröffentlichten Zahlen zeigen, dass viele Nutzer KI-generierten Inhalten bislang nur eingeschränkt kritisch begegnen. Zwar haben 40 Prozent nach eigenen Angaben bereits die Realität einer dargestellten Szene hinterfragt. Nur 28 Prozent suchten jedoch nach Unstimmigkeiten in Bildern und lediglich 19 Prozent überprüften die Quelle eines Inhalts.
32 Prozent der Befragten haben bislang keine der abgefragten Maßnahmen zur Erkennung KI-generierter Inhalte ergriffen.
Diese Ergebnisse sind vor allem deshalb relevant, weil die bloße Betrachtung eines Inhalts regelmäßig keine eindeutige Einordnung mehr ermöglicht. Je realistischer KI-generierte Inhalte werden, desto stärker kommt es auf die Prüfung der Quelle und des Kontextes an. Die Zahlen des Cybersicherheitsmonitors zeigen allerdings, dass diese Prüfung im Alltag oftmals unterbleibt. KI-Betrug wird jedoch besonders begünstigt, wenn Quelle und Kontext von Inhalten nur eingeschränkt hinterfragt werden.
Cybertrading-Fraud als praktisches Beispiel
Die Landespolizeipräsidentin und Vorsitzende des ProPK Dr. Stefanie Hinz verweist in diesem Zusammenhang auf den sogenannten Cybertrading-Fraud. Dabei setzen Kriminelle unter anderem KI-generierte Werbevideos ein, um Nutzer mit dem Versprechen schneller Gewinne und hoher Renditen zu Investitionen im Online-Trading zu bewegen. Nach Einschätzung des ProPK handelt es sich dabei um ein besonders aktuelles Deliktsrisiko.
Gerade bei entsprechenden Werbeinhalten ist deshalb besondere Vorsicht geboten. Die Verwendung KI-generierter Inhalte kann dazu dienen, die Außenwirkung eines betrügerischen Geschäftsmodells gezielt zu verstärken.
Unterschätzte technische Risiken
Nach den Angaben der BSI-Präsidentin Claudia Plattner beschränkt sich die Unsicherheit nicht bloß auf Bild- und Videoinhalte. 60 Prozent der Befragten halten es nicht für denkbar, dass Betrugsszenarien durch das Einfügen unsichtbarer Anweisungen für KI-Systeme in Dokumente ermöglicht werden. Auch die Möglichkeit, dass Cyberkriminelle KI-Programme zur Weitergabe sensibler Daten manipulieren, wird nur von 38 Prozent der Befragten für realistisch gehalten.
Diese Einschätzungen deuten darauf hin, dass weitergehende technische Missbrauchsmöglichkeiten unter Einsatz künstlicher Intelligenz bislang noch nicht ausreichend wahrgenommen werden. Die Risiken KI-gestützter Täuschung betreffen allerdings auch den Umgang mit digitalen Dokumenten und sensiblen Informationen.
Fazit
Die Ergebnisse des Cybersicherheitsmonitors zeigen, dass viele Nutzer KI-generierte Inhalte bislang nur in begrenztem Umfang überprüfen. Besonders auffällig ist, dass nur 19 Prozent die Quelle kontrollieren. Vor diesem Hintergrund weist das BSI auf die Notwendigkeit eines bewussten und kritischen Umgangs mit KI-generierten Inhalten hin. Es stellt ergänzend eine Checkliste zu Erkennungszeichen KI-generierter Bilder bereit.
Für die Praxis zeigt der Cybersicherheitsmonitor, dass digitale Inhalte nicht allein nach ihrem äußeren Eindruck bewertet werden können. Das gilt für einzelne Nutzer ebenso wie für Unternehmen, die mit digitalen Inhalten, Dokumenten und entsprechenden Betrugsrisiken konfrontiert sind. Wer digitale Inhalte einordnet, sollte sich nicht auf den ersten Eindruck verlassen, sondern Herkunft und Plausibilität gezielt prüfen, um KI-Betrug gezielt entgegenzuwirken.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
