KI verdreifacht Erfolgsquote von Phishing-Angriffen

Forschende der TU Berlin, des BIFOLD und der Ruhr-Universität Bochum haben im Rahmen einer groß angelegten Untersuchung die Gefahren von automatisiertem Spear-Phishing durch Large Language Models (LLMs) empirisch belegt. Die Studie evaluiert anhand eines Feldexperiments mit 7.700 Teilnehmenden, wie effektiv KI-gestützte, personalisierte Phishing-Angriffe im Vergleich zu herkömmlichen Methoden agieren. Die Ergebnisse liefern besorgniserregende Erkenntnisse für die betriebliche Informationssicherheit.

Von generischem Phishing zu Spear Phishing

Unter Phishing versteht man eine weit verbreitete Form von Cyberangriffen, bei der Angreifer versuchen, durch täuschend echte Nachrichten Vertrauen aufzubauen und Empfänger zu unbedachten Handlungen wie dem Anklicken schädlicher Links zu bewegen. Während beim klassischen, generischen Phishing eine einheitliche Nachricht an eine Vielzahl von Empfängern versendet wird, richtet sich Spear-Phishing gezielt an individuelle Personen. Angreifer passen den Inhalt der E-Mail dabei spezifisch an das Opfer an (etwa anhand persönlicher oder beruflicher Kontextdaten), um eine möglichst hohe Glaubwürdigkeit zu erzeugen.

Dramatischer Effizienzanstieg durch automatisierte Personalisierung

In dem Experiment wurden öffentlich zugängliche Informationen über die Zielpersonen automatisiert per Websuche gesammelt und durch lokale Sprachmodelle zu individuellen Zielprofilen sowie maßgeschneiderten E-Mails verarbeitet. Während generische Phishing-Mails lediglich Klickraten von etwa 4 % erzielten (3,7 % bei LLM-generierten und 4,1 % bei manuell erstellten Vorlagen), erreichten die vollautomatisiert personalisierten Spear-Phishing-Mails eine Klickrate von 10,0 %. Damit konnte die KI-gestützte Personalisierung die Angriffsquote nahezu verdreifachen.

Zwar schnitten manuell verfasste Spear-Phishing-Mails von Sicherheitsexperten mit 24,2 % noch erfolgreicher ab, jedoch erfordern diese einen enormen Zeit- und Arbeitsaufwand. Demgegenüber lagen die Kosten der automatisierten LLM-Personalisierung bei unter 0,03 US-Dollar pro E-Mail, was derartige Angriffe für Cyberkriminelle im großen Stil wirtschaftlich hochgradig attraktiv macht.

Auffällig ist zudem die Tendenz, dass Personen mit sehr umfangreichen Online-Profilen eine geringere Klickrate von 6,3 % aufwiesen als Beschäftigte mit geringem oder mittlerem Informationsgehalt (12,7 % bzw. 12,1 %). Dies führen die Autoren darauf zurück, dass Sprachmodelle bei sehr großen Datenmengen eher zu Verallgemeinerungen und thematischen Abweichungen neigen.

Einordnung in die aktuelle KI-Bedrohungslage

Die Studienergebnisse fügen sich nahtlos in die Warnungen des Bundesamtes für Sicherheit in der Informationstechnik (BSI) und des TÜV-Verbands ein. Phishing stellt nach wie vor die häufigste Angriffsform dar und profitiert in hohem Maße von der Gesteigerten Effizienz KI-generierter Inhalte. Wie auch jüngste Analysen zu Sicherheitsdefiziten im produktiven KI-Einsatz offenlegen, schreitet die technische Implementierung von KI in vielen Unternehmen schneller voran als die Umsetzung passender Schutzkonzepte. Ergänzend dazu verdeutlichen Warnungen vor den Risiken agentischer KI sowie Schwachstellen wie Pakethalluzinationen oder Sicherheitslücken in Microsoft Copilot (etwa EchoLeak), dass Angreifer KI-Systeme zunehmend nutzen, um etablierte Schutzbarrieren gezielt zu durchbrechen.

Rechtlicher Handlungsbedarf und organisatorische Schutzmaßnahmen

Da automatisierte Phishing-Anschreiben menschliche Kommunikation sprachlich präzise imitieren, stoßen herkömmliche technische Filter und Spam-Systeme bei der Erkennung rasch an ihre Grenzen. Für Unternehmen entsteht daraus ein dringender rechtlicher und organisatorischer Handlungsbedarf. Im Sinne der Risikominimierung und der Relevanz technischer und organisatorischer Maßnahmen (TOM) nach Art. 32 DSGVO empfiehlt sich die Etablierung moderner Zero-Trust-Prinzipien. Hierzu gehören eine strikte Beschränkung von Zugriffsrechten (Principle of Least Privilege), die Netzwerksegmentierung sowie die Verpflichtung zu Multi-Faktor-Authentifizierung.

Zudem zeigen aktuelle Prüfleitfäden zur gemeinsamen Auditierung von Datenschutz, Informationssicherheit und KI, dass die kontinuierliche Anpassung der Sicherheitsarchitektur an den Stand der Technik essenziell ist, um Aufsichts- und Compliance-Anforderungen gerecht zu werden. Neben technischen Schutzschirmen bleibt die Reduzierung leicht verknüpfbarer persönlicher Daten im Netz sowie die gezielte Sensibilisierung der Belegschaft für KI-spezifische Phishing-Muster ein wichtiger Baustein der betrieblichen Cyberresilienz.

Fazit

Die USENIX-Studie belegt eindrücklich, dass KI-basiertes Spear-Phishing die Schwelle für hochgradig überzeugende Cyberangriffe im Massengeschäft drastisch absenkt. Unternehmen sollten die Bedrohungslage zum Anlass nehmen, ihre Risikoanalysen umgehend zu aktualisieren, Schulungskonzepte an KI-Szenarien anzupassen und eine klare KI-Governance im Betrieb zu verankern.