Transparenz in der KI-Lieferkette – Neue SBOM G7-Richtlinie veröffentlicht

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat gemeinsam mit den Partnerbehörden der G7-Staaten eine neue Richtlinie zur Software Bill of Materials (SBOM) für Künstliche Intelligenz herausgegeben. Diese Veröffentlichung stellt einen Meilenstein für die Cybersicherheit und Compliance im Bereich der KI-Technologien dar, da sie konkrete Empfehlungen für Transparenz entlang der gesamten Lieferkette bietet.

Angesichts der rasanten Entwicklung von generativen und agentischen KI-Systemen adressiert das Dokument die wachsende Notwendigkeit, die Zusammensetzung dieser komplexen Anwendungen nachvollziehbar zu machen. Unternehmen sind zunehmend darauf angewiesen, nicht nur die Software selbst, sondern auch die zugrunde liegenden Modelle und Datenbestände zu verstehen, um Sicherheitsrisiken effektiv managen zu können und der wachsende Digitalgesetzgebung zu entsprechen.

Was ist die G7 Cybersecurity Working Group?

Die G7 Cybersecurity Working Group ist ein Zusammenschluss der Cybersicherheitsbehörden der G7-Staaten sowie der Europäischen Kommission, der unter anderem im Rahmen des Arbeitsstroms „Smarter Together: Artificial Intelligence“ agiert. Unter der gemeinsamen Federführung des BSI und der italienischen Cybersicherheitsbehörde ACN arbeiten Experten aus Deutschland, Italien, Frankreich, Kanada, den USA, Großbritannien und Japan an harmonisierten Sicherheitskonzepten für digitale Technologien. Ziel dieser internationalen Zusammenarbeit ist es, durch gemeinsamen Wissensaustausch und koordinierte Richtlinien die globale Widerstandsfähigkeit gegen Cyberbedrohungen zu stärken, wobei ein besonderer Fokus auf der Sicherheit von KI-Systemen liegt.

Was sind Software Bill of Materials (SBOM)?

Eine Software Bill of Materials, kurz SBOM, fungiert als strukturierter Datensatz, der sämtliche Komponenten und Lieferkettenbeziehungen eines Softwaresystems detailliert dokumentiert. Man kann sie sich als eine Art digitale Zutatenliste vorstellen, die sowohl kommerzielle als auch Open-Source-Bestandteile eines Produkts auflistet. Diese Transparenz ist für Organisationen von essenzieller Bedeutung, um ein effizientes Schwachstellenmanagement zu betreiben, da sie im Falle neu entdeckter Sicherheitslücken sofort prüfen können, welche ihrer Systeme betroffen sind. SBOM gelten daher heute als Best-Practice für eine sichere Software-Lieferkette und sind ein zentrales Instrument für das IT-Risikomanagement.

Warum SBOM speziell für KI-Systeme?

KI-Systeme unterscheiden sich in ihrer Komplexität und ihren dynamischen Eigenschaften grundlegend von traditioneller Software, weshalb herkömmliche SBOM-Ansätze hier nicht ausreichen. Während klassische Software primär aus Code-Bibliotheken besteht, hängen die Sicherheit und Vertrauenswürdigkeit einer KI maßgeblich von den verwendeten Modellen, den Trainingsdaten und den spezifischen Infrastrukturen ab. Ein SBOM für KI erweitert das klassische Konzept daher um spezifische Informationen, die beispielsweise dabei helfen, Manipulationsversuche wie Data-Poisoning oder potenzielle Biases in den Trainingsdaten zu identifizieren. Dies ermöglicht es den Anwendern, fundierte Entscheidungen über die Eignung eines KI-Systems für bestimmte Einsatzzwecke zu treffen und den gesamten Lebenszyklus der Anwendung abzusichern.

Welche Informationen beinhalten die SBOM für KI?

Die neuen Richtlinien definieren insgesamt sieben Informationskategorien, sogenannte Cluster, die in einem SBOM für KI enthalten sein sollten. Neben den Metadaten zum SBOM selbst werden Systemeigenschaften erfasst, welche die Interaktion der verschiedenen KI-Elemente und den Datenfluss innerhalb des Systems beschreiben. Ein weiterer Schwerpunkt liegt auf den Modelleigenschaften, die Details zur Architektur, den Gewichten und der vorgesehenen Verwendung der KI-Modelle liefern. Ebenso wichtig sind Informationen zu den Datensatzeigenschaften, wie etwa Herkunft, Sensitivität und statistische Merkmale der Trainingsdaten. Ergänzt wird die Liste durch Angaben zur physischen und virtuellen Infrastruktur, spezifische Sicherheitskontrollen wie Filter gegen Prompt-Injection sowie Leistungskennzahlen zur operativen Sicherheit des Systems.

Welche Rolle spielt der Cyber Resilience Act?

Die Erstellung von SBOM ist nicht mehr nur eine freiwillige Empfehlung, sondern wird durch den europäischen Cyber Resilience Act (CRA) zu einer verbindlichen gesetzlichen Anforderung für Produkte mit digitalen Elementen. Der CRA verpflichtet Hersteller dazu, einen kontinuierlichen Prozess zur Behandlung von Schwachstellen zu betreiben und Informationen über die Sicherheit ihrer Produkte transparent bereitzustellen. Das BSI unterstützt Unternehmen bei der Umsetzung dieser Anforderungen bereits jetzt durch die Technische Richtlinie TR-03183, die konkrete Vorgaben zur Gestaltung von SBOM macht. Die neuen G7-Richtlinien für KI-SBOM fügen sich in diesen regulatorischen Rahmen ein. Sie bieten Unternehmen eine wichtige Orientierungshilfe, um künftige Compliance-Anforderungen im Bereich der Künstlichen Intelligenz zu erfüllen.

Handlungsbedarf für Unternehmen

Für Unternehmen gibt die Veröffentlichung dieser Richtlinien den Anlass, ihre Beschaffungs- und Entwicklungsprozesse für KI-Technologien zu überprüfen. Es empfiehlt sich, frühzeitig damit zu beginnen, von KI-Anbietern entsprechende Stücklisten nach dem G7-Standard einzufordern, um die eigene Risikoexposition bewerten zu können. Zudem sollte die IT-Sicherheitsstrategie so angepasst werden, dass SBOM-Daten automatisiert verarbeitet und mit Datenbanken für bekannte Schwachstellen abgeglichen werden können. Die Integration dieser Transparenzinstrumente in das Compliance-Management hilft nicht nur bei der Vorbereitung auf den Cyber Resilience Act, sondern stärkt auch das Vertrauen von Kunden und Geschäftspartnern in die eigenen KI-Lösungen.

Fazit

Die G7-Richtlinie zu SBOM für KI ist ein entscheidender Schritt, um die „Black Box“ Künstliche Intelligenz transparenter und damit sicherer zu machen. Für Organisationen bedeutet dies den Übergang von einer rein funktionalen Betrachtung von KI-Systemen hin zu einem verantwortungsvollen, auf Fakten basierenden Risikomanagement entlang der digitalen Lieferkette. Obwohl die in der Richtlinie genannten Mindestelemente rechtlich noch nicht zwingend vorgeschrieben sind, bilden sie bereits heute den Rahmen für die kommenden regulatorischen Anforderungen in der Europäischen Union. Unternehmen, die diese Standards proaktiv übernehmen, sichern sich nicht nur einen Wettbewerbsvorteil durch höhere Cybersicherheit, sondern legen auch den Grundstein für eine rechtskonforme Nutzung von KI-Innovationen in der Zukunft.

Sie benötigen Unterstützung bei KI-Compliance und KI-Governance? Unsere Experten beraten Sie zur rechtssicheren Umsetzung regulatorischer Anforderungen. Nehmen Sie gerne Kontakt mit uns auf.