Der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) hat neue Unterlagen zum Einsatz von Künstlicher Intelligenz in der bayerischen Verwaltung veröffentlicht. Anlass ist der zunehmende Einsatz von KI-Produkten in öffentlichen Stellen. Der BayLfD stellt dazu eine Orientierungshilfe zum Datenschutz bei KI-Projekten in der bayerischen Verwaltung sowie ergänzende Kurzpapiere bereit. Hinzu kommen konkrete Hinweise zur Anbindung eines RAG-Subsystems an ein KI-System mit Sprachmodell. Damit schafft der BayLfD nicht nur einen rechtlichen Orientierungsrahmen, sondern zugleich praktische Hilfestellungen für den Verwaltungseinsatz.
Orientierungshilfe für KI-Projekte in der Verwaltung
Im Mittelpunkt steht die Orientierungshilfe „Datenschutz bei KI-Projekten in der bayerischen Verwaltung“. Diese ordnet den Einsatz von KI in öffentlichen Stellen datenschutzrechtlich ein und behandelt dabei nach eigener Darstellung Chancen, Risiken, Problemfelder und Anwendungsfälle. Zugleich nimmt sie Bezug auf die KI-Verordnung und stellt den Einsatz von KI in den Kontext der allgemeinen datenschutzrechtlichen Anforderungen.
Die Orientierungshilfe verdeutlicht, dass jedenfalls dann, wenn personenbezogene Daten verarbeitet werden, die bekannten datenschutzrechtlichen Maßstäbe greifen. Der Einsatz von KI entbindet öffentliche Stellen also nicht von den üblichen Anforderungen an Rechtmäßigkeit, Transparenz und Nachvollziehbarkeit.
Praxisnahe Ergänzungen statt einfacher Grundsatzpapiere
Relevant für die Praxis ist, dass der BayLfD die Orientierungshilfe schrittweise um kurze themenspezifische Papiere ergänzen werde. Diese sollen konkrete Fragestellungen aus der Prüfungs- und Beratungspraxis aufgreifen.
Öffentliche Stellen benötigen beim Einsatz von KI regelmäßig nicht nur abstrakte rechtliche Einordnungen, sondern Hinweise für typische Anwendungsfälle und Probleme. Der vom BayLfD gewählte Ansatz verbindet daher rechtliche Grundsätze mit der praktischen Umsetzung.
RAG-Systeme im Fokus
Von besonderem Interesse ist das Kurzpapier „AI in a nutshell “ zur Anbindung eines RAG-Subsystems an ein KI-System mit Sprachmodell. Der BayLfD beschreibt dort, dass ein solches Subsystem externe Quellen wie Dokumentensammlungen oder Datenbanken in die Antwortgenerierung des Systems einbeziehen kann. Gerade für öffentliche Stellen kann der Ansatz attraktiv sein, da sich auf diese Weise auch aktuelle oder behördeninterne Datenquellen nutzbar machen lassen. Sie müssen dabei nicht zwingend in das Sprachmodell selbst integriert werden.
Zugleich benennt der BayLfD die datenschutzrechtlich relevanten Punkte klar. Enthalten die eingebundenen Datenquellen personenbezogene Daten, sind sowohl die Verarbeitung im RAG-Subsystem als auch die nachgelagerte Verarbeitung im Gesamtsystem datenschutzrechtlich zu bewerten. Das Kurzpapier verweist insoweit unter anderem auf die Prüfung der Datenquellen auf Personenbezug, die Auswahl der Inhalte, eine gegebenenfalls erforderliche Anonymisierung sowie die Abgrenzung der einzelnen Verarbeitungsvorgänge. Hervorgehoben wird außerdem, dass auch Metadaten in Word- oder PDF-Dateien personenbezogene Daten enthalten können. Hinzu treten Fragen zu möglichen Risiken beim Einsatz mehrerer KI-Modelle sowie der Einhaltung von Informationspflichten, Betroffenenrechten und Verarbeitungsgrundsätzen.
Fazit
Die Veröffentlichungen des BayLfD zeigen, dass der Einsatz von KI in der öffentlichen Verwaltung datenschutzrechtlich aktiv behandelt wird, jedoch keineswegs uneingeschränkt möglich ist. Entscheidend ist vielmehr eine strukturierte rechtliche und organisatorische Einordnung des konkreten Einsatzes. Die Kombination aus grundlegender Orientierungshilfe und ergänzenden Praxishinweisen erhöht die Rechtssicherheit für öffentliche Stellen. Für die bayerische Verwaltung stellen die Dokumente daher eine hilfreiche und praxisnahe Arbeitsgrundlage dar.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
