Künstliche Intelligenz (KI) kann Beschäftigte öffentlicher Stellen längst bei alltäglichen Aufgaben unterstützen. Der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) erweitert deshalb seine Reihe „AI in a Nutshell“ um drei weitere praxisnahe Anwendungsfälle: KI-gestützte Recherche, Schreibassistenz und Textzusammenfassung. Die neuen Hinweise zeigen, welche Datenschutzanforderungen öffentliche Stellen bereits bei der Auswahl und später bei der Nutzung entsprechender KI-Systeme beachten sollten.
KI zur Recherche: Datenquellen und Ergebnisse im Blick behalten
KI-Systeme können bei umfangreichen Recherchen helfen, indem sie große Datenbestände durchsuchen und Zusammenhänge zwischen Informationen erkennen. Neben frei zugänglichen Quellen können dabei auch interne Dokumentensammlungen, E-Mails, Akten, Datenbanken oder Register eingebunden werden.
Gerade dadurch entstehen jedoch Datenschutzrisiken. Nach Möglichkeit sollen Eingaben ohne personenbezogene Daten erfolgen oder zumindest anonymisiert beziehungsweise pseudonymisiert werden. Werden personenbezogene Daten verarbeitet, müssen die erforderlichen Rechtmäßigkeitsvoraussetzungen erfüllt sein.
Ebenso wichtig ist die Kontrolle der Ergebnisse. KI-Systeme können falsche Angaben, erfundene Quellen oder nicht existierende Gerichtsentscheidungen erzeugen. Kritische Informationen müssen deshalb vor einer Weiterverwendung auf Richtigkeit, Aktualität und Vollständigkeit überprüft werden.
KI-Schreibassistenz: Nicht jeden Text ungeprüft eingeben
Auch für die Erstellung von E-Mails, Stellungnahmen, Vermerken oder anderen Schriftstücken können KI-Systeme eingesetzt werden. Sie können Texte strukturieren, sprachlich vereinfachen, korrigieren, übersetzen oder an bestimmte Zielgruppen anpassen.
Datenschutzrechtlich entscheidend ist dabei vor allem der Input. Persönliche Angaben, vertrauliche Informationen oder geschützte Dokumente sollten nicht unbedacht in ein externes KI-System eingegeben werden. Wenn personenbezogene Daten erforderlich sind, muss deren Verarbeitung rechtmäßig erfolgen.
Der BayLfD empfiehlt zudem, eine Nutzung der eingegebenen Inhalte zum Nachtraining des KI-Systems auszuschließen. Technische und organisatorische Maßnahmen sollen verhindern, dass die Daten anderen Nutzern zur Verfügung stehen oder vom Anbieter für eigene Zwecke verwendet werden.
Textzusammenfassung durch KI: Weniger Text bedeutet nicht weniger Risiko
Besonders praktisch erscheint der Einsatz von KI zur Zusammenfassung umfangreicher Dokumente. Sitzungsprotokolle, E-Mail-Korrespondenzen, Stellungnahmen oder Aktenvermerke können automatisch auf wesentliche Informationen reduziert werden.
Gerade hier können jedoch umfangreiche personenbezogene Daten in das System gelangen. Der BayLfD empfiehlt daher auch bei Textzusammenfassungen, Dokumente nach Möglichkeit ohne personenbezogene Daten oder in anonymisierter beziehungsweise pseudonymisierter Form zu verwenden.
Ein weiteres Risiko liegt im Ergebnis selbst. Bei langen Dokumenten können wichtige Details, Nuancen oder Zusammenhänge durch eine zu starke Verkürzung verloren gehen. Die Zusammenfassung sollte deshalb nicht ungeprüft als Ersatz für das ursprüngliche Dokument verwendet werden.
Prompthistorie und Nachtraining begrenzen
Bei allen drei Einsatzbereichen wiederholen sich zentrale Empfehlungen. Die Prompthistorie sollte grundsätzlich nicht automatisch gespeichert werden. Wenn eine Speicherung erforderlich ist, sollte sie möglichst lokal erfolgen und eine Löschmöglichkeit bestehen.
Gleichzeitig sollte verhindert werden, dass eingegebene Informationen als Trainingsdaten für die Weiterentwicklung des eingesetzten KI-Systems verwendet werden. Gerade bei externen Anbietern müssen öffentliche Stellen darauf achten, welche Rechte zur weiteren Nutzung der eingegebenen Daten vertraglich eingeräumt werden.
Auch Funktionsaccounts oder geeignete Schnittstellen können helfen, die Verarbeitung von Nutzerdaten zu reduzieren.
KI-Kompetenz wird zur organisatorischen Aufgabe
Technische Datenschutzmaßnahmen allein reichen jedoch nicht aus. Beschäftigte müssen wissen, welche Daten sie in ein KI-System eingeben dürfen und wie sie mit den generierten Ergebnissen umgehen sollen.
Der BayLfD verweist dabei auch auf die Anforderungen an KI-Kompetenz nach der KI-Verordnung. Behörden sollten klare interne Vorgaben schaffen und Schulungen zu Datenschutzrisiken anbieten. Besonders wichtig ist dabei der kritische Umgang mit KI-Ausgaben.
Je nach Nutzung muss außerdem geprüft werden, ob Kennzeichnungspflichten für KI-generierte Inhalte greifen. Werden Ergebnisse redaktionell überarbeitet und fachlich kontrolliert, kann dies anders zu beurteilen sein als bei einer unveränderten Weiterverwendung.
Fazit
Mit den neuen „AI in a Nutshell“-Hinweisen macht der BayLfD deutlich, dass KI auch bei alltäglichen Verwaltungsaufgaben nicht ohne Datenschutzkonzept eingesetzt werden sollte.
Recherche, Schreibassistenz und Textzusammenfassung können Arbeitsabläufe beschleunigen. Entscheidend bleibt jedoch, personenbezogene Daten möglichst zu vermeiden, Nachtraining und unnötige Speicherung zu verhindern sowie KI-Ergebnisse fachlich zu kontrollieren. Klare interne Regeln und ausreichende KI-Kompetenz werden damit zu zentralen Voraussetzungen für einen datenschutzgerechten KI-Einsatz in öffentlichen Stellen.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
