LfDI MV: Datenschutzkonformer und digital-souveräner KI-Einsatz in KMU

Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern (LfDI MV), Sebastian Schmidt, hat den praxisorientierten Leitfaden „Datenschutzkonformer und digital-souveräner Einsatz von Künstlicher Intelligenz mit beschränktem oder minimalem Risiko“ veröffentlicht. Während sich die Debatte um die europäische KI-Verordnung (Verordnung (EU) 2024/1689) meist auf komplexe Hochrisikosysteme fokussiert, schließt die Aufsichtsbehörde aus Schwerin eine wesentliche Lücke in der Beratungspraxis.

Der Leitfaden richtet sich speziell an kleine und mittlere Unternehmen (KMU) sowie kleinere Verwaltungen, die keine eigenen großen IT- oder Rechtsabteilungen unterhalten. Der Beitrag beleuchtet, wie kleinere Organisationen einfache KI-Werkzeuge rechtssicher, sicher und digital-souverän in den Arbeitsalltag integrieren können.

Fokus auf beschränktes und minimales Risiko

Die EU-KI-Verordnung unterscheidet vier Risikoklassen:

• unannehmbares Risiko (verbotene Praktiken wie Social Scoring),
• hohes Risiko,
• begrenztes Risiko sowie
• minimales Risiko.

Bisherige Veröffentlichungen behandeln vorrangig Hochrisiko-Systeme, was mit hoher regulatorischer Komplexität und Zugangsbarrieren verbunden ist.

Der Leitfaden des LfDI MV konzentriert sich dagegen bewusst auf KI-Systeme mit begrenztem oder minimalem Risiko. Dazu zählen praxisnahe Anwendungen wie interne Chatbots, Spam-Filter oder Werkzeuge zum Strukturieren und Zusammenfassen von Dokumenten. Solche Systeme bieten KMU unmittelbare Arbeitserleichterungen bei überschaubaren rechtlichen Vorgaben.

Verzahnung von DSGVO und KI-Verordnung

Unabhängig von der Einordnung unter die KI-Verordnung greifen bei der Verarbeitung personenbezogener Daten stets die Vorgaben der Datenschutz-Grundverordnung (DSGVO). Verantwortliche müssen die Grundsätze aus Art. 5 Abs. 1 DSGVO einhalten und nachweisen können. Hierunter fallen u.a. Rechtmäßigkeit, Transparenz, Zweckbindung, Datenminimierung und Richtigkeit der Verarbeitung. Jede Verarbeitung, etwa beim Training oder Feintuning von Modellen, erfordert eine legitime Rechtsgrundlage.

Nach der KI-Verordnung müssen Organisationen zunächst ihre konkrete Rolle bestimmen.

• Entweder als Anbieter (bei Eigenentwicklung oder Anpassung unter eigenem Namen) oder
• als Betreiber (bei beruflicher Nutzung in eigener Verantwortung).

Für alle zulässigen Risikostufen verpflichtet Art. 4 KI-VO zur Sicherstellung angemessener KI-Kompetenz bei den Beschäftigten. Bei Systemen mit begrenztem Risiko gelten Transparenzpflichten nach Art. 50 KI-VO, etwa die Kennzeichnung der KI-Interaktion oder KI-generierter Inhalte.

Technische Stellschrauben: Digitale Souveränität, Open Source und RAG-Systeme

Um verlässliche Ergebnisse zu erzielen, ist eine hohe KI-Qualität entscheidend, die funktionale Leistung, Sicherheit und Regeltreue verbindet. Allgemeine Sprachmodelle stoßen bei fachspezifischen Unternehmensdaten oft an Grenzen und neigen zu Halluzinationen. Der Leitfaden empfiehlt daher den Einsatz spezialisierter Architekturansätze wie Retrieval-Augmented Generation (RAG). Die RAG-Methode erlaubt die Einbindung interner Datenquellen, ohne dass vertrauliche Informationen direkt in das Sprachmodell selbst eingerechnet werden müssen.

Darüber hinaus hebt der LfDI MV die Bedeutung der digitalen Souveränität hervor. Um kritische Abhängigkeiten von einzelnen Herstellern sowie den Zugriff aus Drittstaaten zu vermeiden, sind Open-Source-Lösungen, offene Schnittstellen und ein lokaler On-Premise-Betrieb bevorzugt zu wählen. Lässt sich ein interner Betrieb organisatorisch nicht umsetzen, müssen Cloud-Dienstleister sorgfältig ausgewählt und vertraglich nach Art. 28 DS-GVO gebunden werden.

Datenschutz in Alltagsszenarien: Recherche, Schreibassistenz und Übersetzung

Typische Einsatzbereiche im Unternehmensalltag erfordern spezifische Schutzmaßnahmen.

• Recherche & Textzusammenfassung: Werden Dokumente oder Akten automatisiert aufbereitet, ist der Personenbezug nach Möglichkeit durch Anonymisierung oder Pseudonymisierung zu entfernen.
• Schreibassistenz & Übersetzung: Bei der Nutzung externer Tools dürfen keine sensiblen Kundendaten, Personaldaten oder Betriebsgeheimnisse unbedacht eingegeben werden.
• Ausschluss von Weitertraining: Es muss vertraglich und technisch unterbunden werden, dass eingegebene Daten und Prompts vom Anbieter zum Nachtraining der Modelle verwendet oder dauerhaft in Historienspeichern vorgehalten werden.

Neben dem LfDI Mecklenburg-Vorpommern gibt auch der BayLfD regelmäßig praxisnahe Orientierungshilfen zu niedrigschwelligen Einsatzszenarien im Format „AI in a Nutshell„.

Ausblick: Gefahrenpotenziale autonomer KI-Agenten

In Anhang A2 beleuchtet der Leitfaden die rasant fortschreitende Entwicklung von KI-Agenten (Agentic AI). Im Vergleich zu reinen Sprachmodellen zeichnen sich KI-Agenten durch eine hohe operative Autonomie aus. Der Leitfaden warnt vor der „tödlichen Dreifaltigkeit“ ungesteuerter Agenten:

1. Zugriff auf interne bzw. private Daten bestände,
2. Zugriff auf unaufgeforderte Webinhalte,
3. Autonome Fähigkeit zur externen Kommunikation.

Angriffsvektoren wie versteckte Befehle (Prompt Injection) oder die Manipulation von Agentennetzwerken erzeugen neuartige Sicherheitsrisiken. Der Leitfaden betont, dass auch bei hochgradig automatisierten Systemen stets eine wirksame menschliche Aufsicht und Letztentscheidung sichergestellt sein muss.

Schlussfolgerungen und Handlungsbedarf für Unternehmen

Für kleine und mittlere Unternehmen und Verwaltungen ergeben sich aus dem Leitfaden klare operative Maßnahmen beim Einsatz von KI.

• Etablierung eines KI-Managementprozesses: Implementierung eines kontinuierlichen Plan-Do-Check-Act-Zyklus in Anlehnung an das Standard-Datenschutzmodell zur Überwachung der KI-Qualität und Rechtskonformität.
• Systematische Bestandsaufnahme: Vollständige Dokumentation aller genutzten KI-Anwendungen, der verarbeiteten Datenarten, der konkreten Anwendungsfälle sowie der Rechtsgrundlagen.
• Nutzung von Prüf-Checklisten: Die im Anhang A1 enthaltene Checkliste bietet eine strukturierte Orientierung zur Einhaltung von DSGVO und KI-Verordnung.
• Interne Nutzungsrichtlinien & Schulungen: Erlass klarer Anweisungen für Beschäftigte, welche Daten in KI-Tools eingegeben werden dürfen, verbunden mit Schulungen zur Förderung der KI-Kompetenz und Ergebniskontrolle.
• Vertragliche Absicherung: Überprüfung von Dienstleisterverträgen auf Auftragsverarbeitungsvereinbarungen (Art. 28 DSGVO) sowie den wirksamen Ausschluss der Trainingsnutzung eigener Eingaben.
• Frühzeitige Einbindung von Beauftragten: Enge Einbindung des internen oder externen Datenschutzbeauftragten sowie von Informationssicherheitsbeauftragten bei Planung und Beschaffung.

Fazit

Der KI-Leitfaden des LfDI Mecklenburg-Vorpommern verdeutlicht, dass Künstliche Intelligenz auch in kleineren Unternehmen und Verwaltungen ohne unkalkulierbare Risiken eingesetzt werden kann. Wer sich auf Anwendungsfälle mit beschränktem oder minimalem Risiko konzentriert, datenschutzfreundliche Voreinstellungen wählt und auf digitale Souveränität setzt, kann Effizienzvorteile nutzen und gleichzeitig eine hohe Compliance-Qualität gewährleisten.