KI im Unternehmen (Teil 1): Praxisbeispiele und branchenspezifische Besonderheiten

Künstliche Intelligenz (KI) ist längst ein fester Bestandteil der Unternehmenswelt. Unternehmen aus nahezu allen Branchen setzen KI gezielt ein, um Prozesse zu automatisieren, Kosten zu senken und datengetriebene Entscheidungen in Echtzeit zu treffen. Doch mit den Möglichkeiten wachsen auch die Herausforderungen: Wie lässt sich KI effizient und sicher implementieren? Welche regulatorischen Vorgaben sind zu beachten? Und wie können Unternehmen sicherstellen, dass ihre Mitarbeitenden die nötige KI-Kompetenz besitzen?

Gerade die neue EU-KI-Verordnung (KI-VO) rückt das Thema in den Fokus: Seit dem 2. Februar 2025 müssen Unternehmen, die KI-Systeme betreiben, gemäß Artikel 4 der KI-VO nachweisen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen. Der qualifizierte Umgang mit KI ist damit nicht mehr nur ein Wettbewerbsvorteil, sondern eine rechtliche Notwendigkeit.

In diesem Artikel beleuchten wir anhand konkreter Praxisbeispiele, wie Unternehmen KI erfolgreich einsetzen, welche branchenspezifischen Herausforderungen bestehen und welche Lösungen sich bewährt haben. Dabei wird deutlich: Wer KI erfolgreich nutzen will, braucht nicht nur die richtige KI-Strategie, sondern auch das notwendige Know-how – denn ohne qualifizierte Mitarbeitende bleibt selbst die beste KI hinter ihren Möglichkeiten zurück.

Im zweiten Teil dieser Serie zeigen wir, worauf Unternehmen bei der Entwicklung einer KI-Strategie achten sollten und wie KI-Kompetenzen vermittelt werden können.

I. Status Quo: KI in deutschen Unternehmen

Laut einer aktuellen Bitkom-Studie setzen 20 % der deutschen Unternehmen KI-Systeme bereits ein, während sich 57 % zumindest mit dem Thema befassen. Besonders generative KI wie ChatGPT, Microsoft Copilot oder Google Gemini gewinnt an Bedeutung, bleibt aber in Unternehmen noch zurückhaltend genutzt. Rechtliche Unsicherheiten, Datenschutzanforderungen und ein Mangel an Fachkräften bremsen vielerorts den Fortschritt. Besonders der Mittelstand kämpft mit der praktischen Umsetzung: Die KI-Readiness-Studie des BMWK zeigt, dass nur 11 % der kleinen und mittelständischen Unternehmen (KMU) bereits KI nutzen, obwohl Systeme zur einfachen Integration bereitstehen. Neben Datenschutz- und Compliance-Fragen sind es vor allem fehlende Digitalisierungsstrategien und unzureichendes Datenmanagement, die den Einsatz hemmen. Gleichzeitig bleibt KI für den Mittelstand ein zentraler Innovationsfaktor, um langfristig wettbewerbsfähig zu bleiben.

II. Praxisbeispiele KI im Unternehmen

Künstliche Intelligenz bietet branchenübergreifend großes Potenzial zur Effizienzsteigerung, Automatisierung und besseren Nutzung von Ressourcen. Unternehmen setzen KI zunehmend in administrativen, analytischen und kundenorientierten Prozessen ein, um Zeit und Kosten zu sparen. Doch wie kann mein Unternehmen oder meine Abteilung konkret von KI profitieren und wie setze ich das um? Ob Abteilungen wie HR, IT und Kundensupport oder Branchen wie Medizin, Bildungswesen oder produzierendes KMU: Die folgenden Praxisbeispiele zeigen, wie KI-Systeme bereits erfolgreich genutzt werden, welche Lösungen Unternehmen für eine sichere und rechtssichere Implementierung finden.

1. IT-Sicherheit: KI als Schutzschild gegen Cyberangriffe

Angesichts zunehmender Bedrohungen durch Phishing, Ransomware und Deepfake-Angriffe gewinnt KI eine zentrale Bedeutung in der Cybersicherheit. Sowohl Google als auch der Verfassungsschutz Baden-Württemberg betonen, dass KI künftig unverzichtbar für IT-Sicherheitslösungen sein wird. Gleichzeitig setzen auch Angreifer verstärkt auf KI, was Unternehmen und Behörden zwingt, ihre Abwehrmechanismen weiterzuentwickeln.

Chancen und Einsatzmöglichkeiten:

Automatisierte Erkennung und Abwehr von Cyberangriffen
Schnelle Identifikation von Anomalien in Netzwerken zur Prävention
Schutz vor Deepfake-Phishing durch KI-gestützte Erkennung von manipulierten Inhalten

Herausforderungen:

Kontinuierliche Anpassung an neue Bedrohungen durch dynamische Angriffsmuster
Ressourcen und Investitionsbedarf für Implementierung neue Technologien
Mangel an Fachpersonal und erforderlichem Maß an KI-Kompetenzen gemäß KI-VO

Unternehmen sollten daher in KI-gestützte Sicherheitslösungen investieren, um aktuellen und zukünftigen Bedrohungen einen Schritt voraus zu sein. Besonders wichtig ist die regelmäßige Schulung von Mitarbeitenden, um sie für Deepfake-Phishing, Social Engineering und KI-gestützte Angriffe zu sensibilisieren. Datenschutzrechtlich ist sicherzustellen, dass keine unnötigen personenbezogenen Daten verarbeitet werden und Sicherheitslösungen mit Privacy-by-Design-Prinzipien entwickelt werden. Unser „KI-Beauftragter“ bietet Schulungen für Ihre Mitarbeiter an, um das Bewusstsein für die rechtlichen Anforderungen und ethischen Überlegungen im Umgang mit KI zu schärfen.

2.Kundensupport: KI-Chatbots für effiziente Kundenkommunikation

Immer mehr Unternehmen setzen KI-gestützte Chatbots ein, um Kundenanfragen automatisiert zu beantworten und den Support zu entlasten. Mit der Einführung der KI-Verordnung im August 2024 ergeben sich jedoch neue rechtliche Anforderungen für Chatbots und andere Allzweck-KI-Modelle (General Purpose AI). Entscheidend ist, ob ein Unternehmen nur einen bestehenden Chatbot nutzt (Betreiber) oder ein eigenes KI-Modell entwickelt und trainiert (Anbieter).

Chancen und Einsatzmöglichkeiten:

Automatisierte Bearbeitung von Standardanfragen, wodurch der Kundenservice entlastet wird
Personalisierte Kommunikation mit unternehmensspezifischen Daten
24/7-Verfügbarkeit ohne zusätzliche Personalkosten

Herausforderungen:

Rechtsunsicherheit bei Umsetzung der Compliance-Anforderungen (KI-VO, DSGVO etc.).
Unterschiedliche Hürden von Anbieter und Betreibern bei Transparenz- und Compliance-Pflichten
Akzeptanzprobleme und Angst bei Kunden vor falschen oder irreführenden Antworten

Arbeitgeber sollten ihre Rolle als Anbieter oder Betreiber eines Chatbots prüfen, um die regulatorischen Anforderungen der KI-VO zu bestimmen. Eine frühzeitige rechtliche Prüfung ist essenziell, besonders bei der Verarbeitung personenbezogener Daten. Zudem sollten Unternehmen Transparenz sicherstellen, damit Nutzer KI-Interaktionen klar erkennen. Der KINAST „KI-Beauftragte“ unterstützt bei rechtlichen Fragen, von Risikobewertung bis Vertragsprüfung, und gewährleistet die Einhaltung aller datenschutzrechtlichen und ethischen Vorgaben.

3. Personalwesen: KI im Recruiting

Künstliche Intelligenz revolutioniert zunehmend das Personalwesen und insbesondere das Recruiting. Unternehmen setzen KI-gestützte Systeme ein, um Bewerbungen effizienter zu analysieren, Talente gezielt auszuwählen und Verwaltungsprozesse zu automatisieren. Während KI im Personalbereich erhebliche Zeit- und Ressourceneinsparungen ermöglicht, ergeben sich auch Datenschutz und Diskriminierungsrisiken. Nach der KI-VO werden KI-Systeme im Bereich „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“ grundsätzlich als Hochrisiko-KI-Systeme eingestuft, jedenfalls wenn es ein Profiling natürlicher Personen vornimmt. Die Einstufung von Hochrisiko-KI-Systemen zieht vielfältige Compliance-Anforderungen mit sich.

Chancen und Einsatzmöglichkeiten:

Effiziente Bewerberauswahl durch Abgleich von Profilen mit Stellenanforderungen
Reduzierung administrativer Aufgaben in der HR-Abteilung durch Automatisierung
Gezielte Personalentwicklung mittels KI-gestützter Identifikation von Weiterbildungsbedarfen und automatisierter Lernpläne
Optimierte Bewerberkommunikation durch Chatbots

Herausforderungen:

Risiko von Diskriminierung und Verstöße gegen das Allgemeine Gleichbehandlungsgesetz durch Bias
Strenge Vorgaben bei der Verarbeitung von Bewerberdaten nach der DSGVO
Automatisierte Entscheidungen, sind nur unter strengen Bedingungen zulässig
Einhaltung der Compliance-Anforderungen für Hochrisiko-KI-Systeme
Pflicht zur Vermittlung von KI-Kompetenzen gemäß KI-VO für Arbeitgeber

Für den rechtssicheren und diskriminierungsfreien KI-Einsatz im Personalwesen sind technische und organisatorische Maßnahmen essenziell. KI-Experten der Kinast Rechtsanwälte raten zu folgendem Vorgehen: Arbeitgeber müssen Algorithmen regelmäßig prüfen, um Transparenz zu gewährleisten und Verzerrungen zu vermeiden. Die endgültige Entscheidung über Einstellungen und Beförderungen sollte dennoch stets bei Menschen liegen. Klare Datenschutzrichtlinien sichern die rechtskonforme Verarbeitung von Bewerberdaten. Frühzeitige Schulungen und Kommunikation mit Mitarbeitenden und Betriebsräten fördern Akzeptanz. Mit ausreichend KI-Kompetenz und verantwortungsvollem Einsatz kann KI den Recruiting-Prozess effizienter und fairer gestalten.

4. Produzierendes Gewerbe: Effizienzsteigerung für den Mittelstand

Der produzierende Mittelstand hat großes Potenzial für KI, doch fehlendes Know-how, Fachkräftemangel und langsamer Technologietransfer bremsen die Umsetzung und die Entwicklung der oben angesprochenen “KI-Readiness”. Während Großunternehmen KI oftmals bereits umfassend nutzen, bleibt der Mittelstand zurückhaltend. Laut dem Mittelstand-Digital Zentrum Chemnitz bietet künstliche Intelligenz vor allem Vorteile in der vorausschauenden Wartung, Prozessoptimierung und Qualitätskontrolle.

Ein Beispiel aus der Praxis zeigt, wie ein mittelständisches Unternehmen aus dem Werkzeugbau KI erfolgreich in der Fertigungsplanung eingesetzt hat. Um in der Fertigungsplanung bessere Prognosen für Zwischentermine zu erstellen und Abweichungen frühzeitig zu erkennen, entschied sich ein Unternehmen im Werkzeugbau für die Implementierung einer KI-gestützten Lösung. Hierzu wurde ein digitales Kanban-System entwickelt, das Aufträge und Termine visuell darstellt. Die gesammelten Echtzeitdaten fließen direkt in die KI ein, die dadurch ihre Prognosefähigkeit kontinuierlich verbessert. Nach mehreren Workshops wurde das System erfolgreich in den Betrieb integriert.

Chancen & Einsatzmöglichkeiten:

Einsparung von Energieverbrauch und Produktionskosten
datenbasierte Prozessoptimierung und KI-gestützte Echtzeitanalysen
Vorausschauende Wartung und Qualitätskontrolle durch KI-gestützte Bilderkennung zur Identifikation fehlerhafter Bauteile sowie zur Vermeidung von Maschinenausfällen
Automatisierte Terminierung von Aufträgen und Reduzierung von Verzögerungen

Herausforderungen:

Fehlende KI-Kompetenz und geschulte Fachkräfte zur Implementierung und Wartung
Komplexe regulatorische Anforderungen hinsichtlich DSGVO, KI-VO und EU Data Act
Herausforderungen bei der Integration der KI in bestehende (teils veraltete) Systeme
Aufbau einer soliden Datenbasis mit hoher Datenqualität und -verfügbarkeit
Akzeptanz der Mitarbeitenden und Notwendigkeit eines Change-Managements

Für eine erfolgreiche KI-Integration ist eine sorgfältige Planung und schrittweise Implementierung essenziell. Neben einer durchdachten Strategie ist ein wesentlicher Schlüssel zum Erfolg die Mitarbeiterqualifikation. Unternehmen sollten gezielt in Schulungen investieren, um Wissen über KI aufzubauen und die Akzeptanz zu erhöhen. Durch eine schrittweise Einführung in mehreren Workshops eine hohe Akzeptanz und KI-Kompetenz bei den Mitarbeitenden aufgebaut werden. Rechtlich sollte sichergestellt werden, dass bei der Datenerhebung für KI-Systeme keine personenbezogenen Daten ohne Zweckbindung verarbeitet werden, um DSGVO-Konformität zu gewährleisten. Zudem sind Maßnahmen zur Transparenz und des Risikomanagement gemäß der KI-VO zu treffen. Wir bei KINAST helfen bei der Entwicklung einer effektiven KI-Strategie, die Ihre Geschäftsziele unterstützt und gleichzeitig alle gesetzlichen Vorgaben von DSGVO und KI-VO erfüllt.

5. Medizin: KI zur Diagnostik und Terminvergabe

Künstliche Intelligenz revolutioniert die Medizin und verbessert Diagnostik, Behandlung und Patientenkommunikation, insbesondere in der Früherkennung schwerer Erkrankungen. Die PRAIM-Studie der Universität zu Lübeck zeigt, dass KI die Entdeckungsrate bei Brustkrebs um 18 % steigern kann, ohne mehr falsch-positive Befunde zu erzeugen. Gleichzeitig stellen Black-Box-Probleme und Manipulationsrisiken wie Data Poisoning Herausforderungen dar. Auch in der Praxisverwaltung spielt KI eine wachsende Rolle. Doctolib plant, KI-Systeme mit Gesundheitsdaten zu trainieren – mit Einwilligung der Nutzer, während nicht-medizinische Daten auf berechtigtem Interesse basieren sollen. Diese Praxis wirft Datenschutzfragen auf, da ein ähnlicher Versuch von Meta von europäischen Datenschutzbehörden gestoppt wurde.

Chancen und Einsatzmöglichkeiten:

Höhere Diagnosegenauigkeit durch KI-gestützte Bildanalyse und Mustererkennung
Personalisierte Therapieempfehlungen basierend auf Patientendaten
automatisierte Terminvergabe und Dokumentation
Optimierung der Patientenkommunikation, z. B. durch Chatbots

Herausforderungen:

Rechtliche Unsicherheiten zur Haftung bei Fehlentscheidungen von KI-Systemen
Hohe Datenschutzanforderungen der DSGVO an besonders sensible Gesundheitsdaten
Fehlende Transparenz von KI-Entscheidungen (Black-Box)
strenge Compliance-Anforderungen der KI-VO an medizinische Hochrisiko-KI-Systeme

Um das Potenzial von künstlicher Intelligenz in der Medizin sicher zu nutzen, sind technische und organisatorische Maßnahmen erforderlich. Dazu gehören transparente Algorithmen, regelmäßige Schulungen für medizinisches Personal und Meaningful Human Control, um sicherzustellen, dass der Mensch die finale Entscheidung trifft. Anbieter und Betreiber von medizinischen KI-Systemen sollten sich frühzeitig mit den Vorgaben der KI-Verordnung und der DSGVO auseinandersetzen und entsprechende Compliance-Prozesse implementieren. Bei der Nutzung personenbezogener Daten für das KI-Training ist strikt auf ein berechtigtes Interesse für die Verarbeitung oder einen anderen Erlaubnistatbestand zu achten. Hierbei kann beispielsweise die Stellungnahme des Europäischen Datenschutzausschusses (EDSA) zu KI-Modellen helfen. Nur durch eine rechtssichere, ethische und transparente Entwicklung kann das volle Potenzial der KI-Systemen im Gesundheitswesen ausgeschöpft werden, ohne Datenschutz oder Patientensicherheit zu gefährden.

6. Öffentliche Bäder: KI zur Lebensrettung

Ein weiteres Beispiel ist ein KI-basiertes Ertrinkenden-Erkennungssystem. Das KI-System Lynxight wurde von der KölnBäder GmbH im Stadionbad installiert, um die Sicherheit zu erhöhen. Es analysiert mit Kameras in Echtzeit die Wasserbewegungen und erkennt potenzielle Notlagen innerhalb von 30 Sekunden. Bei Gefahr alarmiert es automatisch das Personal über Smartwatches mit visuellen, akustischen und haptischen Signalen. Das System verkürzt die Reaktionszeiten und bietet zusätzliche Sicherheit – ersetzt jedoch nicht das geschulte Personal.

Chancen und Einsatzmöglichkeiten:

Frühzeitige Erkennung potenzieller Notlagen durch kontinuierliche Überwachung
Verkürzte Reaktionszeiten durch automatisierte Warnsignale an das Personal
Zusätzliche Sicherheit für Badegäste, insbesondere bei hohem Besucheraufkommen

Herausforderungen:

Schutz sensibler Videodaten im Schwimmbadkontext
Akzeptanz und Vertrauen von Badegästen und Personal
Technische Zuverlässigkeit und Vermeidung von Fehlalarme

Die KölnBäder GmbH hat das KI-System datenschutzkonform implementiert. Videoaufnahmen werden lokal gespeichert und nach 60 Sekunden gelöscht und es findet keine Gesichtserkennung statt. Die datenschutzkonforme Umsetzung zeigt, wie wichtig es ist, frühzeitig Datenschutzbeauftragte einzubinden und Mitarbeitende wie Kunden transparent zu informieren, um Vertrauen in KI-gestützte Überwachung zu schaffen.

7. Kirche: Digitalisierung und ethische Verantwortung

Die bayerische evangelische Landeskirche entwickelt eine KI-Strategie, um den sinnvollen Einsatz von Künstlicher Intelligenz in Verwaltung und Seelsorge unter Berücksichtigung ethischer Grenzen zu klären. Im Fokus stehen dabei Datenschutz, Transparenz und die Wahrung der Menschlichkeit, sodass etwa der persönliche seelsorgerische Kontakt nicht durch KI ersetzt wird.

Chancen und Einsatzmöglichkeiten:

Automatisierung administrativer Prozessen (z. B. Finanzanalysen, Kirchensteuerbescheide, Reisekosten)
Unterstützung mehrsprachiger Seelsorge durch Übersetzungen und Chatbots
Automatisierte Bereitstellung von Predigttexten und theologischen Inhalten

Herausforderungen:

Ethische Bedenken, da KI nicht die persönliche Seelsorge ersetzen soll
Hoher Ressourcenverbrauch, der mit Nachhaltigkeitsprinzipien kollidieren kann

Die Kirche setzt auf eine vorsichtige Digitalisierungsstrategie, die klare KI-Richtlinien etabliert und den Menschen als zentrale Komponente beibehält. Eine gut durchdachte KI-Strategie ist entscheidend für den Erfolg eines Unternehmens. Unser „KI-Beauftragter“ unterstützt Sie bei der strategischen Planung und Implementierung von KI-Lösungen. Wir helfen Ihnen, die richtigen Entscheidungen zu treffen und sicherzustellen, dass Ihre KI-Systeme im Einklang mit den rechtlichen Anforderungen der KI-VO stehen.

8. Bildungswesen und Sozialwirtschaft

Die Digitalisierung verändert zunehmend auch das Bildungswesen und die Sozialwirtschaft. Während KI-Systeme bereits in administrativen Prozessen wie der automatisierten Personalplanung und Rechnungsbearbeitung eingesetzt werden, bleibt ihr Einsatz in der direkten Klientenbetreuung bislang begrenzt. Ein Forschungsbericht der Universität Eichstätt-Ingolstadt zeigt, dass viele Organisationen der Sozialwirtschaft vorsichtige erste Schritte mit KI unternehmen, jedoch Bedenken hinsichtlich Datenschutz, ethischer Verantwortung und Akzeptanz bestehen. Ein Diskussionspapier des KI-Campus untersuchte in den Kontexten von Hochschule, Weiterbildung und Schule wie Künstliche Intelligenz in der Bildung eingesetzt werden kann. KI-basierte Lernplattformen können Schüler personalisiert fördern, Lehrkräfte entlasten oder administrative Aufgaben übernehmen. Gleichzeitig zeigt der KI-Campus, dass Schulen häufig unklar ist, welche digitalen KI-Tools sie datenschutzkonform einsetzen dürfen.

Chancen & Einsatzmöglichkeiten:

Personalisierte Lern- und Betreuungsangebote durch KI-gestützte Analyse individueller Bedürfnisse
Automatisierung von Prüfungskorrekturen, Pflege- und Verwaltungsprozessen
Optimierte Ressourcennutzung in Schichtplanung und Dokumentation
Vermittlung von KI-Kompetenzen als Future-Skill an Schüler
Fehlerminimierung in Datenverarbeitung und Qualitätssicherung

Herausforderungen:

Datenschutz und Datensicherheit (z. B. DSGVO-konforme Cloud-Speicherung, Anonymisierung)
Mangelnde KI- und Datenkompetenzen bei Lehrkräften, Pflege- und Sozialfachkräften
Algorithmische Verzerrungen (Bias) bei Bewertungen und Entscheidungsprozessen
Fehlende digitale Infrastruktur und sichere Datenhubs
Haftungsfragen bei KI-Fehlentscheidungen in Bildung und Sozialbetreuung

Ein verantwortungsvoller Einsatz von KI in Bildung und Sozialwirtschaft erfordert klare ethische Leitlinien, Datenschutzkonzepte und transparente Entscheidungsprozesse. Idealerweise sollten KI-Systeme lokal gehostet und Daten anonymisiert oder pseudonymisiert verarbeitet werden. Schulungen für Mitarbeitende und Lehrkräfte sind essenziell, um KI-Kompetenz aufzubauen, Ängste abzubauen und eine sichere Anwendung zu gewährleisten. Zudem sollten Algorithmen regelmäßig überprüft werden, um Diskriminierung und Verzerrungen zu vermeiden. Unsere KI-Experten der Kinast Rechtsanwälte empfehlen die Entwicklung interner Richtlinien zur Datenverarbeitung, Speicherung und Nutzung, um DSGVO- und KI-VO-konform zu arbeiten. Regelmäßige Compliance-Berichte und Risikominimierungsmaßnahmen helfen, Haftungsrisiken zu reduzieren. Mit einer durchdachten Strategie kann KI individuelle Förderung ermöglichen, Fachkräfte entlasten und Prozesse effizienter gestalten, ohne den Datenschutz zu gefährden.

9. KI in öffentlichen Institutionen: Bundestag, Polizei und Bundeswehr

Künstliche Intelligenz spielt eine zunehmende Rolle in der öffentlichen Sicherheit und der politischen Verwaltung. Während die Hamburger Polizei KI-gestützte Technologien für die innere Sicherheit testet und deren Training mit personenbezogenen Daten diskutiert wird, nutzt die Bundesverwaltung datengetriebene KI-Analysen für effizientere politische Entscheidungsprozesse. Auch die Bundeswehr forscht an Einsatzmöglichkeiten im Cyber- und Informationsraum sowie der elektronischen Kampfführung.

1. KI in der Verwaltung: PLAIN für datengetriebene Entscheidungen

PLAIN (Plattform Analysis and Information Systems) ist eine KI-basierte Datenanalyseplattform für die Bundesverwaltung, die im Rahmen der nationalen KI-Strategie entwickelt wurde. Ziel ist es, die ressortübergreifende Nutzung von Daten und KI zu ermöglichen, um Entscheidungsprozesse effizienter zu gestalten. Ein weiteres KI-Projekt im Bundestag ist die Spracherkennung „Whisper“, die Tonaufnahmen automatisch in Text umwandelt, um in Untersuchungsausschüssen die Protokollierung und Dokumentation zu erleichtern. Gleichzeitig warnt Bundestagspräsidentin Bärbel Bas, dass KI mit Bezug zu Wahlentscheidungen als Hochrisiko-KI eingestuft werden müsse.

Chancen und Einsatzmöglichkeiten:

Datengetriebene Politikgestaltung durch KI-Analysen über ressortübergreifende Themen
Automatisierte Dokumentation und Textanalyse

Herausforderungen:

Datenschutzrisiken bei der Nutzung sensibler Regierungs- und Bürgerdaten (Hochrisiko KI)
Erfordernis hoher Transparenz zum Schutz vor Beeinflussung politischer Entscheidungsprozesse
Notwendigkeit von KI-Kompetenz, um Fehlinterpretationen oder Verzerrungen zu vermeiden

PLAIN zeigt, dass KI Verwaltungsabläufe effizienter und digitaler gestalten kann. Gleichzeitig muss sichergestellt werden, dass KI nicht zur politischen Meinungsbildung missbraucht wird und Datenschutzstandards eingehalten werden. Die zentrale Pflicht der KI-Kompetenz (Art. 4 KI-VO) wird bei PLAIN durch Sprechstundenformate und Workshops aufgebaut. Unabhängig ob öffentlicher Träger oder privates Unternehmen, unsere KI-Experten der KINAST Rechtsanwälte empfehlen in jedem Fall mithilfe von Risikobewertungen geplante und bestehende KI-Systeme und -Prozesse auf potenzielle Schwachstellen im Hinblick auf Datenschutz, Rechtskonformität und IT-Sicherheit zu analysieren. Auf Grundlage des ermittelten Sicherheitsniveaus und den identifizieren Risiken können dann konkrete Maßnahmen abgeleitet werden.

2. Polizei: KI-Training mit personenbezogenen Daten

Wie aus dem Änderungsantrag zum Polizeigesetz (PolDVG) herausgeht, soll es der Hamburger Polizei ermöglicht werden, personenbezogene Daten für das Training und Testen von KI-Systemen zu verwenden. Unter bestimmten Umständen kann dabei auf die Anonymisierung oder Pseudonymisierung verzichtet werden, wenn dies als „unverhältnismäßiger Aufwand“ gewertet wird. Gleichzeitig wurde die KI-gestützte Videoüberwachung zur Analyse von Kamerabildern an öffentlichen Plätzen getestet, um Gefahrensituationen wie Schlägereien frühzeitig zu erkennen. Zukünftig soll KI noch stärker in die polizeiliche Arbeit integriert werden, um präventive Maßnahmen effektiver zu gestalten.

Chancen und Einsatzmöglichkeiten:

KI-Videoüberwachung zur schnelleren Identifikation von Gefahrensituationen
Datenanalyse in der Polizeiarbeit z.B. zur Vorhersage von Kriminalitätsschwerpunkten
Automatisierte Mustererkennung in großen Datenmengen

Herausforderungen:

Datenschutzrechtliche Bedenken, insbesondere durch den potenziellen Verzicht auf Anonymisierung
Risiko von Bias und Diskriminierung bei KI-gestützten Überwachungsmaßnahmen

Die geplanten Gesetzesänderungen werfen erhebliche datenschutzrechtliche Fragen auf. Besonders kritisch ist die unklare Definition von „unverhältnismäßigem Aufwand“, die der Polizei weitreichende Spielräume für die Datenverarbeitung gibt. Ob die Nutzung von KI in der Polizeiarbeit mit der DSGVO und grundrechtlichen Vorgaben vereinbar ist, ist noch zweifelhaft. Insbesondere im Hinblick auf die von der EDSA veröffentlichten Leitlinien zur Pseudonymisierung, die beleuchten, wie eine ordnungsgemäße Anwendung von Pseudonymisierung eine Datenverarbeitung rechtfertigen und die Wahrung von Datenschutzgrundsätzen gewährleisten kann.

3. Bundeswehr: KI in der Verteidigung

Auch die Bundeswehr setzt zunehmend auf KI-gestützte Systeme, insbesondere in den Bereichen Cyber- und Informationsraum sowie elektronische Kampfführung. Konkrete Einsatzbeispiele sind die Spracherkennung im Funkverkehr, automatisierte Bildauswertung sowie die Bekämpfung von Desinformation. Im KI-Labor des Bataillons für elektronische Kampfführung 912 testet die Bundeswehr seit 2010 verschiedene KI-Anwendungen.

Chancen und Einsatzmöglichkeiten:

KI-Bildauswertung von Lagebildern im Informations- und Cyberkrieg
Verbesserung der Kommunikationsinfrastruktur durch Spracherkennung

Herausforderungen:

Ethische und völkerrechtliche Bedenken bei KI-gestützten autonomen Waffensysteme
Rechtliche Unklarheiten über die Verantwortung für KI-Entscheidungen im Kriegsfall
Datenschutz- und Informationssicherheitsrisiken

Die Bundeswehr betont, dass KI-Systeme keine autonomen Entscheidungen über den Waffeneinsatz treffen dürfen und stets ein Mensch die Endkontrolle behält („Human in the Loop“). Dies ist eine wirkungsvolle Risikomanagementmaßnahme, um Diskriminierungs- und Haftungsfragen entgegenzuwirken. Zudem können ethische KI-Leitlinien und Schulungen eingesetzt werden, um Missbrauch und völkerrechtliche Verstöße zu verhindern.

III. Fazit und Handlungsempfehlungen

Künstliche Intelligenz bietet erhebliche Chancen, erfordert aber eine durchdachte Implementierung mit organisatorischen und technischen Risikomanagementmaßnahmen. Datenschutz und ethische Aspekte sollten von Anfang an beachtet werden. Unternehmen sollten:

Eine KI-Strategie entwickeln, die Technologie, Ethik und Compliance integriert.
Mitarbeitende frühzeitig einbinden, schulen und für den verantwortungsvollen Umgang mit KI-Systemen sensibilisieren, um die verpflichtende KI-Kompetenz nachzuweisen.
Datenschutz („Privacy by Design“) und Transparenz sicherstellen, insbesondere bei sensiblen Daten und Hochrisiko-KI-Systemen.

Im zweiten Teil dieser Serie zeigen wir, worauf Unternehmen bei der Entwicklung einer KI-Strategie achten sollten und wie KI-Kompetenzen vermittelt werden können.

Bei der Auswahl und Implementierung von KI-Anwendungen in Ihr Unternehmen können die Leitfäden der Datenschutzkonferenz, des EDSA oder der des Digitalzentrums Chemnitz sowie des Berufsverband der Datenschutzbeauftragten Deutschlands e.V. (BvD) Orientierung und Unterstützung bieten. Die Beratung durch externe Datenschutz- oder KI-Beauftragte können Unsicherheiten und Stress nehmen, sowie Ressourcen optimal einsetzen.

Unser KINAST „KI-Beauftragter“ ist von der Einhaltung der europäischen KI-Verordnung über Datenschutz-Compliance bis hin zur Schulung Ihrer Mitarbeiter ihr vertrauensvoller Partner für alle rechtlichen und regulatorischen Herausforderungen rund um den Einsatz von KI. Mit unserem kostenfreien Datenschutzticker-Newsletter erhalten Sie monatlich alle wichtigen Änderungen und Aktualisierungen rund um künstliche Intelligenz und Datenschutzrecht direkt in Ihren Posteingang.