Kategorie: Künstliche Intelligenz
28. März 2024
Am 21.03.2024 erklärten die Vereinten Nationen (UN), dass die Generalversammlung eine Resolution zur Förderung sicherer und vertrauenswürdiger künstlicher Intelligenz (KI) für eine nachhaltige Entwicklung verabschiedet hat. Dabei möchte sie Menschen- und Grundrechte, insbesondere auch die Privatsphäre, schützen und Diskriminierung verhindern. Ziel ist es KI-Systeme zu erschaffen, die erklärbar, auf den Menschen fokussiert, ethisch, datenschützend und nachhaltig sind. (mehr …)
27. März 2024
Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI), Ulrich Kelber, hat am 20.03.2024 seinen 32. Tätigkeitsbericht übergeben. Hierin fasst er die Arbeit der Behörde im vergangenen Jahr zusammen und arbeitet wichtige Entwicklungen und Herausforderungen im Datenschutz heraus. (mehr …)
18. März 2024
Am 13.03.2024 hat das EU-Parlament formal die Verordnung für Künstliche Intelligenz (KI-Verordnung) beschlossen. Die Annahme markiert einen bedeutenden Schritt in Richtung Innovation. Ihr Ziel ist es, die Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz vor hochriskanter KI zu schützen und gleichzeitig Innovationen zu fördern. (mehr …)
1. Februar 2024
Italien erhebt wiederholt schwere Vorwürfe gegen OpenAI, weil ChatGPT sich nicht an Datenschutzrecht halte. Die Datenschutzvorwürfe gegen ChatGPT aus Italien könnte sich neben dem KI-Chatbot auch auf die Verabschiedung der KI-Verordnung auswirken. Diese soll noch diese Woche von allen EU-Mitgliedsstaaten unterzeichnet werden. (mehr …)
31. Januar 2024
Am 24.01.2024 verkündete die Europäische Kommission (EU-Kommission), dass sie ein Europäisches Amt für Künstliche Intelligenz (AI Office oder KI-Amt) eröffnen will. Diese Entscheidung geht einher mit den jüngsten Entwicklungen in Bezug auf die geplante KI-Verordnung und soll ebenfalls zur effektiveren Regulierung und Überwachung von KI in der EU beitragen. (mehr …)
29. Januar 2024
Nachdem das Europäische Parlament im Dezember 2023 die geplanten Verordnung zur Künstlichen Intelligenz (KI-Verordnung) beschlossen hat, schreitet ihre Fertigstellung weiter fort. In diesem Zusammenhang sind letzte Woche zwei inoffizielle Versionen des Entwurfs aufgetaucht. Die umfangreichen Dokumente gewähren einen detaillierten Einblick in den aktuellen Stand und Nuancen der vorgeschlagenen Gesetzgebung. Ob die für den 02.02.2024 geplanten Abstimmung allerdings zu einer Verabschiedung der KI-Verordnung führen wird, bleibt unsicher und steht somit auf der Kippe. (mehr …)
13. Dezember 2023
Die Europäische Union hat sich endlich über die Entwicklung und Anwendung von Künstlicher Intelligenz (KI) geeignet. Hierdurch sie soll eine sichere und vertrauenswürdige Anwendung unter Beachtung der Grundrechte, der Demokratie und des Umweltschutzes garantiert werden, die gleichzeitig weiter Innovation fördert. Am 08.12.2023 beschließt hierzu das Europäische Parlament (EU-Parlament) und der Rat eine Einigung über den sogenannten AI Act (KI-Verordnung). Dies gab das EU-Parlament in einer Pressemitteilung am 09.12.2023 bekannt. Im Rahmen der Verordnung werden KI-Systeme in verschiedene Kategorien unterteilt, die jeweils unterschiedlichen Regulierungen unterliegen. (mehr …)
4. Dezember 2023
Die Dynamik der Künstlichen Intelligenz (KI) fordert einen klaren rechtlichen Rahmen, besonders im Hinblick auf den Datenschutz. In diesem Kontext stellt die Konferenz der unabhängigen Datenschutzbehörden des Bundes und der Länder (DSK) die Forderung nach einer umfassenden und klaren Verantwortlichkeitsregelung für Hersteller und Betreiber von KI-Systemen auf. Hierbei geht es Insbesondere über das geplante europäische Gesetz über Künstliche Intelligenz (KI-Verordnung). In einer Pressemitteilung vom 29.11.2023 betont die DSK, dass eine Selbstregulierung für KI nicht reicht.
(mehr …)
30. November 2023
Der Bereich der Künstlichen Intelligenz (KI) nimmt weiter an Fahrt auf. Erst kürzlich haben die G7-Länder Leitlinien für KI festgelegt. Auf EU-Ebene wird unter Hochdruck auf die Schaffung einer KI-Verordnung hingearbeitet. Nun haben 18 Staaten eine neue globale KI-Richtlinie unterzeichnet und am 27.11.2023 veröffentlicht. Im Gegensatz zu der geplanten KI-Verordnung hat die Richtlinie allerdings keinerlei bindenden Charakter.
„Secure by design“-Richtlinie unterzeichnet von 18 Ländern
In einer gemeinsamen Initiative haben Deutschland und 17 weitere Länder – darunter auch die USA und Großbritannien – eine bahnbrechende Richtlinie für die Entwicklung von KI unterzeichnet. Ziel ist es, KI-Systeme bereits während ihrer Entstehung sicher zu gestalten. Lindy Cameron, CEO des britischen National Cyber Security Centres (NCSC), hält diesen Schritt für notwendig, um der rasanten Entwicklung von KI nachzukommen. Nur so könne man globale Risiken richtig einschätzen und passende Strategien zu deren Eindämmung entwickeln.
Sicherheit als oberste Priorität bei KI-Entwicklung
Als erste globale KI-Richtlinie, um sichere KI-Entwicklung zu gewährleisten, bezeichnet die britische Regierung die neue Vereinbarung. Die Richtlinie solle Entwickler-Unternehmen dabei unterstützen, informierte Entscheidungen für die Schaffung sicherer KI-Systeme zu treffen. Der „secure by design“ Ansatz bedeute, dass der Sicherheitsaspekt den gesamten Entwicklungs-, Einführungs- und Betriebsprozess bestimmen und sich die Unternehmer hieran orientieren sollen.
Keine Unterscheidung von KI-Arten
Die von Großbritannien veröffentlichte Vereinbarung legt Wert darauf, dass KI-Anwendungen, unabhängig von ihrer Art, sicher sind. Neben den KI-Systemen selbst, gilt die Richtlinie deswegen auch für Produkte, die KI nur verwenden, nicht aber selbst entwickelt haben. Das wird damit begründet, dass informierte Entscheidungen in Bezug auf Cybersicherheit ebenso für Anwendungen getroffen werden müssen, die auf bereits bestehenden KI-Modellen basieren. Im Umkehrschluss bedeute das aber auch, dass gleichsam Entwickler kleinerer KI-Dienste verantwortlich sind.
Richtlinieninhalt: Vier Sicherheitsbereiche
Die neuen Regelungen lassen sich in vier Hauptbereiche unterteilen.
Entwurfsphase
Zum einen soll sichergestellt werden, dass KI-Systeme sicher designt werden. Dafür müssen betroffene Unternehmen zunächst ihre Mitarbeiter über Gefahren und Risiken aufgeklären. Dann soll das System angepasst an die Risiken unter Abwägung der Vor- und Nachteile für Sicherheitsaspekte entworfen werden.
Entwicklungsphase
Zudem muss auch in der anschließenden Entwicklungsphase dieser Aspekt beachtet werden. Werden für die Entwicklung andere KI-Systeme verwendet, muss ihre Sicherheit analysiert und überwacht werden. Im nächsten Schritt muss jeder weitere Vorgang, der bei der KI-Entwicklung vorgenommen wird, dokumentiert, verwaltet und auf Risiken geprüft werden.
Bereitstellungsphase
Im Rahmen der Bereitstellungphase sollen die KI-Unternehmen zunächst Cybersicherheitsmaßnahmen implementieren. Daneben müssen auch Prozesse für das Vorgehen in einem Sicherheitsvorfall festgelegt werden. Zudem dürfen Betreiber das System für die öffentliche Nutzung erst bereitstellen, nach sorgfältiger Prüfung. Nach Veröffentlichung müssen die Nutzer bei der sachgemäßen Verwendung des Produkts unterstützt werden. Dazu gehört auch das sie Leitlinien in die Hand bekommen, die ihnen zeigen, welche Beschränkungen und rechtlichen Vorgaben sie einhalten müssen.
Betrieb und Wartung
Zuletzt sind Risiken auch nach der Bereitstellung kontinuierlich zu minimieren. Das beinhaltet eine ununterbrochene Systemüberwachung, Kontrolle von Missbrauchsfällen, regelmäßige Updates und eine Berichterstattung.
Verhaltenskodex statt Innovationsbremse
Passend zu den aktuellen Hemmnissen bei der Schaffung der europäischen KI-Verordnung, haben die KI-Richtlinien keine Bindungswirkung. Vielmehr sollen sie Unternehmen als Orientierung und Empfehlung für eine sichere KI-Entwicklung dienen. Das auch Deutschland und Frankreich diesen Ansatz unterstützen überrascht vor dem Hintergrund nicht, dass sie mit Hinblick auf die KI-Verordnung sich in einem Positionspapier für eine verpflichtende Selbstregulierung statt einer strengen Regulierung einsetzen.
Fazit
Die globale Unterzeichnung einer neuen KI-Richtlinie ist zweifellos ein Schritt in Richtung Sicherheit im KI-Bereich. Es bleibt jedoch die Frage, ob nicht-bindende Empfehlungen ausreichen, um die wachsenden Herausforderungen im KI-Bereich zu bewältigen. Während auf EU-Ebene weiterhin Verhandlungen über die KI-Verordnung stattfinden, zeigen Länder wie Deutschland, Frankreich und Italien eine Zurückhaltung gegenüber verpflichtenden Regulierungen für Basismodelle. Die Debatte um die Sicherheit von KI-Systemen wird zweifellos weitergehen.
22. November 2023
Am 20. und 21. November 2023 fand erneut der Digital-Gipfel (früher IT-Gipfel) der Bundesregierung statt – unteranderem zum Thema Künstliche Intelligenz (KI). Dazu luden Bundesminister für Wirtschaft und Klimaschutz, Robert Habeck, und Bundesminister für Digitales und Verkehr, Volker Wissing, rund 1.000 Teilnehmer nach Jena ein. Dieses Jahr trägt die Veranstaltung den Titel “Digitale Transformation in der Zeitenwende“. Auf dem Digital-Gipfel 2023 wurde auch über die Zukunft einer KI-Regulierung diskutiert. In einem weiteren Beitrag berichten wir auch über die Besprechungen zur geplanten e-Patientenakte.
Bundesregierung über Notwendigkeit einer KI-Regulierung für Europa
Bundeswirtschaftsminister Robert Habeck betonte die Notwendigkeit einer ausgewogenen KI-Verordnung auf europäischer Ebene. Ähnlich wie die Bundesregierung in einem im Oktober bekanntgewordenem Positionspapier ausdrückt, sollen die neuen Regelungen laut Habeck innovationsfreundlich sein. In einem Podcast des Digitalverbandes Bitkoms zum Auftakt des Gipfels betont er die Bedeutung einer vernünftigen und ausgewogenen KI-Verordnung auf europäischer Ebene. Hingegen könne eine übermäßige Regulierung den Fortschritt behindern. Anderenfalls sei es so, als ob man die “besten Verkehrsvorschriften, aber keinen Verkehr auf der Straße” hätte. Zudem will er Investitionen der Privatwirtschaft in die neue Technologie fördern. Deswegen dürfe ein Gesetz lediglich die Anwendung nicht jedoch die Technologie selbst betreffen, um dem Bedürfnis an Innovation und Sicherheit nachzukommen. Weiterhin sprach sich Habeck für eine erhöhte Datenverfügbarkeit aus. Zu dem enormen Bedarf an Datenmengen für neue Technologien passe der Ansatz der Datensparsamkeit nicht mehr. Diese Daten müsse man selbstverständlich anonymisieren.
Auch Volker Wissing erkennt die Bedeutung der Zukunftstechnologie. In einer Pressemitteilung betont er die Relevanz von KI für anhaltende Wettbewerbsfähigkeit und Wohlstand. Man solle chancenorientiert Handeln und lokale Unternehmen in der Entwicklung stärken.
Parallel hierzu wurde laut LTO am Montag ein Positionspapier bekannt, in dem sich Deutschland, Italien und Frankreich gegenüber der spanischen Ratspräsidentschaft für eine risikobasierte Herangehensweise einsetzen. Heise online berichtet, dass die Bundesregierung auf eine unmittelbare “Regulierung von Foundation Models verzichten” wolle.
Kritik an der Richtung der Bundesregierung
Die Positionierung der Bundesregierung führte zu viel Kritik, wie heise online berichtet. Matthias Spielkamp von Algorithm Watch unterstelle der Bundesregierung gar keine echte Regulierung, sondern nur Selbstregulierung zu wollen. Dies sei allerdings nicht gerechtfertigt, da es sich nicht um bloße Grundlagenforschung handle. Habeck habe dem entgegnet, dass auch Atomforschung erlaubt sei. Heise online weist in diesem Zusammenhang allerdings darauf hin, dass Atomforschung “fast auf der ganzen Welt strenger Regulierung” unterliegt.
Kritik sei auch von EU-Abgeordneten Axel Voss (CDU) gekommen. Selbst wenn man eine Selbstregulierung ausreichen lasse, müssten jedenfalls minimale Transparenz- und Cybersicherheitsstandards gegeben sein. So stünde dies aktuell schon im Entwurf zum AI Act.
DGB fordert Mitbestimmung beim KI-Einsatz
Andererseits betone der Deutsche Gewerkschaftsbund (DGB) in Bezug auf den Digital-Gipfel die Bedeutung der Mitbestimmung der Sozialpartner bei der KI-Anwendung. Das rechtfertige sich dadurch, dass der Einsatz von KI am Arbeitsplatz „hochsensibel“ sei. Die DGB-Vorsitzende Yasmin Fahimi kritisierte gegenüber der dpa die geplante KI-Verordnung der EU. Der Entwurf bestimme keine Mitspracherechte der Sozialpartner, was sogar zu einer Reduzierung der bereits bestehenden Gestaltungsrechte führen könne. Deswegen fordere Fahimi – vergleichbar zur Datenschutzgrundverordnung (DSGVO) – die Schaffung einer Öffnungsklausel, um Beschäftigte zu schützen.
Fazit
Der Digital-Gipfel 2023 bietet ein facettenreiches Bild der aktuellen Herausforderungen und Chancen im digitalen Zeitalter insbesondere mit Blick auf die noch ausstehende KI-Regulierung. Die Diskussionen von verschiedenen Seiten zeigt, wie komplex und vielschichtig das Thema ist.
Während zu begrüßen ist, dass die Bundesregierung das große Potential dieser Zukunftstechnologie erkannt zu haben scheint, darf die Schaffung von Schutzmechanismen hierbei nicht außer Acht gelassen werden. Neben des von der DGB zu Recht erkannten Schutz der Arbeiterschaft, müssen auch ganz allgemein Datenschutzaspekte eingehalten werden. Dabei steht bei der Zuführung von Trainingsdaten vor allem die sorgfältige Anonymisierung personenbezogener Informationen im Vordergrund. Auch ganz generell birgt unregulierte KI politisch, gesellschaftlich, sozial und wirtschaftlich genauso große Gefahren wie Potentiale.
Die auseinandergehenden hier dargestellten Meinungen sowie die aktuellen Probleme, die sich bei der Schaffung der KI-Verordnung zeigen, verdeutlichen, dass hier noch einiges an Konfliktpotential besteht. Es bleibt zu hoffen, dass man einen Ansatz finden wird, der sowohl Fortschritt gewährleistet, als auch ausreichenden Schutz bietet. Wie eine konkrete Regulierung am Ende aussehen wird, bleibt spannend.
