UN startet Initiative für globale KI-Governance

Die rasante Entwicklung Künstlicher Intelligenz hat eine globale Debatte über deren Regulierung entfacht. Einen neuen Höhepunkt erreichte diese nun am 6. und 7. Juli in Genf. Mit der Eröffnung des ersten „Global Dialogue on AI Governance“ und der zeitgleichen Veröffentlichung des „Preliminary Report of the Independent International Scientific Panel on AI“ versuchen die Vereinten Nationen, eine wissenschaftlich fundierte Basis für eine weltweite Zusammenarbeit zu schaffen. UN-Generalsekretär António Guterres warnte eindringlich vor den Folgen eines ungebremsten technologischen Wettlaufs. Er betonte, dass die Wissenschaft nun klare Fakten geliefert habe, weshalb man nicht länger sagen könne, man habe von nichts gewusst. Für deutsche und europäische Unternehmen, die zunehmend auf KI-Lösungen angewiesen sind, werfen diese Entwicklungen grundlegende Fragen zur Compliance und zur langfristigen Stabilität des transatlantischen Datenaustauschs auf.

Der UN-Wissenschaftsbericht: Wenn Regulierung mit der Technik ringt

Der Bericht des unabhängigen Expertengremiums verdeutlicht, dass die Fähigkeiten der KI-Systeme das wissenschaftliche Verständnis und die Anpassungsfähigkeit der Regierungen derzeit übertreffen. Yoshua Bengio, Co-Vorsitzender des Panels, wies darauf hin, dass die Wissenschaft aktuell nicht garantieren könne, dass KI-Systeme bei fortschreitender Leistungsfähigkeit keinen katastrophalen Schaden anrichten. Sei es durch bösartige Akteure oder durch autonomes Fehlverhalten. Die Experten identifizieren ein zentrales „Evidenz-Dilemma“, wonach politische Entscheider zwar wissenschaftliche Belege für Regulierungen benötigen. Diese lägen aber oft erst dann vor, wenn es für ein wirksames Eingreifen bereits zu spät sein könnte. Guterres ergänzte in seiner Eröffnungsrede, dass unsere Institutionen darauf ausgelegt seien, Maschinen zu steuern, die Befehlen folgen, jedoch nicht bereit seien für Maschinen, die eigenständige Entscheidungen treffen.

Machtkonzentration und die Dominanz der US-Technologiegiganten

Ein wesentlicher Aspekt der UN-Analyse ist die massive Konzentration von Rechenleistung und Entwicklungskapazitäten in den Händen weniger Akteure und Staaten. Schätzungen des Berichts zufolge entfallen etwa 75 Prozent der Rechenleistung der weltweit führenden KI-Supercomputer auf die USA, während China etwa 15 Prozent hält. Maria Ressa, ebenfalls Co-Vorsitzende des Panels, warnte davor, dass die Kräfte, die die KI-Entwicklung vorantreiben, nicht zwangsläufig dieselben seien, die auch deren gesellschaftlichen Nutzen sicherstellen. Diese Dominanz führt dazu, dass ein Großteil der Weltgemeinschaft kaum Einfluss auf die Standards und Sicherheitsvorkehrungen der Technologien hat, die ihre Zukunft maßgeblich mitgestalten werden.

Aus europäischer Sicht verstärkt dies die Abhängigkeit von US-Infrastrukturen und wirft die Frage auf, inwieweit lokale Werte und Datenschutzstandards in diesen globalen Modellen überhaupt abgebildet werden können.

Grenzüberschreitende Kooperation der UN für globale KI-Governance

Um der beschriebenen Machtkonzentration entgegenzuwirken und technologische Fortschritte mit universellen Werten in Einklang zu bringen, eröffnete die UN am 6. Juli 2026 in Genf den ersten „Global Dialogue on AI Governance“. Es versammelten sich über 4.000 Teilnehmern aus Politik, Wirtschaft, Zivilgesellschaft und Wissenschaft. Dieses Format zielt darauf ab, die wissenschaftlichen Erkenntnisse des Vorberichts in praktisches, globales Handeln zu übersetzen.

UN-Generalsekretär António Guterres verdeutlichte die Dringlichkeit in seiner Eröffnungsrede mit der Feststellung, dass KI mit „atemberaubender Geschwindigkeit“ voranschreite. Es stelle die Menschheit vor der Wahl, die Transformation gemeinsam zu steuern oder sich von ihr steuern zu lassen. Der Dialog soll insbesondere das bestehende Ungleichgewicht korrigieren, bei dem bisher vor allem technologisch fortgeschrittene Nationen die regulatorischen Rahmenbedingungen prägten, während die am stärksten betroffenen Länder des Globalen Südens kaum Mitsprache hatten. Guterres betonte, dass der Dialog nun erstmals „jedem Land einen Sitz am Tisch“ gebe, um eine sicherere, fairere und ethischere KI zu gestalten.

Konkrete Schutzziele des UN-Dialogs

Annalena Baerbock, in ihrer Funktion als Präsidentin der UN-Generalversammlung, unterstrich in diesem Kontext, dass es bei diesem globalen Austausch nicht lediglich um die Regulierung einer Technologie gehe. Vielmehr gehe es darum, eine geteilte Vision zu definieren, in der „technologischer Fortschritt Hand in Hand mit menschlicher Würde, Gerechtigkeit und nachhaltiger Entwicklung geht“. Zu den im Dialog diskutierten Prioritäten gehören gemeinsame Sicherheitsstandards, die Rechenschaftspflicht von Entwicklern sowie der Schutz grundlegender Menschenrechte.

Ein konkretes Ziel ist die Verabschiedung eines „AI Child Safety Pledge“. Dieser soll Unternehmen dazu verpflichten, die Sicherheit von Systemen für Kinder nachzuweisen. Zudem forderte Guterres erneut ein völkerrechtliches Verbot von lethalen autonomen Waffensystemen – sogenannten „Killer-Robotern“ –, da Maschinen, die über Leben und Tod entscheiden, „moralisch verwerflich“ seien.

Für deutsche und europäische Unternehmen bedeutet dieser Vorstoß eine potenzielle Ausweitung der Compliance-Anforderungen auf globaler Ebene. Hierbei legt die UN-Initiative den Fokus verstärkt auf die „Sicherheit durch Design“ und eine wirksame menschliche Aufsicht.

Implikationen für die Unternehmenspraxis in der EU und Deutschland

Besondere Brisanz erhält die Debatte durch aktuelle rechtliche Entwicklungen in den USA (insbesondere die Entscheidung des US Supreme Court zur Unabhängigkeit der FTC), die das Fundament des transatlantischen Datentransfers erschüttern könnten. Da die FTC im Rahmen des EU-US Data Privacy Framework (DPF) als zentrale, unabhängige Aufsichtsbehörde fungiert, steht die europarechtlich geforderte Unabhängigkeit der Datenschutzkontrolle nun erneut zur Disposition. Experten weisen darauf hin, dass die Schwächung solcher Kontrollinstanzen die Tragfähigkeit des Angemessenheitsbeschlusses infrage stellt und bereits Stimmen laut werden, die ein mögliches „Schrems III“-Verfahren vor dem Europäischen Gerichtshof prognostizieren.

Für deutsche Unternehmen bedeutet diese Gemengelage eine Fortdauer der Rechtsunsicherheit bei der Nutzung US-basierter KI-Dienste. Obwohl der Angemessenheitsbeschluss formal in Kraft bleibt, sollten Verantwortliche ihre Datentransfers im Rahmen von Transfer Impact Assessments regelmäßig neu bewerten und prüfen, ob ergänzende vertragliche Absicherungen wie Standardvertragsklauseln notwendig sind. Die UN-Initiative drängt zudem auf die Etablierung globaler Sicherheitsstandards, wie etwa einen „AI Child Safety Pledge“, und fordert völkerrechtliche Verbote für autonome Waffensysteme.

Es bleibt abzuwarten, ob der globale Dialog der UN in Genf tatsächlich zu einer Harmonisierung führt oder ob die regulatorische Fragmentierung zwischen den großen Wirtschaftsblöcken weiter zunimmt, was insbesondere für international agierende Unternehmen den Compliance-Aufwand erheblich erhöhen würde.

Fazit

Die Vereinten Nationen haben mit dem wissenschaftlichen Bericht und dem Genfer Dialog verdeutlicht, dass das Fenster für eine kollektive Gestaltung der KI-Zukunft zwar noch offen ist, sich jedoch rasch schließt. Während die technologische Entwicklung neue Horizonte in der Medizin und Forschung eröffnet, bleibt die rechtliche und ethische Einhegung eine Herkulesaufgabe.