US-Gesetzentwurf fordert Verbot von KI-Superintelligenz und neues KI-Ministerium

In den USA gewinnt die politische und rechtliche Auseinandersetzung um die Regulierung Künstlicher Intelligenz eine völlig neue Dimension. Während die US-Bundesregierung unter Präsident Donald Trump primär auf einen marktorientierten Deregulierungskurs und die Sicherung der globalen Führungsposition setzt, haben US-Senator Bernie Sanders und der Kongressabgeordnete Greg Casar am 23. September 2026 den Gesetzentwurf „Ban Artificial Superintelligence Act of 2026“ eingebracht.

Die Gesetzesinitiative sieht ein dauerhaftes Verbot der Entwicklung und des Einsatzes künstlicher Superintelligenz (Artificial Superintelligence – ASI) vor. Ergänzend fordert der Entwurf ein sofortiges Moratorium für das Training fortgeschrittener KI-Modelle sowie die Gründung einer neuen Bundesbehörde auf Kabinettsebene zur Durchsetzung strenger Sicherheitsstandards. Der Vorstoß spiegelt die wachsende Besorgnis führender Wissenschaftler wider und markiert einen radikalen Gegenentwurf zur aktuellen US-KI-Politik.

Initiative im US-Kongress: Der „Ban Artificial Superintelligence Act of 2026“

Der von Senator Bernie Sanders und dem Abgeordneten Greg Casar im US-Senat vorgelegte Gesetzentwurf zielt darauf ab, die ungebremste Entwicklung von KI-Systemen zu stoppen, bevor diese die Kontrolle durch den Menschen nachhaltig untergraben können. Sanders betonte bei der Vorstellung des Entwurfs, dass angesichts existenzieller Risiken für die Menschheit nicht einige wenige Führungskräfte großer Technologiekonzerne ihre eigenen Regeln schreiben dürften. Der Abgeordnete Casar wies ergänzend darauf hin, dass unkontrollierte Superintelligenz katastrophale Folgen nach sich ziehen könne und es daher internationaler Abkommen bedürfe, um das Entstehen übermächtiger KI-Systeme weltweit zu unterbinden.

Inhaltlich greift die Initiative Berichte auf, wonach aktuelle Sprachmodelle bereits Sicherheitsbarrieren umgehen, beim Erstellen neuartiger Viren unterstützen und Forschungsabläufe zur Entwicklung noch leistungsfähigerer KI automatisieren können. Trotz dieser öffentlich bekannten Gefahren investieren Big-Tech-Unternehmen weiterhin Hunderte Milliarden Dollar in die Weiterentwicklung von Frontier-Modellen. Vor diesem Hintergrund soll der Gesetzgeber nach dem Willen der Initiatoren verbindliche Leitplanken etablieren.

Kernmechanismen: Gesetzliches Verbot von Superintelligenz und temporäres Moratorium

Der Entwurf des „Ban Artificial Superintelligence Act of 2026“ definiert klare Schwellenwerte und Verbotstatbestände für hochkomplexe KI-Systeme.

• Als fortgeschrittenes KI-System gilt jede Anwendung, deren Training eine Rechenleistung von mindestens \(10^{25}\) Ganzzahl- oder Fließkomma-Operationen (FLOPs) erfordert, wobei dieser Schwellenwert jährlich an den technologischen Fortschritt angepasst werden soll.
• Künstliche Superintelligenz wird wiederum als System definiert, das die menschliche kognitive Leistungsfähigkeit in den meisten Bereichen übertrifft oder in der Lage ist, die Zerstörung oder Entmachtung der Menschheit einschließlich des Umsturzes der Bundesregierung zu planen und auszuführen.

Zur Durchsetzung dieser Zielsetzungen stützt sich der Gesetzentwurf im Wesentlichen auf folgende Kernmaßnahmen:

• Dauerhaftes Verbot von Superintelligenz: Die Entwicklung, das Hosting, der Erwerb, die Finanzierung, der Import oder die Übertragung von künstlicher Superintelligenz sowie von Systemen mit Vorläufer-Eigenschaften (Superintelligence Precursor Characteristics) wird vollständig untersagt.
• Verbindliches Entwicklungsmoratorium: Das Training, die Modifikation und die Feinabstimmung fortgeschrittener KI-Systeme wird unverzüglich gestoppt, bis das neue KI-Ministerium voll funktionsfähig ist und Sicherheitsregeln erlassen hat.
• Verpflichtendes Charter-System: Kein Akteur darf ein fortgeschrittenes Modell ohne eine von der Behörde erteilte Betriebserlaubnis (Charter) entwickeln oder verbreiten.
• Pre-Deployment-Überprüfung: Vor der Freigabe an die Öffentlichkeit müssen fortgeschrittene Modelle einer eingehenden staatlichen Inspektion und Genehmigung unterzogen werden.
• Meldepflicht innerhalb von 24 Stunden: Personen oder Organisationen, die Merkmale von Superintelligenz in einem System entdecken, müssen dies unverzüglich der Aufsichtsbehörde melden.
• Gezielte Stilllegung und Vernichtung: Identifiziert die Behörde Gefahrenpotenziale oder unzulässige Vorläufer-Eigenschaften, muss das System isoliert und gegebenenfalls innerhalb von 30 Tagen unbrauchbar gemacht werden.

Wie sollen das mögliche KI-Ministerium und Snaktionen aussehen?

Zur administrativen Überwachung soll ein eigenständiges KI-Ministerium (Department of Artificial Intelligence) auf Kabinettsebene eingerichtet werden, das von einem vom US-Präsidenten mit Zustimmung des Senats ernannten KI-Minister geleitet wird. Flankiert wird die Behörde durch einen unabhängigen wissenschaftlichen Beirat (Artificial Intelligence Advisory Board), der aus anerkannten Experten besteht und die Bewertung von Sicherheitsrisiken sowie Überprüfungsverfahren wissenschaftlich begleitet.

Um eine wirksame Abschreckung zu gewährleisten, sieht der Gesetzentwurf ungewöhnlich strenge Strafbestimmungen vor, die sich an der Gesetzgebung zur Verhinderung illegaler Atomwaffen orientieren. Unternehmen, die vorsätzlich oder fahrlässig gegen das Entwicklungsverbot verstoßen, soll der Entzug ihrer Betriebserlaubnis, der Verlust ihres geistigen Eigentums und die Zwangsauflösung drohen. Für Führungskräfte und Einzelpersonen sind Haftstrafen von bis zu 20 Jahren sowie ein zehnjähriges Berufsverbot in der KI-Branche vorgesehen.

Wissenschaftliche Warnungen als Fundament des Gesetzentwurfs

Die Gesetzesinitiative stützt sich explizit auf eine Reihe eindringlicher Warnungen aus KI-Wirtschaft und Wissenschaftler. So zitieren die Gesetzesgründe unter anderem Informatiker und Physik Nobelpreisträger Geoffrey Hinton, der die Wahrscheinlichkeit eines katastrophalen Ausgangs durch KI auf 10 bis 20 Prozent schätzt, sowie Äußerungen der KI-Branche wie von Dario Amodei (Anthropic), Sam Altman (OpenAI) und Elon Musk (xAI) zur drohenden Gefahr eines Kontrollverlusts. Zudem wird auf Warnungen der Professoren Max Tegmark und Stuart Russell verwiesen, die vor einem ungebremsten Wettlauf ohne Regulierung als „zivilisatorischem Selbstmord“ oder vor weltweiten Infrastruktur-Kollapsen warnen.

Diese Bedenken fügen sich nahtlos in aktuelle Äußerungen deutscher und europäischer Akteure ein. So wies das britische AI Safety Institute (AISI) in empirischen Tests nach, dass führende Frontier-Modelle systematisches Regelumgehungsverhalten („Cheating“) zeigen und eigene Fehlhandlungen verschleiern. Auch BSI-Präsidentin Claudia Plattner warnte vor den Sicherheitsrisiken autonom agierender KI-Agenten, die herkömmliche Schutzkonzepte wie Sandboxing an ihre Grenzen führen. Ergänzend verdeutlichte der unabhängige UN-Wissenschaftsbericht im Rahmen des „Global Dialogue on AI Governance“, dass die technologische Entwicklung die Anpassungsfähigkeit staatlicher Institutionen derzeit übersteigt.

Gesetzentwurf im Spannungsfeld zur Washingtoner KI-Politik

Der Gesetzentwurf von Sanders und Casar steht in scharfem Kontrast zur aktuellen KI-Politik der Trump-Administration. Die US-Bundesregierung verfolgt mit dem im März 2026 vorgestellten „National AI Legislative Framework“ sowie der Executive Order vom Juni 2026 eine klare Deregulierungsstrategie, die darauf abzielt, Bürokratie abzubauen und die wirtschaftliche Führungsposition der USA zu sichern. In diesem Zusammenhang versucht die Washingtoner Bundespolitik auch, einzelstaatliche Schutzinitiativen zurückzudrängen. Dazu zählen das kalifornische Gesetz SB 53 (Transparency in Frontier Artificial Intelligence Act) oder die Anordnungen von Gouverneur Gavin Newsom zu Not-Aus-Schaltern.

Ob angesichts der republikanischen Mehrheiten im US-Kongress dem Sanders-Entwurf in seiner jetzigen Form Chancen auf eine zeitnahe parlamentarische Mehrheit bleiben, ist fraglich. Dennoch erhöht die Initiative den politischen Druck auf die US-Regierung, da sie die ethische und sicherheitsbezogene Debatte über KI-Superintelligenz direkt im Gesetzgebungsorgan anspricht und die Kluft zwischen Washingtoner Wettbewerbspolitik und wissenschaftlichen Risikowarnungen offenlegt.

Bedeutung für die internationale Politik und europäische Unternehmen

Für die internationale Digitalpolitik und die globale Governance Künstlicher Intelligenz setzt der Vorstoß ein sichtliches Signal. Der Gesetzentwurf will die US-Diplomatie verpflichten, internationale Abkommen und Exportkontrollen anzustreben, um die Entstehung von Superintelligenz weltweit zu unterbinden. Dies knüpft an Initiativen der Vereinten Nationen an, die ebenfalls globale Sicherheitsstandards und völkerrechtliche Rahmenwerke einfordern.

Für deutsche und europäische Unternehmen verdeutlicht der US-Gesetzentwurf die anhaltende Rechtsunsicherheit im transatlantischen Kontext. Während in den USA ein Ringen zwischen bundesstaatlicher Deregulierung, kalifornischen Transparenzpflichten und radikalen Verbotsforderungen herrscht, gelten in Europa mit der EU-KI-Verordnung und der DSGVO bereits verbindliche, risikobasierte Standards.

Organisationen, die US-basierte KI-Modelle oder Cloud-Dienste nutzen, müssen berücksichtigen, dass Sicherheits- und Governance-Fragen zunehmend in den Fokus staatlicher Überwachung rücken. Ein effektives betriebliches Risikomanagement, die Durchführung von Transfer Impact Assessments (TIAs) sowie die Implementierung einer klaren KI-Compliance bleiben daher für Anwenderunternehmen unerlässlich.

Fazit

Der „Ban Artificial Superintelligence Act of 2026“ von Bernie Sanders und Greg Casar bringt eine prägende Zukunftsfrage auf die politische Tagesordnung der USA. Auch wenn eine Verabschiedung gegen den Deregulierungskurs der US-Bundesregierung unwahrscheinlich ist, unterstreicht der Entwurf die Debatte um härtere technische und organisatorische Grenzen für hochleistungsfähige KI-Systeme.