Khanna will AI-Sicherheitsgesetz mit Verbot 'rekursiver' Technologie einführen, bis Schutzmaßnahmen bestehen

“Die vorgeschlagene Verlagerung hin zu strikter Haftung und obligatorischer bundesweiter Lizenzierung wird wahrscheinlich eine Neubewertung der Bewertung erzwingen, indem sie die operative Reibung und die Compliance-Kosten für Frontier-KI-Labore erhöht.”

Khannas Vorschlag stellt ein erhebliches regulatorisches Restrisiko für die „Magnificent Seven“ und spezialisierte KI-Unternehmen dar. Durch die Verpflichtung unabhängiger Prüfer, die in Laboren tätig sind, und die Kriminalisierung der Deaktivierung von Schutzmaßnahmen verlagert dieser Gesetzentwurf effektiv die Beweislast von der Regierung auf den privaten Sektor. Während der Markt derzeit eine hohe Wachstumsrate bei der Monetarisierung von KI einpreist, könnten die Anforderungen an eine obligatorische Haftpflichtversicherung und eine bundesstaatliche Lizenzierung die Margen durch erhöhte Compliance-Overhead-Kosten und verlangsamte F&E-Zyklen schmälern. Wenn verabschiedet, schafft dies einen „regulatorischen Burggraben“, der etablierte Unternehmen wie Microsoft und Google begünstigt, die diese Kosten absorbieren können, während er potenziell die durch Risikokapital finanzierte Innovation erstickt, die derzeit die Bewertungsprämien des Sektors antreibt.

“Der Gesetzentwurf schafft regulatorisches Theater mit undefinierten Begriffen und nicht durchsetzbaren technischen Bestimmungen, was es unwahrscheinlich macht, dass er verabschiedet wird oder, falls doch, die Entwicklung von Frontier AI wesentlich einschränkt.”

Khannas Gesetzentwurf ist Theater, das sich als Politik ausgibt. Er schlägt eine neue Bundesbehörde vor, um „Frontier AI“ zu lizenzieren und zu prüfen – definiert aber keinen der Begriffe rechtlich, was sofortige Durchsetzbarkeitsprobleme schafft. Das „Verbot der rekursiven Selbstverbesserung“ klingt entschlossen, bis man erkennt: (1) die meisten aktuellen LLMs optimieren sich bereits durch Training selbst; (2) dem Gesetzentwurf fehlen technische Mechanismen zur Erkennung von Verstößen; (3) strafrechtliche Sanktionen für das „Deaktivieren von Schutzmaßnahmen“ werden sofortige Klagen wegen Verletzung des Ersten Verfassungszusatzes auslösen. Die Anforderung einer Haftpflichtversicherung ist der einzige konkrete Hebel, aber Versicherer kalkulieren das Risiko von KI-Katastrophen noch nicht ein – dies wird also zu einer Steuer auf Compliance-Theater, nicht auf tatsächliche Sicherheit. Exportkontrollen für Chips sind geopolitisch beliebt, werden Chinas inländische Fabs aber nicht aufhalten. Der Gesetzentwurf wird vor den Midterms nicht verabschiedet und sieht sich danach intensivem Lobbying-Druck ausgesetzt.

“Lizenz- und Auditmandate werden die Zeitpläne für Frontier-Modelle um mindestens 12 Monate verlängern, wenn sie auch nur teilweise umgesetzt werden, was den Multiplikatoren für Chip- und Modellentwickler Druck machen wird.”

Khannas Gesetzentwurf führt Lizenzen, eine neue Aufsichtsbehörde, eingebettete Prüfer und Verbote der rekursiven Selbstverbesserung ein, bis Sicherheitsvorkehrungen genehmigt sind, und zielt damit direkt auf OpenAI, Anthropic, Google DeepMind und xAI ab. Dies erhöht die Compliance-Kosten, verlängert die Entwicklungszeiten und führt strafrechtliche Haftung sowie eine obligatorische Versicherung für Spitzenmodelle ein. Chip-Exportkontrollen und Sandbox-Anforderungen treffen auch Hardware-Lieferanten. Da keine Abstimmungen im Repräsentantenhaus vor den Midterms erwartet werden und der Senat bereits vertagt ist, ist das kurzfristige Umsetzungsrisiko gering, aber der Vorschlag signalisiert eine anhaltende regulatorische Dynamik, die die Wachstumserwartungen für KI-Namen mit hohen Multiplikatoren bereits vor der Verabschiedung neu bewerten könnte.

“Wenn das Gesetz verabschiedet wird, könnte es die Kosten und Komplexität der KI-Entwicklung erhöhen und Durchbrüche verlangsamen, was die Spitzenforschung möglicherweise in weniger regulierte Regionen verlagern könnte.”

Khannas Plan würde eine rekursive Selbstverbesserung verbieten, bis Leitplanken existieren, eine neue KI-Sicherheitsbehörde schaffen, Audits und Lizenzen vorschreiben und bestimmte Versäumnisse unter Strafe stellen. Das größte Risiko ist eine übermäßige Regulierung, die die Compliance-Kosten erhöht und die Innovation verlangsamt, bevor Sicherheitsvorteile nachgewiesen sind. Der Artikel geht nicht auf die Machbarkeit ein: Kann eine Behörde die Spitzenlabore effektiv überwachen, 'rekursiv selbstverbessern' definieren und legitime Experimente von gefährlichen Aktivitäten trennen? Durchsetzung, Finanzierung und internationale Koordination sind unklar. Auch der Zeitpunkt ist ungewiss: Die Zeitplanung des Repräsentantenhauses nach den Midterms und die Dynamik des Senats bedeuten, dass dies nicht unmittelbar bevorsteht, aber die Entwicklung könnte die Anreize für US-KI-Labore und Exportkontrollen neu gestalten, mit sowohl schützenden als auch unterdrückenden Auswirkungen.