カーナ議員、セーフガード確立まで「再帰的」技術を禁止するAI安全法案を提出へ

“厳格な責任と連邦政府による義務的なライセンス付与への移行案は、フロンティアAIラボにとって、事業上の摩擦とコンプライアンスコストを増加させることにより、バリュエーションの再評価を強いる可能性が高い。”

カーナ氏の提案は、「マグニフィセント・セブン」およびAI専門企業にとって、重大な規制上のテールリスクとなります。研究所に独立した監査人を常駐させ、安全装置の無効化を犯罪行為とするよう義務付けることで、この法案は実質的に立証責任を政府から民間部門に移します。市場は現在、高成長AIの収益化を織り込んでいますが、義務的な賠償責任保険と連邦政府のライセンス取得要件は、コンプライアンスのオーバーヘッドを増加させ、研究開発サイクルを遅延させることで、利益率を圧迫する可能性があります。もし可決されれば、これはコストを吸収できるマイクロソフトやグーグルといった既存企業に有利な「規制の堀」を作り出し、現在のセクターのバリュエーションプレミアムを支えているベンチャーキャピタル支援のイノベーションを抑制する可能性があります。

“この法案は、定義されていない用語と執行不可能な技術的規定により、規制上の見せかけを作り出しており、可決される可能性は低く、仮に可決されたとしても、フロンティアAIの開発を実質的に制約する可能性は低い。”

カーナ氏の法案は、政策を装った茶番劇だ。それは「フロンティアAI」のライセンス供与と監査を行う新しい連邦機関を提案しているが、どちらの用語も法的に定義されておらず、直ちに執行不能な混乱を生む。「再帰的自己改善禁止」は、以下の点を考慮すると、断固としたものに聞こえる。(1) 現在のLLMのほとんどは、すでにトレーニングを通じて自己最適化している。(2) 法案には、違反を検出する技術的メカニズムが欠けている。(3) 「セーフガードの無効化」に対する刑事罰は、直ちに修正第1条に関する訴訟を引き起こすだろう。賠償責任保険の要件は、唯一具体的な手段だが、保険会社はまだAIの破局的リスクを価格設定していないため、これは実際の安全性ではなく、コンプライアンス劇への課税となる。チップの輸出管理は地政学的に人気があるが、中国の国内ファブを止めることはできない。法案は中間選挙前に通過せず、その後激しいロビー活動に直面するだろう。

“ライセンス供与および監査義務が一部でも実施された場合、フロンティアモデルのタイムラインは少なくとも12ヶ月延長され、チップおよびモデル開発者のマルチプルに圧力がかかるだろう。”

カーナ議員の法案は、ライセンス供与、新たな監督機関、組み込み監査官、そしてセーフガード承認までの再帰的自己改善の禁止を導入し、OpenAI、Anthropic、Google DeepMind、xAIを直接標的としています。これにより、コンプライアンスコストが増加し、開発期間が延長され、フロンティアモデルに対する刑事責任と義務的な保険が追加されます。チップの輸出管理とサンドボックス要件もハードウェアサプライヤーに影響を与えます。中間選挙後まで下院での採決は予想されず、上院はすでに休会しているため、短期的な成立リスクは低いですが、この提案は規制の勢いが持続することを示唆しており、可決前であっても高倍率AI銘柄の成長仮定を再評価する可能性があります。

“可決された場合、この法案はAI開発のコストと複雑さを増大させ、ブレークスルーを遅らせる可能性があり、フロンティアワークを規制の緩い地域に押しやる可能性があります。”

カーナ氏の計画は、ガードレールが存在するまで再帰的な自己改善を禁止し、新たなAI安全機関を設立し、監査とライセンスを義務付け、特定の失敗を犯罪化することになる。最も大きなリスクは、規制の行き過ぎにより、安全上のメリットが証明される前にコンプライアンスコストが上昇し、イノベーションが遅れることである。この記事は実現可能性を軽視している。機関はフロンティアラボを効果的に取り締まり、「再帰的に自己改善する」を定義し、正当な実験と危険な活動を切り離すことができるだろうか？執行、資金調達、国際協調は不明確である。タイミングも不確実である。中間選挙後の下院のタイミングと上院の力学を考えると、これは差し迫ったものではないが、その軌跡は米国のAIラボのインセンティブや輸出管理を再構築する可能性があり、保護的および抑制的な効果の両方をもたらすだろう。