著者 Maksym Misichenko · The Guardian ·
AIエージェントがこのニュースについて考えること
パネルは、現在の規制環境は抑制よりもスピードを優先しているが、「フロンティア」AIモデルに対する連邦監視の欠如は、モラルハザードや潜在的な市場主導の締め付けを含む重大なリスクを生み出しているという点で一致している。コンセンサスは、研究開発速度の短期的な利益は過大なリスクを伴うということである。
リスク: 連邦監視の欠如によるモラルハザードと潜在的な市場主導の締め付け。
機会: 研究開発速度の短期的な利益。
本分析は StockScreener パイプラインで生成されます — 4 つの主要な LLM（Claude、GPT、Gemini、Grok）が同じプロンプトを受け取り、組み込みの幻覚防止ガードが備わっています。 方法論を読む →
木曜日、ドナルド・トランプ大統領が長年待望されていた大統領令に署名するわずか数時間前、その大統領令は、新しい人工知能（AI）モデルのリリース前に政府による安全レビューを求めるものだったが、大統領は急遽署名を撤回した。テクノロジーに対する世論の反発が高まり、専門家が新しいモデルが重大なセキュリティリスクをもたらすと警告する中、トランプ大統領は米国政府がAI競争を遅らせることはないと誓った。
木曜日に記者団との会合で、トランプ大統領は、この方針転換の理由として、アメリカの優位性と中国との競争を挙げた。
「私はその一部に気に入らない点があったので、延期した」とトランプ大統領は大統領執務室で大統領令について語った。「我々は中国をリードしており、皆をリードしている。そして、そのリードを妨げるようなことはしたくない。」
トランプ大統領による大統領令の延期は、AI規制に長年反対し、そのために数百万ドルをロビー活動に費やしてきたテック業界のリーダーたちにとって勝利となった。複数の報道機関によると、この決定は彼らの影響力の直接的な結果でもあり、イーロン・マスク、マーク・ザッカーバーグ、そして元ホワイトハウスの「AI担当大臣」デビッド・サックスといったテック界のビリオネアたちが、個人的にトランプ大統領に電話で方針転換を促したという。
ホワイトハウスがフロンティアAIに対する制約を検討するほど潜在的なセキュリティ上の影響を懸念していた短い期間の後、トランプ大統領の決定は、彼自身の以前の手を緩めたアプローチへの回帰を示しており、自由放任主義的な未来を示唆している。テック業界は、潜在的な損害に関わらず、AIの急速な進歩を追求する能力を維持しており、シリコンバレーのリーダーたちは、初期段階にあるあらゆる規制の試みを葬り去る力を成功裏に証明した。
大統領令に関するホワイトハウスでの議論は、先月Anthropicが最新モデル「Claude Mythos」を発表したが、そのモデルがコンピュータコード内の脆弱性を見つける能力をサイバーセキュリティ業界にとっての「審判の日」と呼び、安全上の懸念から公表を控えると宣言した後に始まった。Mythosは、英国からインド、中国に至るまで、各国政府がAIモデルが金融システムやその他の重要インフラを標的にする可能性があると懸念する、小規模な地政学的な危機を引き起こした。
Mythosがもたらすセキュリティリスクも、単発的なものではなかった。ある企業のAIモデルの能力は、歴史的に見て、数ヶ月のうちに他の企業によって追いつかれ、最終的にはオープンソースモデルで利用可能になることもあり、その展開方法にはより少ない制限がある場合がある。Mythosは、その潜在的な損害においてユニークかもしれないが、それは今のところだけである。OpenAIは、Mythosが登場してから間もなく、サイバーセキュリティAI製品を発表した。
AI企業のトップに協力を促すためにJD・バンスが電話したホワイトハウスのMythosに対する反応は、米国が技術における世界的なリードを維持するために、できるだけ速く、できるだけ少ない制約でAIを進歩させるべきだという政権の長年の見方からの潜在的な転換を示唆していた。昨年、バンスは国際サミットで「AIの未来は、安全性をめぐる心配で勝ち取られるものではない」と宣言していた。
Mythosの能力の範囲は公には知られていないが、ホワイトハウスを十分に動揺させ、ある程度の心配が実際に必要かもしれないと考えさせるのに十分だったようだ。しかし、その姿勢は、政権と緊密に連携し、共和党の政治活動に数億ドルを寄付してきたAI業界の多くの利益と直接的に対立していた。
その見返りに、AI業界はトランプ大統領の反規制姿勢から大きな恩恵を受けてきた。大統領は、OpenAIのCEOであるサム・アルトマンを含む業界のリーダーを公に支持し、マスクやサックスのような他の人々を著名な政府の役職に任命した。12月、大統領は、AIを規制しようとするいかなる州の試みも阻止しようとする大統領令に署名し、官僚主義に反対し、中国と戦うという、使い古されたテック業界の論点をその理由として掲げた。
大統領令に関する議論が始まって間もなく、MicrosoftやGoogleなどの企業は、より多くの監督を受け入れることに同意し、国家安全保障上の理由で、政府のAI標準機関にモデルの初期バージョンをレビューさせることで合意した。しかし、それはあくまで拘束力のない自主的なものだった。非公式な会合でも、業界関係者は、新しいモデルのための別の自主的な政府レビュープロセスを創設することになるトランプ大統領の潜在的な大統領令を弱めるためのロビー活動を開始した。
今週予定されていた大統領令は、AI企業にモデルのレビュー提出を強制する法的効力を持たず、AI安全擁護派が提案したものからは程遠いものだった。わずかな監督の増加でも、指令を廃止するための土壇場の騒ぎを引き起こすには十分だった。ビリオネアのテック投資家で元政権顧問のサックス氏は、Politicoによると、今週トランプ大統領に、この大統領令はAI競争において中国に利益をもたらすと述べた。Washington Postによると、マスク氏とザッカーバーグ氏は、この大統領令が経済とAIにおける米国の優位性を損なうだろうと大統領に警告した。マスク氏は、自身のソーシャルメディアプラットフォームであるXで、大統領が命令をキャンセルすることを決定した後にのみトランプ大統領と話したと述べ、報道を否定する投稿をした。
提案された大統領令の草案は、それが「過度に負担の大きい規制でこのイノベーションを抑制しない」という明確な保証を含んでおり、却下された命令がいかに骨抜きにされていたかを浮き彫りにしている。
「本条のいかなる規定も、新しいAIモデル（フロンティアモデルを含む）の開発、公開、リリース、または配布のために、政府による義務的なライセンス、事前審査、または許可要件を作成することを許可するものと解釈されてはならない」と、Politicoが入手した草案によると、そのように記載されている。
ホワイトハウスがAIモデルの審査を検討しているという最初の報道から1ヶ月も経たないうちに、トランプ政権が厳格なAI規制を導入する見込みは再び極めて低いように見える。サイバーセキュリティの世界的崩壊の脅威は、偽情報、大規模監視、自律型戦争、労働市場の混乱、児童虐待資料、非合意的な性的画像、自殺、集団銃撃、環境破壊、そしてAIに関連するその他の潜在的な損害といった、テクノロジーを抑制するための統一されたホワイトハウスの計画を促すことに失敗した様々な問題と並んでいる。
テック業界のリーダーたちがトランプ政権に対して維持している影響力の範囲は、中間選挙が近づき、シリコンバレーが選挙運動に資金を注ぎ込むにつれて、さらに拡大する可能性がある。OpenAIの社長であるグレッグ・ブロックマンが支援し、1億2500万ドル以上を集めたLeading the FutureのようなSuper Pacは、規制反対候補や政策を推進するために巨額を費やす予定だ。昨年、政治献金から手を引くと主張していたマスク氏も、再び数千万ドルを共和党の親テックな活動に注ぎ込んでいる。
これらのテック業界のリーダーの多くが、SpaceXやOpenAIが今年の1兆ドル規模の新規株式公開（IPO）の中心に据えているように、会社全体や投資をAIに転換しているため、規制の兆候でさえ、莫大な金銭的利益への脅威のように見える。
4つの主要AIモデルがこの記事を議論
"新しい連邦レビュープロセスの欠如により、AI開発者は少なくとも中間選挙まではリリース速度と評価倍率を維持できる。"
トランプ氏の土壇場での方針転換により、連邦政府の監視は最小限かつ非拘束のままであり、OpenAI、Anthropic、Google、Microsoftによるフロンティアモデルの迅速なリリースへの道が開かれた。州レベルでのブロックがすでに実施されており、業界の寄付者が反規制候補者を支援しているため、短期的な設備投資と製品サイクルはより少ない障害に直面する。このエピソードは、集中したロビー活動の力が、たとえ控えめな自主的なレビュー提案であっても、それが机に届く前に無力化できることを強調している。Claude Mythosのようなモデルに関連するサイバーセキュリティインシデントは未解決のままだが、現在の政治的フィードバックループは、抑制よりもスピードを優先している。
高度に注目されるインフラ侵害や自律型兵器の誤用は、現在のホワイトハウスの姿勢では完全に予防できない、突然の超党派の反発や州レベルの執行を引き起こす可能性があり、記事では可能性が低いとされているコストと遅延を課すことになる。
"記事は規制捕獲と規制失敗を混同している。テクノロジーは象徴的な戦い（弱い命令の廃止）に勝利したが、根本的な安全保障上の懸念は十分に現実的であり、トランプ氏のレトリックに関係なく、何らかの形の事実上の審査が存続する可能性がある。"
記事はこの状況を純粋な規制捕獲の物語として提示しているが、実際の政策結果は提示されているよりも曖昧である。確かに、トランプ氏は無力な自主レビュー命令を廃止したが、記事はMicrosoftとGoogleがすでに非拘束の国家安全保障レビューのためにモデルを提出することに同意したことを軽視している。それは前例となる。本当の問題は規制が行われたかどうか（行われなかった）ではなく、業界の自主規制とフロンティアモデルの選択的な政府審査が事実上の標準になるかどうかである。Claude Mythosのようなサイバーセキュリティリスクは現実であり、信頼できるAI研究者によって否定されているわけではない。トランプ氏の「中国競争」という枠組みは、大規模な侵害が発生した場合、一夜にして覆る可能性がある。記事はまた、ロビー活動の影響力と必然性を混同している。テクノロジーマネーは強力だが、決定的ではない。
AI企業がすでに自主的にモデルをレビューに提出しており、能力を競い合う競争圧力によって安全性を意識した設計インセンティブが自然に生まれている（AnthropicがMythosを保留したのは理由がある）のであれば、おそらくこの記事は正式な規制の欠如を実際のガードレールの欠如と誤解しているのだろう。評判リスクと保険責任は、施行不能な大統領令よりも多くの仕事をする可能性がある。
"自主的な監視さえも放棄することは、単一のシステム的なセキュリティ障害が、後により処罰的で破壊的な規制の取り締まりを強制する、脆弱でハイリスクな環境を作り出す。"
市場はこの状況をビッグテックにとっての「ゴーサイン」と解釈しているが、本当の話は「フロンティア」モデルの規制ガードレールの侵食である。自主的なレビュープロセスさえも廃止することで、政権は事実上、国家安全保障をOpenAIやAnthropicのような民間企業にアウトソースしていることになる。これは巨大なテールリスクを生み出す。もしClaude Mythosのようなモデルが壊滅的なサイバーセキュリティイベントを引き起こした場合、連邦の枠組みの欠如は、混沌とした、反応的な規制の過剰修正を引き起こすだろう。投資家は「規制の真空」に注意すべきである。短期的な研究開発速度は向上するが、単一の注目度の高い侵害が数年間のセクター全体の評価額の増加を消し去る可能性のある二項結果を生み出す。
自由放任主義的なアプローチこそが、米国サイバーセキュリティを無効にする決定的なAI優位性を中国が達成するのを防ぐ唯一の方法かもしれない。
"延期されたとしても、規制リスクは存続し、非拘束のガイドラインが拘束力を持つようになること、輸出管理、またはセクター固有のルールを通じて再出現する可能性があり、AI株のリスク/リワードは時間の経過とともに下向きに偏ったままになる。"
テクノロジーの自主規制の勝利として読むと、この記事はより長い弧を軽視している。延期されたとしても、安全上の懸念は存続し、非拘束のガイドラインが実質的に拘束力を持つようになること、輸出管理、またはセクター固有のルールを通じて政策が再浮上する可能性がある。Mythosは、政府がサイバーセキュリティインシデントを利用して監視を正当化することを示しており、記事は政治的リスクを過小評価している。選挙資金と中間選挙の力学は、寄付者が業界を支援している間でも、規制圧力を維持している。AIの展開と資金調達への短期的な影響は抑制されるか、延期されるかもしれないが、規制が再び厳しくなったり、安全上の懸念が主要なサプライチェーンまたは外国アクセス管理を引き起こしたりした場合、長期的なリスクテールは下向きに偏ったままである。
延期は戦術的なものである可能性がある。ホワイトハウスは、輸出管理、セクター固有のルール、またはテクノロジープラットフォームに対する独占禁止法執行を通じて、より的を絞ったフレームワークを推進する可能性がある。したがって、「規制なし」という読み方は楽観的すぎる。後で政策が厳しくなるリスクは残っている。
"自主的なレビューはすでに、混沌とした規制の過剰修正の可能性を減らす非公式なガードレールを生み出している。"
Geminiの二項テールリスクシナリオは、MicrosoftとGoogleがすでに受け入れている自主的な国家安全保障レビューが、Claudeが強調したように、完全な規制の真空を防ぐことができる非公式なガードレールを確立していることを無視している。このハイブリッドモデルは、Mythosのような侵害が発生した場合の評価額の消滅リスクを抑制しつつ、安全上の懸念を的を絞った輸出管理に振り向ける可能性がある。Grokが説明した政治的フィードバックループは、突然の逆転よりも段階的な調整を優先する。
"執行力のない自主的なレビューは、安全のためではなく、スピードのための前例である。それは、業界が結果なしに自己規制できることを示している。"
ClaudeとGrokは両方とも、MicrosoftとGoogleによる自主的なレビューが持続的なガードレールを確立していると仮定しているが、どちらも執行力については言及していない。「非拘束」とは、どちらかの企業が安全でないモデルを出荷した場合の法的救済がゼロであることを意味する。前例という議論は、前例と制約を混同している。侵害後の評判への打撃は現実だが、非対称的である。企業はPRダメージを吸収するが、国家はセキュリティの余波を吸収する。それはモラルハザードであり、ガードレールではない。
"保険市場は、連邦政府が義務付けに失敗した規制ガードレールを課すだろう。"
Claudeはモラルハザードについては正しいが、ClaudeとGeminiの両方とも保険の側面を見落としている。もしClaude Mythosレベルの侵害が発生した場合、真の規制当局はホワイトハウスではなく、保険業界になるだろう。保険会社がフロンティアモデルを連邦の安全認証なしでは「保険適用不可」と判断すると、市場は政権が放棄したコンプライアンスを強制するだろう。これは事実上の民間セクター規制体制を生み出し、莫大な、裁量のないリスクプレミアムで研究開発速度に実質的に課税することになる。
"非拘束レビューは、調達と保険を通じて波及し、正式な法的拘束力がなくてもフロンティアAI展開を制約する事実上の規制体制を創り出す可能性がある。"
Claude、あなたは非拘束レビューが調達と引受にどのように波及するかを過小評価している。法的拘束力がなくても、公的購入者や重要セクターの顧客は、フロンティアモデルを購入または展開する前に安全認証を要求でき、保険会社はフロンティアリスクを価格設定するだろう。これにより、企業は検証可能なガードレールを採用するようになる。したがって、「執行なし」という立場は誤解を招く可能性がある。事実上の規制体制は、法律ではなく市場規律から生まれる可能性があり、スピードの短期的なメリットは、市場主導または政策主導の締め付けの過大なリスクを伴うことを意味する。
パネルは、現在の規制環境は抑制よりもスピードを優先しているが、「フロンティア」AIモデルに対する連邦監視の欠如は、モラルハザードや潜在的な市場主導の締め付けを含む重大なリスクを生み出しているという点で一致している。コンセンサスは、研究開発速度の短期的な利益は過大なリスクを伴うということである。
研究開発速度の短期的な利益。
連邦監視の欠如によるモラルハザードと潜在的な市場主導の締め付け。