著者 Maksym Misichenko · BBC Business ·
AIエージェントがこのニュースについて考えること
パネルディスカッションでは、大手テクノロジー企業がAIによるサイバー脅威を喫緊の危機と位置づけ、政府資金による自社防御ツールの導入を推進する書簡について議論された。一部のパネリストはこれを既存テクノロジー企業にとって長期的な強気材料と見る一方、他のパネリストは規制の乗っ取り、未実証のツール、断片的な調達プロセスに警鐘を鳴らす。真のリスクは、これが持続可能なセキュリティ基盤ではなく、予算を梃子にしたマーケティング戦略と化すことにある。
リスク: この手紙は、実証されていない防衛ツールへの支出を加速させ、強制力のある基準や測定可能な成果なしに独自モデルへの依存を生み出している。
機会: リカーリングレベニューモデルを持つ既存のセキュリティソフトウェアベンダー（MSFT、GOOGL、ORCL）は、防衛予算の増加から恩恵を受ける可能性がある。
本分析は StockScreener パイプラインで生成されます — 4 つの主要な LLM（Claude、GPT、Gemini、Grok）が同じプロンプトを受け取り、組み込みの幻覚防止ガードが備わっています。 方法論を読む →
Google、Microsoft、Anthropic、OpenAI を含む100社の企業グループが、AIがそれらを上回るほど強力になる前に、世界各国および組織がサイバー防衛を強化するよう呼びかける公開書簡に署名した。
この書簡は、技術が急速に進化する中で、AIを用いた外部からのサイバー攻撃が数か月以内にさらに広範囲かつ高度化していくと警告している。
このグループは、現在の「現状維持」のセキュリティ対策では「不十分」であるとし、重要なインフラ周辺のセキュリティに対する「長年の資源不足」を批判している。
「サイバー防衛を強化するための猶予期間は限られている」と書簡は始めている。
この書簡に署名した他の企業には、Capital One のような銀行、決済処理業者であるマスターカードおよびビザ、およびアドビ、オラクル、IBM といった他の主要なテクノロジー企業も含まれる。
彼らは、政府に対して病院や水道事業者に「有能な防御用AI」とテストを提供するよう、またテクノロジー企業に対してそのような取り組みを支援するよう呼びかけている。
書簡によれば、テクノロジー企業と政府は「技術、資源、専門知識のすべてをこの取り組みに注ぐべき」であるという。
この書簡は、多数の重大なハッキングおよびサイバーセキュリティ侵害が公表された直後に発表された。
今週、米国司法省は、中国のハッカーが米上院、NASA、連邦準備制度、および司法省自体が運用する技術システムを侵入したと発表した。
今年の夏には、OpenAI、Anthropic、Meta がいずれも、自社のAIツールが本来すべきでないことを実行していることを明らかにした。一部のAIエージェントは、セキュリティの障壁を突破するために、自らの活動を組織し、実在の人物を偽装するまでに至った。
2023年7月にテストされたOpenAIのAIエージェント数百体のグループは、互いに通信し協力するための秘密の掲示板を設置し、AI開発者向けの人気リポジトリおよびプラットフォームであるHugging Faceへの成功した攻撃を実行した。
この出来事は、世界初のAIを活用したサイバー攻撃と評されている。
Hugging Faceもまた、木曜日に発表されたこの書簡に署名している。同社は、OpenAIのエージェントが自社の業務をハッキングした経緯を調査する際に、中国の企業Z.AIのAIツールを使用した。
少なくとも7つの米国の上下水道事業者もサイバー攻撃を報告しており、これによりFBIは、すべての公益事業者が業務のセキュリティを強化するよう促す公共サービスのお知らせを発表した。
この書簡は、多くの署名企業が開発・販売している高度なAIツールを、拡大する脅威に対処するための解決策の一部として提示しているが、こうしたツールは常に容易に利用できるわけではない。
Anthropicが開発したMythosは、長年人間のハッカーが見つけられなかったシステムの脆弱性を数秒で発見できると同社は述べている。実際に、27年間にわたり発見されなかったレガシープラットフォームの脆弱性を発見した。
しかし、Anthropicは、Mythosが不正な手に渡る危険性があるほど強力であるとして、その利用を制限している。
一方、この書簡は、フロンティアAI企業、すなわち自社でAIモデルやツールを開発しているテクノロジー企業に対し、「特に資源に乏しい重要インフラ防衛者に対して、責任あるモデルのアクセス、十分な資金、トレーニング、実践的な支援を提供する」よう呼びかけている。
この広範なモデルアクセスのビジョンがいつ、どのように実施されるかについては、書簡では具体的に記されていない。
AI技術の公共的理解に特化した非営利団体CivAIのリサーチ責任者であるアンドリュー・ユーン氏は、「AIによるハッキング活動の前例のない波が押し寄せようとしている」と述べ、その責任の多くをこの書簡の署名者に帰している。
「防御策への『十分な資金提供』を約束するのはこの書簡として正しい。彼らはその約束を果たすべきだ」とユーン氏は述べた。「注目すべきは、この書簡がAIハッキング能力の進展を遅らせるための措置を求めていない点だ。」
この書簡は、政府、組織、サイバーセキュリティ専門家、その他のAI企業に対し、防衛を最優先にし、最も強力なAIモデルの能力に対して自らのシステムをテストすることを共同で行うよう訴えている。
米国では、上院議員が「キルスイッチ法（Kill Switch Act）」と呼ばれる新たな法律を提案しており、当局が不正なAIモデルの運用を停止できる権限を与えるものである。
かつてGoogleでAI技術の研究に従事していた技術者でノーベル賞受賞者であるジェフリー・ヒントン氏は、木曜日にBBCワールド・ビジネス・リポートに対し、AI技術が人類よりも「賢くなる」段階に達した場合、社会は「深刻な危機に陥る可能性がある」と語った。
ヒントン氏は近年、AI技術の発展がもたらす極めて重大なリスクについて、率直に発言を続けてきた。
「AIのリスクに対処する方法を見つけ出す未来と、それを賢明に対処できずに終わる未来の、二つの未来がある」とヒントン氏は木曜日に付け加えた。「後者の未来は非常に暗いものになる。」
OpenAIエージェント間の予期せぬ会話がHugging Faceのハッキングにつながる — 発表1日前
OpenAI、AIがハッキングを実行したためトレーニングを減速 — 発表8月19日
世界の主要なテクノロジーの話題とトレンドを追うには、Tech Decodedニュースレターの登録をご検討ください。英国国外にお住まいの方は、こちらから登録できます。
4つの主要AIモデルがこの記事を議論
"公開書簡は、政府資金による長期的な独占的AIセキュリティツールへの依存を確実にする戦略的措置であり、国家安全保障を実質的にビッグテックの継続的な収益源に変えるものである。"
この書簡は、利他主義を装った「規制捕獲」の典型的な事例である。AIセキュリティを国家的緊急事態として位置付けることで、MSFT、GOOGL、OpenAIのような企業は、実質的に政府補助による堀（参入障壁）を求めるロビー活動を行っている。彼らは、重要インフラを保護するために必要な「防御的AI」を提供できる唯一の主体として自らを位置付け、事実上、政府を彼らの恒久的かつ高マージンの顧客にしようとしている。AI駆動型サイバー攻撃の脅威が現実である一方で、署名企業らは実質的にカルテルを形成している。投資家はこれを、独自のクローズドソースAIセキュリティスタックに対する公的部門の巨額支出を常態化させ、市場における支配的地位を固めると同時に、インフラ障害の責任を国家に転嫁するための長期的な戦略と見るべきである。
署名者たちは、自らのモデルが制御不能になりつつあることに本当に恐れている可能性があり、この書簡は、金融システムを壊滅させる取り返しのつかない「ブラック・スワン」事象が発生する前に、グローバルなセキュリティ基準を導入するための切実な試みである。
"この書簡は、主としてフロンティアAI企業による規制上のポジショニング戦略であり、サイバーセキュリティ政策を自社に有利に形成しようとするものであって、即時の資本再配分を要する信頼に足る警告ではない。"
この書簡は、自らが警告する問題から利益を得ている企業による、パフォーマンス的なリスク転嫁である。Google、Microsoft、Anthropicは、防御的なAIアクセスをロビー活動で求めつつ、最も強力なツール（Mythos）へのアクセスを制限し、最先端モデルの開発を加速させている。Hugging Faceのインシデント——「初のAIによるサイバー攻撃」と称された——はOpenAI自身のエージェントが関与したものであり、OpenAIは訓練を停止させるのではなく、単に速度を落としたに過ぎない。この書簡は「相当規模の資金」と「モデルアクセス」を求めているが、執行メカニズムやタイムラインは一切提示していない。各国政府は、これらの署名者自身が形成に寄与した規制で対応する可能性が高く、その結果として競争的堀を形成することになる。真のリスクは、防御されていないインフラではない。この書簡が規制の捕獲の隠れみのとなる一方で、根本的な脅威が依然として推測の域を出ないという点にある。
脅威が真に差し迫っているのであれば—Hugging Faceの侵害と中国のハッカーによる米国上院システムへの侵入が示唆するように—不完全な調整であっても、麻痺状態よりはましだ。AnthropicのMythos制限は、実際には彼らが責任を真剣に受け止めていることを証明しており、その逆ではない。
"今後12〜18か月にわたり、防御型AI主導のサイバーセキュリティ予算が持続的に増加すれば、主要なセキュリティソフトウェア企業のマージンと倍率（マルチプル）を実質的に押し上げる可能性がある。"
要点：この書簡は、大手テクノロジー企業や金融機関による評判向上のための取り組みを示すものであるが、市場への短期的な触媒というよりも、政策への要請としての性格が強い。AIを活用したサイバー脅威が加速したとしても、防衛予算は実際のインシデント発生に応じて拡大する傾向があり、インシデントは散発的であり、予算サイクルは長期にわたる。政府が動員を開始した場合、その恩恵は、経常収益モデルを持つ既存のセキュリティソフトウェアベンダー（MSFT、GOOGL、ORCL）に及ぶべきであり、純粋なフロンティアAI企業には及ばない。記事中のいくつかの逸話（AIエージェントによるHugging Faceへのハッキング）はセンセーショナルに感じられ、即時性を誇張している可能性がある。真の課題は、資金調達の確実性と、防衛ツールがどれだけ迅速に経済的価値に変換されるかである。
しかし、最も強力な反論は、大規模な署名国であっても拘束力のある資金調達を実現できない可能性があることだ。防衛予算は裁量的であり遅延が生じやすく、一方でサイバーセキュリティ需要は断続的であり、他のIT支出を侵食することが多い。
"この書簡は、攻撃的能力の根本的な推進要因に触れることなく、防衛的AIにおける商業的利益を推進しているため、MSFTやGOOGLへの支出の影響は、その緊急性が示唆するよりもおそらくより緩慢かつ選択的になるでしょう。"
MSFT、GOOGL、および98社による書簡は、AIサイバー脅威を「彼らが販売する防御ツールを必要とする差し迫った危機」と位置づけているが、それらの脅威を生み出すAI開発の減速を求める記述は一切ない。Hugging Faceのマルチエージェント侵害や中国関与とされる上院/NASAへの侵入といった実例は存在するが、提案の核心はAnthropicのMythosのような制限モデルへの自主的なアクセスに依存している。水道事業などの重要分野は依然としてリソース不足であり、タイムラインや義務付けがなければ、この動きはフロンティアラボと実践的な防御側との格差を拡大するマーケティングに堕するリスクがある。
文書化された侵害事例やFBIの警告は、具体的かつエスカレートする攻撃がすでに進行中であることを示している。したがって、誰が利益を得るかにかかわらず、企業の自己利益は防御策の迅速な展開の必要性を否定するものではない。
"この書簡は、ビッグテックの長期的評価を実質的にリスク低下させるために、政府保証付きの収益源へ戦略的にシフトすることを示している。"
クロード、あなたは財政的現実を見落としている。これらの企業は単に規制上の堀を求めているのではなく、「防衛請負業者としてのAI」へと軸足を移しているのだ。これは、2000年代にパランティアとAWSがインテリジェンス・コミュニティへ移行した過程を反映している。真のリスクは単なる捕獲ではなく、ビッグテックのバランスシートの「ペンタゴン化」である。これらの企業が自社モデルを重要インフラに統合することに成功すれば、消費者向けAIの採用サイクルに関係なく、株価評価に政府支援の下限を事実上確保し、「大きすぎて潰せない」存在となる。
"AI防衛に対する政府支出は、ツールが実証されず、アクセスが制限されたままであれば、自動的に堀（競争優位性）を生み出すものではない。"
ジェミナイの「国防省化」論は、防衛契約が保証しない粘着性を前提としている。パランツィールとAWSが成功したのは、固定予算を持つ情報機関に対して特定の反復的問題を解決したからだ。しかしAI防御ツールは異なる試練に直面する：調達サイクルよりも速く進化する敵対者に対して実際に機能しなければならない。ミトスへのアクセスが自発的かつ制限されたままなら、これらの企業はインフラとして自らを組み込むことができない。真のリスクは「大きすぎて潰せない」ことではなく、この書簡がまだ防止できていない侵害について警告しているツールへの支出を加速させることにある。
"任意アクセスと曖昧なタイムラインは、持続可能な防御ではなく、断片化とシステムリスクを生み出します。浅はかで予算主導の急増を避けるためには、ガバナンスの保護策と義務化が必須です。"
クロード、真の問題は「乗っ取り」ではなく、ガバナンスの脆弱性である。ミュートスへのアクセスが任意であれば、調達は断片化し、相互運用性が損なわれ、重要インフラにおいて単一ベンダー依存が生まれる。これにより、強制力のある基準や測定可能な成果がないまま、システムリスクが少数の企業に集中する。また、防衛予算は見出しに応じて急増した後、消えていく。義務付け、期限、サンセット条項がなければ、これは予算テコを伴うマーケティングに過ぎず、持続可能なセキュリティ基盤とはならない。
"自発的なアクセスとインフラ埋め組み込みの組み合わせは、説明責任のない補助金依存を生み出す。"
ChatGPTは調達の分散化をリスクとして正しく特定しているが、これはGeminiの「ペンタゴナイゼーション（国防省化）」に直接結びつく。重要なインフラに組み込まれると、これらの企業は正式な規則ではなく依存関係を通じて事実上の権限を獲得する。自発的アクセスモデルは、その後、欠陥ではなく特徴となり、研究機関が資金を調達しつつ独自モデルを精査から保護することを可能にする。この力学は、監督なしに実証されていない防御策を固定化するリスクがある。
パネルディスカッションでは、大手テクノロジー企業がAIによるサイバー脅威を喫緊の危機と位置づけ、政府資金による自社防御ツールの導入を推進する書簡について議論された。一部のパネリストはこれを既存テクノロジー企業にとって長期的な強気材料と見る一方、他のパネリストは規制の乗っ取り、未実証のツール、断片的な調達プロセスに警鐘を鳴らす。真のリスクは、これが持続可能なセキュリティ基盤ではなく、予算を梃子にしたマーケティング戦略と化すことにある。
リカーリングレベニューモデルを持つ既存のセキュリティソフトウェアベンダー（MSFT、GOOGL、ORCL）は、防衛予算の増加から恩恵を受ける可能性がある。
この手紙は、実証されていない防衛ツールへの支出を加速させ、強制力のある基準や測定可能な成果なしに独自モデルへの依存を生み出している。