Googleは、米国国防総省と機密性の高いAI契約を締結したと報じられている。

Googleは、機密性の高い業務に人工知能モデルを使用するために、米国国防総省と契約を結んだと報じられています。このテクノロジー企業は、米国軍との契約を結ぶシリコンバレーの企業リストに加わりました。

The Informationの報道によると、この契約により、国防総省はGoogleのAIを「合法的な政府の目的」に使用できるようになり、OpenAIやElon Musk氏のxAIと同様に、機密性の高い用途にAIモデルを供給する契約を結んでいます。Googleや他のAI企業における同様の契約は、国防総省との大きな意見の相違や、従業員からの激しい反発を招いています。

機密ネットワークは、作戦計画や兵器照準など、幅広い機密性の高い業務の処理に使用されます。国防総省は2025年に、Anthropic、OpenAI、Googleを含む主要なAIラボとそれぞれ最大2億ドルの契約を結びました。政府機関は、OpenAIやAnthropicのようなトップAI企業に対し、標準的な制限なしで機密ネットワークでツールを利用できるようにすることを求めていました。

The Informationの報道によると、Googleの契約では、政府の要請に応じて、同社のAIの安全性設定やフィルターの調整を支援することが義務付けられています。

契約には、「当事者は、AIシステムが、適切な人間の監督と管理なしに、国内の大量監視や自律型兵器（標的選択を含む）に使用されることを意図しておらず、使用されるべきではないことに同意する」という文言が含まれています。

しかし、この契約は、Googleに合法的な政府の作戦上の意思決定を管理または拒否する権利を与えないとも述べている、と報道は付け加えています。

国防総省はこの件についてコメントを控えています。

Googleは、機密および非機密プロジェクトの両方で政府機関を支援していると述べています。同社の広報担当者は、同社は、AIが適切な人間の監督なしに国内の大量監視や自律型兵器に使用されるべきではないというコンセンサスに引き続きコミットしていると述べました。

Googleの広報担当者はReutersに対し、「業界標準の実践と条件を備えた、Googleインフラストラクチャ上を含む当社の商用モデルへのAPIアクセスを提供することは、国家安全保障を支援するための責任あるアプローチを表すと考えています」と語りました。

国防総省は、アメリカ人の大量監視や人間の関与なしに作動する致死性兵器の開発にAIを使用することには関心がなく、「合法的なあらゆる使用」を許可したいと述べています。Anthropicは、同社が自律型兵器や国内監視に使用されることに対するガードレールを削除することを拒否した後、今年初めに国防総省との関係が悪化し、Claudeの開発元はサプライチェーンリスクと指定されました。

Googleと国防総省の契約は、Googleの従業員からの手紙によると、従業員が「非人道的または極めて有害な方法」で使用される可能性があるという懸念にもかかわらず締結されました。

月曜日には、600人以上のGoogleの従業員がCEOのSundar Pichai氏宛ての公開書簡に署名し、Googleと国防総省との交渉に関する懸念を表明しました。

「私たちは、この技術への近さが、その最も非倫理的で危険な使用を強調し、防止する責任を生み出すと感じています」と彼らは書いています。「したがって、私たちのAIシステムを機密性の高いワークロードで利用できるようにすることを拒否するようお願いします。」

昨年、Googleの親会社であるAlphabetは、AI兵器や監視ツールの使用禁止を解除しました。同社は、倫理ガイドラインから「全体的な損害を引き起こす、または引き起こす可能性のある技術」を追求しないという約束を削除しました。同社のAI責任者であるDemis Hassabis氏は、ブログ投稿で、AIは「国家安全保障」を守るために重要になったと述べています。

一部のGoogle従業員は当時、同社の社内メッセージボードで、言葉遣いの変更について懸念を表明しました。Business Insiderによると、ある人は「私たちは悪者なのか？」と尋ねました。

戦争におけるAIと技術の使用は、長年Googleの従業員にとって不安の種であり、この問題に関する過去の活動は一定の成功を収めています。2018年には、数千人のGoogle従業員が、同社のAIツールを使用してドローン監視映像を分析する国防総省との契約への関与に抗議する書簡に署名しました。Googleは、その年、大規模な社内からの反発の後、Project Maven契約を更新しないことを決定し、物議を醸した監視分析会社Palantirが引き継ぎました。