Google、Microsoft、xAIの新しいAIモデルを米国が安全テストへ

Google、Microsoft、xAIからの新しい人工知能（AI）ツールと機能が、一般公開される前に米国商務省によってテストされることになります。

これらのテクノロジー企業は、商務省のAI標準・イノベーションセンター（CAISI）を通じて、自社のモデルを自主的にテストに提出することに同意しました。

この新しい協定は、OpenAIやAnthropicなどのAI企業がバイデン政権下で合意した協定の拡大であり、これらの企業すべてのAIモデルがその能力とセキュリティについて評価されます。

CAISIのディレクターであるクリス・フォール氏は、「これらの拡大された業界連携は、極めて重要な時期に、公共の利益のための私たちの活動を拡大するのに役立ちます」と述べました。

全体として、AIツールの評価は、「商用AIシステムに関連するテスト、共同研究、およびベストプラクティス開発」を対象とします。

Googleの最も有名なAIツールは、子会社のDeepMindを通じて提供されるGeminiであり、これはGoogle製品で広く利用可能なチャットボットですが、現在では米国の防衛および軍事機関でも使用されています。

Microsoftの最も有名なAIツールはCoPilotであり、xAIの唯一のAI製品はGrokであり、これは画像内で人々を裸にする問題で広範な世間の精査を受けているチャットボットです。

火曜日、CASIは、「まだリリースされていない最先端モデルの評価とテストを含む、AIツールの40件の以前の評価を実施した」と述べました。

センターは、どのモデルが一般公開から停止されたかを特定しませんでした。

**CAISIの発表後に出版された企業ブログ投稿で、Microsoftは自社のAIモデルをすでにテストしていると述べましたが、「国家安全保障および大規模な公共安全リスクのテストは、必然的に政府との共同作業でなければなりません。」**

GoogleのDeepMindの広報担当者はコメントを控えました。xAIを現在管理しているElon Musk氏の会社であるSpaceXの担当者は、コメントの要求に応じませんでした。

商用AIツールの研究および安全テストのために、より多くの企業を巻き込むことは、AIおよびテクノロジー企業に対する監督または規制に対して、ほとんど何もしないアプローチをとってきたトランプ政権にとって、方針転換を示しています。

昨年、米国大統領ドナルド・トランプ氏は、彼の政権の「AI行動計画」の基礎を形成する一連の大統領令に署名し、AI開発に関する「規制緩和と負担の大きい規制を撤廃」し、米国がテクノロジーの進歩と制御を通じて「勝利」することを保証すると述べました。

しかし、米国軍がAIの使用を拡大し、最近Anthropicが一般公開するには強力すぎるMythosというモデルを開発したと主張していることから、ホワイトハウスは見通しを変えているようです。

BBCが以前報じたように、トランプ氏の側近は先月AnthropicのCEOであるDario Amodei氏と会談しましたが、同社はAnthropicが政府によるモデルの使用に対する安全ガードレールの削除を拒否したことに関して、米国国防総省との訴訟に巻き込まれています。