ガーディアン紙、AnthropicのClaude Mythosを論じる：AIがあらゆる欠陥を発見したとき、インターネットを誰が支配するのか？ | 論説

Anthropicはこの月、最新のAIモデルClaude Mythosを発表したが、コンピューターを犯罪現場に変えてしまうため、一般公開はしないと述べた。同社は、これまで知られていなかった「ゼロデイ」脆弱性を発見し、それを悪用し、原理的にはこれらの弱点をリンクさせて主要なオペレーティングシステムやウェブブラウザを乗っ取ることができると主張した。Mythosは自律的にコードを書き、権限を取得した。その影響は大きい。それは、泥棒があらゆる建物を標的にし、侵入し、すべてのドアの鍵を開け、すべての金庫を空にできるようなものだ。

シリコンバレーの同社は、これまでにProject Glasswingの下で40の組織をパートナーとして指名し、ハッカーが悪用する機会を得る前に脆弱性を「パッチ」するのを支援するよう求めている。すべてアメリカの組織であり、米国主導のデジタルシステムの中心に位置している。Anthropicは米国以外では英国のみにMythosを提供し、AIセキュリティ研究所が最先端モデルをテストできるようにした。英国の閣僚は、それを間近で見て、「AIはサイバー攻撃をはるかに容易かつ迅速にするだろう。そしてほとんどの企業は準備ができていない」と警告した。欧州の銀行も次にテストする可能性が高い。

これは早すぎるということはないかもしれない。今週、不正アクセスの報告が表面化し、このような能力をいかなる民間企業に信頼できるのかという疑問が生じている。Mythosは必ずしも新しい種類のサイバー脅威を生み出すわけではない。それは潜在的な弱点をシステムリスクに変える。ハッキングは伝統的に困難で時間がかかり、少数の人々しか持たないスキルを必要とした。しかし、AIツールは急速に普及しており、専門家だけでなく多くの人々がシステム侵害を手の届く範囲に置いている。

密猟者をゲームキーパーに変えることもできる。MozillaはMythosをFirefoxブラウザでテストした。その結果、以前よりも10倍多くの欠陥を発見し、それらを修正した。決定的なのは、それらの欠陥は人間が見つけられないものではなかったことだ。変化したのは、AIが「サイバー脆弱性」を迅速、安価、かつ大規模に発見することだ。

米国政府がAnthropicを受け入れたことは、変化を示している。2月、国防総省は同社を「セキュリティリスク」とみなし、大量監視や自律型兵器への技術使用を拒否したため、有利な契約から除外した。代わりにOpenAIが契約を獲得した。Anthropicは、そのClaudeチャットボットとともに、長らく競合他社の中で倫理的な選択肢として自身を位置づけてきた。ただし、昨年の15億ドルの海賊行為和解により、そのイメージは傷ついた。

Mythosは強力だが、AnthropicのPRはテクノロジーと同じくらい物語を形作ってきた。Mythosが実際にどれほど先進的であるかという疑問もある。研究者たちは、より小さく、より安価なモデルを大規模に展開しても同様の偉業を達成できることを示している。ブレークスルーのように見えるものは、分野全体のより広範な変化を反映している可能性がある。ホワイトハウスは、Anthropicが戦略的価値を持っていると考えている。同社を再び受け入れ、AI企業を請負業者としてではなくパートナーとして扱うことから、その関係性の変化を示唆している。それはより深い懸念を引き起こす。特に、より責任の低い主体が技術的優位性を獲得した場合、民間企業が重要なインフラストラクチャのリスクを管理することが賢明かどうかだ。

明らかに、最も強力なAIモデルを作成する主体（国家であれ企業であれ）は、友人にも敵にも地政学的な優位性を得るだろう。しかし、サイバーセキュリティに関する国際協調の枠組みがなければ、安全なインターネットが一つではなく、互いにシステムを「パッチ」し、互いを全く信頼しない、いくつかの競合するインターネットが存在するリスクがある。それはもはやグローバルコモンズではなくなるだろう。代わりに、ウェブはセキュリティ同盟に分割され、より厳重に守られるようになるだろう。その一方で、より広範な何かが静かに失われていく。

-
**この記事で提起された問題についてご意見はありますか？公開を検討するために、最大300語の回答をメールで送信したい場合は、ここをクリックしてください。**