Anthropicは最新AIモデルがソフトウェアセキュリティの弱点を露呈できると発表

Anthropicは火曜日、まだリリースされていない人工知能モデル「Claude Mythos」がソフトウェアの弱点を露呈するのに非常に長けていることが証明されたと発表しました。
Mythosは、一般的に使用されているアプリケーションで、パッチや修正が存在しない数千もの脆弱性を露呈しており、サンフランシスコに拠点を置くAIスタートアップは、ハッキングに対する防御を強化し、広範な配布を控えるために、サイバーセキュリティ専門家との提携を形成するよう促されました。
「私たちは、一般に公開することを意図的に行っていない新しいモデルを持っています」とAnthropic Labsのマイク・クリーガーはサンフランシスコで開催されたHumanX AIカンファレンスで述べました。
代わりに、Anthropicはサイバーセキュリティ専門家やオープンソースコミュニティのエンジニアにMythosを使わせ、モデルを防御兵器として使用し、「事前に武装させるようなもの」だとクリーガー氏は説明しました。
AIモデルの能力の飛躍は、ハッカーがパスワードの特定やデータの安全性を保つための暗号化の解読にそのようなツールを使用することへの懸念を伴ってきました。
Anthropicによると、Mythosによって発見された脆弱性のうち最も古いものは27年前にさかのぼり、AIモデルによって特定される前に、その作成者によって認識されていたものはありませんでした。
MythosはAnthropicのClaudeファミリーAIの最新世代であり、最近のコードの一部漏洩により、スタートアップは前例のないサイバーセキュリティリスクをもたらすと警告するブログ投稿を公開しました。
「AIモデルは、コーディング能力のレベルに達しており、ソフトウェアの脆弱性を見つけて悪用する上で、最も熟練した人間以外をすべて超えることができます」とAnthropicはブログ投稿で述べています。「経済、公共の安全、国家安全保障への影響は深刻になる可能性があります。」
Anthropicによると、Mythosによって露呈されたソフトウェアの脆弱性は、AIなしでは検出しにくい微妙なものが多くありました。例として、Mythosは、作成者によって500万回以上テストされたビデオソフトウェアに、以前は気づかれていなかった欠陥を発見したと述べています。
予防措置として、AnthropicはMythosのバージョンをサイバーセキュリティ企業であるCrowdStrikeおよびPalo Alto Networks、さらにはAmazon、Apple、Microsoftと共有しており、このプロジェクトを「Glasswing」と名付けました。
ネットワーキング大手のCiscoとBroadcomは、無料のオープンソースLinuxコンピュータオペレーティングシステムを推進するLinux Foundationとともに、このプロジェクトに参加しています。
「この作業は、単独で行うにはあまりにも重要で、あまりにも緊急です」とCiscoの最高セキュリティ・信頼責任者であるAnthony Grieco氏は、Glasswingに関する共同リリースで述べました。「AIの能力は、サイバー脅威から重要インフラストラクチャを保護するために必要な緊急性を根本的に変える閾値を超えており、後戻りはできません。」
コンピュータシステムの設計、保守、または運用の設計に関与している約40の組織がGlasswingに参加したと言われています。Anthropicによると、プロジェクトパートナーはMythosの発見を共有することになっており、Anthropicはこの任務のために約1億ドルのコンピューティングリソースを提供しています。Grieco氏によると、AIモデルとの初期の作業では、以前は不可能だったペースと規模でソフトウェアおよびハードウェアの脆弱性を見つけて修正できることが示されています。
「脆弱性が発見されてから敵対者に悪用されるまでの期間は短縮されました。かつて数ヶ月かかったことが、AIでは数分で起こるようになりました」とCrowdstrikeの最高技術責任者であるElia Zaitsev氏は述べています。
「Claude Mythos Previewは、防御者が大規模で可能になったことを示しており、敵対者は必然的に同じ能力を悪用しようとするでしょう」と彼は付け加えました。
Anthropicは、2月にホワイトハウスが同社とのすべての契約を終了するという布告にもかかわらず、Mythosに関して米国政府と協議を行ったと述べています。その命令は、Anthropicによる訴訟が裁判所を通過する間、連邦裁判官によって一時停止されました。