パウエル、ベッセント両氏、AnthropicのMythos AIによるセキュリティリスクについて銀行に警告：Bloomberg

米国財務長官のスコット・ベッセント氏と連邦準備制度理事会（FRB）議長のジェローム・パウエル氏は、今週初めにウォール街の銀行CEOらと会合を開き、Anthropic社の新しい人工知能モデルに関連するサイバーセキュリティリスクについて警告したと報じられています。

*Bloomberg*の報道によると、この会合にはCitigroup、Bank of America、Wells Fargo、Morgan Stanley、Goldman Sachsの幹部が参加しました。当局者は、最近その高度なサイバーセキュリティ能力で広範な懸念を集めているAnthropic社の新しいAIモデルMythosについて議論しました。

当局者は、オペレーティングシステムやウェブブラウザ全体にわたるソフトウェアの脆弱性を特定し、悪用できるシステムがもたらすリスクを銀行が理解することを確実にし、潜在的なAI支援型サイバー攻撃から金融インフラを保護するための防御策を強化するよう各機関に奨励するために、この会合を招集しました。

セキュリティ研究者らは、脆弱性を自動的に発見できるツールは、誤用された場合、防御的なセキュリティ作業と悪意のあるハッキングの両方を加速させる可能性があると警告しています。

Anthropic社のMythosモデルは、3月にシステムに関するドラフト資料がオンラインに流出した後、初めてオンラインに登場し、同社がこれまでに開発した中で最も高性能なAIモデルであると説明されているものが明らかになりました。テストでは、このシステムは、主要なオペレーティングシステムやウェブブラウザにわたるゼロデイ脆弱性を含む、これまで知られていなかった数千ものソフトウェアの脆弱性を発見したと報じられています。

Anthropic社の研究者らは、今週初めの報告書で、Mythos Previewの脆弱性発見能力は意図的に訓練されたものではなく、モデルのコーディング、推論、自律性の全体的な改善から生じたものであると述べています。

同社は、「モデルを脆弱性のパッチ適用において大幅に効果的にするのと同じ改善が、それらを悪用する上でも大幅に効果的にする」と述べています。

これらの能力のため、Anthropic社はアクセスを少数のサイバーセキュリティ組織に制限しています。

Anthropic社のMythos安全性レポートは、構築したものを完全に測定できなくなったことを示しています。

Anthropic社は声明で、「その能力の強さを考慮すると、リリース方法には慎重になっています。業界標準の慣行として、少数の早期アクセス顧客と協力してモデルをテストしています。このモデルは段階的な変化であり、これまでで最も高性能なものだと考えています。」と述べています。

そのリスクに対処するため、Anthropic社は、主要なテクノロジーおよびサイバーセキュリティ企業との協力であるProject Glasswingを通じてMythosをテストしており、このモデルを使用して、攻撃者が悪用する前に重要なソフトウェアの脆弱性を特定し、パッチを適用しています。