Claude Mythosとは何か、そしてどのようなリスクをもたらすのか？

ここ数週間、AIの世界は、大手企業Anthropicが新しいモデルClaude Mythosについて行った主張を受けて、話題騒然となっています。

同社によると、このツールは一部のハッキングおよびサイバーセキュリティタスクにおいて人間を凌駕できるとのことで、規制当局、立法者、金融機関の間で、デジタルサービスにどのような危険をもたらす可能性があるかについての議論が促されています。

いくつかのテックジャイアントは、Mythos自体への耐性を強化するために設計されたProject Glasswingというイニシアチブを通じて、Mythosへのアクセスを許可されています。

しかし、他の人々は、Anthropicにとって、自社のツールがこれまでにない能力を持っていると示唆することに利害があることを指摘しており、これはAIに関して常にそうであるように、正当な主張と誇大広告を区別する作業が難しい可能性があることを意味します。

Claude Mythosとは何か？

Mythosは、Claudeと呼ばれるより広範なAIシステムの一部としてAnthropicが開発した最新モデルの1つです。これは、OpenAIのChatGPTやGoogleのGeminiと競合する、同社のAIアシスタントおよびモデルファミリーを網羅しています。

これは、4月初旬にAnthropicによって「Mythos Preview」として発表されました。

特定の要求やタスクをAIモデルがどのように処理するかをテストする研究者、「レッドチーム」として知られる人々は、報告書の中でMythosが「コンピュータセキュリティタスクにおいて驚くほど有能である」と述べています。

彼らは、このツールが数十年前のコードに潜む休眠バグを発見し、それを容易に悪用できることを発見しました。

そのため、Claudeユーザーに広く利用可能にするのではなく、AnthropicはProject Glasswingを通じて12のテクノロジー企業にアクセスを提供しました。これは「世界で最も重要なソフトウェアを保護するための取り組み」と説明されています。

これらには、クラウドコンピューティング大手のAmazon Web Services、デバイスメーカーのApple、Microsoft、Google、そしてチップメーカーのNvidiaやBroadcomが含まれます。

2024年7月に大規模なグローバル障害を引き起こした欠陥のあるソフトウェアアップデートの原因となったCrowdstrikeも、プロジェクトのパートナーに含まれており、AnthropicはMythosへのアクセスを、重要なソフトウェアを担当する40以上の組織にも提供したと述べています。

Project Glasswingのローンチと同時に公開されたビデオの中で、AnthropicのボスであるDario Amodeiは、米国政府関係者と協力して「これらのモデルのリスクから防御するのを助ける」ことを申し出たと述べています。

なぜ懸念があるのか？

Anthropicによると、テスト中にこのモデルがサイバーセキュリティおよびハッキングタスクにおいて非常に熟練しており、人間を凌駕することが判明しました。

「Mythos Previewはすでに何千もの高深刻度の脆弱性を発見しており、これにはすべての主要なオペレーティングシステムおよびWebブラウザ内のものも含まれています」とAnthropicは4月7日に主張しました。

「AIの進歩のペースを考えると、そのような能力が普及するまでにはそう長くはかからないでしょう。安全に展開することにコミットしているアクターを超えて広がる可能性もあります。」

同社は、ほとんど監視なしに、古いシステム内の即時対応が必要な重要なバグを発見できると述べており、その中には27年間システム内に存在していた脆弱性も含まれ、それらを悪用する方法を提案できるとしています。

その後、一部の財務大臣、中央銀行総裁、金融家は、このモデルが金融システムのセキュリティを損なうのではないかと懸念しており、深刻な懸念を表明しています。

カナダのフランソワ＝フィリップ・シャンパーニュ財務大臣はBBCに対し、Mythosが今週ワシントンDCで開催された国際通貨基金（IMF）の会議で議論されたと語りました。

「確かに、すべての財務大臣の注意を払うに値するほど深刻です」と彼は述べ、この技術を「未知の未知」と表現しました。

イングランド銀行総裁のアンドリュー・ベイリー氏はBBCに対し、「この最新のAI開発がサイバー犯罪のリスクにどのような影響を与える可能性があるか、現在非常に注意深く検討する必要があります」と語りました。

一方、EUは、Mythosに関する懸念についてAnthropicと協議中であると述べています。

サイバー専門家はどう言っているか？

英国国家サイバーセキュリティセンターの元責任者であるCiaran Martin氏は、今週初めにBBCに対し、Mythosが他のAIモデルよりもはるかに速く重要な脆弱性を発見できるという主張は「人々を本当に動揺させた」と語りました。

「第二に、組織がまだパッチを適用していない、または十分に防御されていない既知の弱点であっても、それは本当に優れたハッカーであるということです」と彼は言いました。

多くの独立したサイバーセキュリティアナリストや専門家は、まだ自身でテストできておらず、Mythosのパフォーマンスについて懐疑的な見方をしています。

英国のAI安全研究所は最近、非常に強力なモデルであるものの、最大の脅威は防御が不十分な脆弱なシステムに対してだろうと結論付けています。

「Mythos Previewが防御が堅固なシステムを攻撃できるかどうかは断言できません」と研究者たちは述べています。

したがって、優れたサイバーセキュリティが存在する場所では、理論的にはこのモデルは阻止されるはずです。

心配すべきか？

AIに関する懸念は新しいものではありません。

新しいモデルやツールは常に登場しており、しばしば私たちの生活を良くも悪くも変革するという約束を伴います。

AIとその将来的な影響に対する恐怖と興奮のこの混合を資本化することも、近年、このセクターとそのマーケティング戦略の特徴となっています。

Mythosの場合、これらの希望や恐怖が正当なものなのか、それとも業界を取り巻く誇大広告の反映なのかを知るには、まだ十分な情報がありません。

いずれの場合も、NSCSによると、私たちが今できる最も重要なことは、パニックにならず、基本的なサイバーセキュリティを正しく行う必要性に焦点を当てることです。

結局のところ、ほとんどのハッカーは、より単純な攻撃で十分な場合、システムを侵害するためにスーパーAIツールを必要としません。

「一部の人々にとってはこれは終末的な出来事であり、他の人々にとっては多くの誇大広告のように見えます」とMartin氏はBBCに語りました。

しかし、これがこのツールであれ、Anthropicまたはその競合他社によって作られた後続のツールであれ、リスクとともに、より安全なオンライン世界を構築する機会があったと彼は述べました。

「中期的に見れば、これらのツールを使用してインターネットの多くの根本的な脆弱性を修正する機会があります」と彼は言いました。

世界のトップテクノロジーストーリーやトレンドをフォローするには、Tech Decodedニュースレターにご登録ください。英国外にお住まいですか？こちらからご登録ください。