Mythos AIとは何か、そしてそれが世界のサイバーセキュリティにとって脅威となりうる理由

Anthropicは、世界のサイバーセキュリティに対する脅威のため、最新のAIモデルであるMythosを一般公開しないことを決定しました。

しかし、Claudeチャットボットの背後にある米国のテックスタートアップは水曜日に、一団の人物がMythosへの不正アクセスに成功したという報告を調査していることを確認しました。この疑惑の事件は、開発のペースと、テック企業が最もリスクの高い製品を一般の手に渡さないようにする能力についての懸念を高めています。ここでは、Mythosとその潜在的な影響について検証します。

Mythosとは何か？ MythosはAIモデルであり、チャットボットなどのツールを動かす基盤となるテクノロジーです。Anthropicによると、これはあらゆる組織のサイバーセキュリティにとって深刻な潜在的脅威となります。Anthropicは4月7日にMythosの存在を発表しましたが、ITシステムにおける未知の脆弱性を特定する能力があるため、一般公開しないと述べていました。理論的には、それらの脆弱性はハッカーによって悪用される可能性があります。

Anthropicは、Mythosは、ユーザーが要求した場合、あらゆる重要なITオペレーティングシステムおよびWebブラウザにおける「ゼロデイ」脆弱性を特定し、悪用できると述べています。ゼロデイとは、組織や開発者が全く認識しておらず、攻撃者が攻撃する前に修正する時間がないため、そのように呼ばれています。

Anthropicはこれを「サイバーセキュリティにおける分水嶺」と表現しました。サンフランシスコの同社によると、認識されていなかった脆弱性の中には、数十年も前から存在していたものもあったとのことです。

このスタートアップは、AppleやGoldman Sachsを含むテック企業や銀行にモデルへのアクセスを許可し、それらが自社のビジネスや顧客にどのようなリスクをもたらす可能性があるかを評価できるようにしています。

Anthropicは4月8日にProject Glasswingを発表し、企業がサイバーセキュリティに関してMythosをテストできるようにしました。写真：Samuel Boivin/NurPhoto/Shutterstockなぜ懸念の原因となるのか？ Mythosは、英国のAIセキュリティ研究所（AISI）によると、高度なAIの破壊的な能力の具体的な証拠となります。2022年にOpenAIのChatGPTが登場して以来、専門家はAIが深刻な現実世界への損害を引き起こす可能性があると警告してきました。

さらに広い視点もあります。MythosはAIの進歩のペースを示す指標です。高度なモデルは、ユーザーが自由に利用できるオープンソースモデルの開発者を含む他の企業によって迅速に複製される傾向があります。先月、英国のテクノロジー担当大臣であるLiz Kendall氏とセキュリティ担当大臣であるDan Jarvis氏は、ビジネスリーダー宛ての共同書簡で、企業は来年AI能力が「急速に増加する」ことに「適切に計画する」必要があると述べました。もちろん、AIはサイバー攻撃に対する防御にも使用できます。

もう一つの懸念は、Mythosが一般公開から除外されているにもかかわらず、悪意のある手に渡る可能性があることです。その懸念は今週、Anthropicがプライベートオンラインフォーラムの「数人」のユーザーがモデルにアクセスしたことを確認したことで現実のものとなりました。

しかし、Mythosが指摘した何千もの脆弱性の重要性についても疑問があります。それらは深刻な損害を引き起こすことができるのでしょうか？さらに、ITの脆弱性を指摘することと、それを悪用することは同じではありません。

Mythosは専門家によって評価されましたか？ 世界をリードするAI安全機関であるAISIはMythosを調査し、サイバーセキュリティに対する脅威という点で、以前のモデルよりも「一段階上」であると述べています。懸念される点としては、複数のステップを伴う攻撃を実行する能力や、人間の指示なしにITの脆弱性を特定する能力が挙げられます。

また、AISIの目から見て初めての偉業を達成しました。研究所が作成したテストで、32ステップのサイバー攻撃シミュレーションを正常に完了しました。AISIによると、攻撃対象は脆弱で小規模なITシステムであり、防御が堅固なシステムについては判断できませんでした。研究所は、AIシステムはこれから良くなる一方であるという、しばしば他でも述べられる観察をもって評価を締めくくりました。

英国国家サイバーセキュリティセンターの最高経営責任者であるRichard Horne氏は、今週グラスゴーで開催されたCyberUKカンファレンスで、Mythosの出現は企業が「時代遅れの技術」を置き換えることを奨励するのに役立つだろうと述べました。「緊急性を高めるだけだ」と彼は付け加えました。

しかし、他の専門家は、Mythosは革命というより進化であると述べています。AIサイバーセキュリティに取り組むAisle社は、Anthropicの主な主張、すなわち、UNIXの親戚であるFreeBSDを含む、大規模なオペレーティングシステムやブラウザ全体で何千ものゼロデイ脆弱性を発見したという主張を分析しました。同社は、他の、はるかに安価なモデルもこれらの問題を発見できることを発見しました。彼らは、Mythosの能力が重要でないという意味ではなく、Anthropicの緊急のトーンが示唆するよりも、より多くのニュアンスがあると述べました。

また、ほとんどの侵害は、認証の弱さや、まだ修正されていない既知の脆弱性といった、確立されたリスクから依然として発生しているという専門家からの注意もあります。
一部の専門家は、AnthropicのMythosに関する主張、そして約8000億ドル（5920億ポンド）と推定されるスタートアップがそれらをどのように提示したかについて、誇大広告の要素があると示唆しています。Mythosは間違いなく有能なモデルです。しかし、Anthropicの劇的な発表は、それにかなりの注目を集めさせ、AIがサイバーリスクにどのように貢献する可能性があるかという、より広範な分野全体の議論の中心にその製品を据えました。

テック企業や銀行はどのように関与していますか？ Google、JP Morgan、Goldmanを含む約40社が、Project Glasswingと呼ばれるイニシアチブを通じてMythosへの早期アクセスを許可されています。これは、企業がサイバー防御の一部としてAIモデルをテストする機会を与えることを目的としています。Anthropicは、彼らが学んだことを「業界全体が恩恵を受けられるように」共有すると述べています。

しかし、ローンチパートナーは、Mythosが何を実行できるか、そしてそれがどれほどの脅威をもたらす可能性があるかについて、詳細を明らかにしていません。

それでも、銀行や規制当局がその潜在的な影響について推測するのを止めていません。そしてそれには十分な理由があります。Anthropicの警告が正しければ、Mythosが悪意のある手に渡ることは、銀行に大混乱をもたらし、広範な金融システムを危険にさらす可能性があります。

英国政府がMythosの作成前に作成した最悪のシナリオの銀行ハッキングに関するモデリングでは、直接振替が失敗し、家賃、住宅ローン、給与が支払われなくなる可能性があり、オンラインバンキングや現金自動預け払い機での引き出しがブロックされる可能性が示唆されました。通勤者は、バスやガソリンスタンドが支払いを拒否したため、身動きが取れない状態になる可能性があります。それはパニックを引き起こし、顧客が混乱が広がることを恐れて預金を引き出すため、競合する貸し手への取り付け騒ぎを引き起こす可能性があります。

Mythosの潜在的な脅威に対する懸念は、米国の財務長官であるScott Bessent氏が、今月初めにワシントンで、GoldmanやCitiを含む大手米国銀行のトップとの会議を招集するきっかけとなりました。

英国の規制当局は、今週のCross Market Operational Resilience Group会議の議題にMythosを追加しました。これにより、シニアバンカーや財務省、イングランド銀行、金融行動監視機構、国家サイバーセキュリティセンターの当局者間のハイレベルな議論が行われています。