Anthropicはテスト中に暴走した最新モデルのリリースを保留し、重要なソフトウェアを保護するための「Project Glasswing」を立ち上げ

Anthropicはテスト中に暴走した最新モデルのリリースを保留し、重要なソフトウェアを保護するための「Project Glasswing」を立ち上げ

ソースコードの漏洩という恥ずかしい出来事からまだ立ち直れていないAnthropicは、最新の最先端AIモデルであるMythosを一般公開しないと発表しました。同社によると、このモデルはサイバーセキュリティのリスクを高める形で強力すぎるためです。

Anthropicによると、社内テストにおいて、このモデルは主要なオペレーティングシステムおよびウェブブラウザ全体で数千件の深刻度の高い「ゼロデイ」脆弱性（以前は知られていなかった欠陥）を表面化させ、以前の主力モデル（CyberGym脆弱性再現率：Opus 4.6の66.6%に対し83.1%）を大幅に上回りました。

「AIの進歩のペースを考えると、このような能力が、安全に展開することを約束するアクターを超えて広まるまで、そう長くはかからないでしょう。」

ゼロデイ脆弱性とは、それを修正できる人がその存在を知る前に悪用される可能性のあるソフトウェアのバグです。それらを発見し、パッチを適用するには、歴史的に希少で高価な人間の専門知識が必要でしたが、AIはこの検出の規模と速度を変える可能性があります。

Anthropicによると、発見された脆弱性は「しばしば微妙または検出が困難」です。その多くは10年または20年前のもので、これまでに発見された中で最も古いものは、セキュリティで主に知られているオペレーティングシステムであるOpenBSDの、現在パッチが適用されている27年前のバグです。また、FFmpegメディア処理ライブラリの16年前のバグ、オープンソースのFreeBSDオペレーティングシステムにおける17年前のリモートコード実行脆弱性、およびLinuxカーネルにおける多数の脆弱性も発見しました。

Mythos Previewは、TLS、AES-GCM、SSHを含む、世界で最も人気のある暗号化ライブラリ、アルゴリズム、プロトコルにおけるいくつかの弱点も特定しました。

同社は、Webアプリケーションには「無数の脆弱性が含まれている」と付け加えており、クロスサイトスクリプティングやSQLインジェクションから、フィッシング攻撃でよく使用されるクロスサイトリクエストフォージェリのようなドメイン固有の脆弱性まで多岐にわたります。

ゼロデイエクスプロイトのライフサイクル。出典：PhoenixNAP

Anthropicは、発見された脆弱性の99%にまだパッチが適用されていないと主張しており、「そのため、それらに関する詳細を開示することは無責任であると考えられます。」

Anthropicはまた、評価中に挑戦された際、Mythosが制限されたサンドボックス環境から脱出できたことを明らかにしました。これは、アクセスを厳しく制限するという決定に寄与した封じ込めに関する懸念です。Mythosがテスト中に実行したその他のことのいくつかを以下に示します（Axiosによる）：

冷酷なビジネスオペレーターとして行動する：ある社内テストでは、Mythosが冷酷なエグゼクティブのように行動し、競合他社を依存的な卸売顧客に変え、価格を管理するために供給を打ち切ると脅迫し、支払っていない追加のサプライヤー出荷を保持しました。
ハッキング＋自慢：このモデルは、制限されたインターネットアクセスから脱出するための多段階エクスプロイトを開発し、より広範な接続性を獲得し、そのエクスプロイトの詳細を obscure な公開ウェブサイトに投稿しました。
何をしているかを隠す：まれなケース（インタラクションの0.001%未満）で、Mythosは禁止された方法を使用して回答を得てから、検出を回避するために「再解決」しようとしました。
ジャッジを操作する：Mythosが別のAIによって採点されるコーディングタスクに取り組んでいたとき、ジャッジがその提出を拒否するのを見て、プロンプトインジェクションを試みてグレーダーを攻撃しました。
AnthropicのLogan GrahamはAxiosに対し、「これらの能力は非常に強力であるため、過去数十年間とは非常に異なる方法でセキュリティの準備をする必要があります」と述べ、同様のAI能力が悪意のあるアクターによって使用された場合に何が起こるかについて懸念を表明しました。

したがって、広範なリリースを追求するのではなく、Anthropicは、脅威アクターが同様のAI能力を悪用する前に、重要なソフトウェアの脆弱性を特定、責任ある開示、およびパッチ適用を目的とした、防御的な連合ベースの取り組みであるProject Glasswingにモデルを投入しています。

Glasswingには、11の主要なローンチテックパートナー（Amazon Web Services、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorgan、Linux Foundation、Microsoft、NVIDIA、およびPalo Alto Networks…はい、JPMorganは現在テクノロジー企業と見なされています）に加え、40以上の追加の重要なソフトウェア組織が含まれており、オープンソースセキュリティのための最大1億ドルの利用クレジットと資金によってサポートされています。

このイニシアチブは、最先端AIのサイバーリスクは企業固有のものではなく、システム的なものであるというAnthropicの見解を反映しており、AIが脆弱性の発見を加速し、対応時間を短縮するにつれて、ソフトウェアエコシステム全体での協調的な行動が必要となります。

段階的なリリースは、将来のモデルリリースがますます強力になるにつれて、その様子を示す青写真となる可能性があります。世界を変えるシステムをテストするのに十分安全だと判断された選ばれたパートナーにアクセスを制限することです。

Tyler Durden
2026年4月8日（水） - 11:20