Anthropic CEO、AIが数千の脆弱性を露呈したことでサイバーの「危険な瞬間」を警告

AnthropicのCEOであるダリオ・アモデイ氏は火曜日、人工知能が世界のテクノロジー企業、政府、銀行が同社の最新モデルによって発見された数万ものソフトウェアの脆弱性を修正するための狭い窓を作り出したと警告した。

そのAIモデルであるMythosは、先月プレビューされ、重要なソフトウェアに数十年前から存在する脆弱性を発見したことが明らかにされた。

地政学的な敵対国である中国のAIモデルはAnthropic製品より「おそらく6ヶ月から12ヶ月」遅れているため、これらの問題を修正するには「およそそのくらいの時間」があるとアモデイ氏は述べた。

この発言は、アモデイ氏がJPMorgan ChaseのCEOであるジェイミー・ダイモン氏と共同で、金融業務を自動化するための新しいエージェント群を発表したAnthropicのイベント中に行われた。

「危険は、ランサムウェアによる学校、病院、そして銀行でさえもたらされる脆弱性、侵害、金銭的損害の量が単に膨大に増加することです」とアモデイ氏は述べた。

Anthropicは、犯罪者や敵対的な国家がMythosをどのように悪用する可能性があるかという懸念から、Mythosを少数の提携企業に限定している。同社のモデルアップデートはここ数回、市場に波紋を広げてきたが、Mythosは企業や政策立案者の間で最も懸念を引き起こしている。

アモデイ氏によると、潜在的なサイバー攻撃の規模は、Claudeの各世代ごとに膨張してきた。以前のAnthropicモデルはFirefoxブラウザで約20件の脆弱性を発見したが、Mythosは300件近くを発見し、すべてのソフトウェアを合わせた総数は現在数万件に上ると同氏は述べた。

Mythosによって発見された脆弱性のほとんどは、まだ修正されていないため公表されておらず、「悪党がそれらを悪用する」だろうとアモデイ氏は述べた。

## 「より良い世界」

警鐘にもかかわらず、アモデイ氏とダイモン氏は共に条件付きの楽観論を表明した。

「これは危険な瞬間であり、もし私たちが適切に対応すれば、そして私はそれが最初のステップを踏み出したと考えていますが、その先にはより良い世界を持つことができます」とアモデイ氏は述べた。「発見すべきバグは限られています。」

ダイモン氏も、サイバーの懸念は正当であるとしつつも、AIによって生み出されるサイバーセキュリティのリスクは「一時的な期間」であると述べた。

規制に関する質問に対して、アモデイ氏はAIの監督は自動車業界で行われていることに似ているべきであり、消費者の安全と産業が競争することを可能にするバランスを取るべきだと述べた。

「『この車にブレーキは付いているのか？』と自問せずに自動車会社を始めることはできません」と彼は言った。「私たちは、産業が迅速に運営でき、公正でありながら、最も深刻なことにはガードレールを設けるプロセスを模索する必要があります。」

同社のイベント、そして金融業界で最も有名なスポークスマンであるダイモン氏との設定は、両社が潜在的なIPOに向かう中で、エンタープライズAI市場におけるOpenAIに対するAnthropicのリードを示すかのようだった。

Anthropicは火曜日、投資銀行業務やバックオフィス業務向けの10の新しいAIエージェントを含む金融サービスプラットフォームの拡張を発表し、Microsoftの様々なOfficeプログラムとの統合も発表した。同社はまた、最新の広く利用可能なモデルであるClaude Opus 4.7が、金融分析タスクのベンチマークをリードしていると述べた。