金融大臣と大手銀行家が、Mythos AIモデルについて深刻な懸念を表明

金融大臣、中央銀行総裁、金融家らは、金融システムの安全を脅かす可能性のある強力な新しい人工知能（AI）モデルについて、深刻な懸念を表明しています。

AnthropicによるClaude Mythosモデルの開発は、主要なオペレーティングシステムとブラウザの脆弱性を発見した後、緊急会議につながりました。

専門家は、このモデルが前例のないサイバーセキュリティの弱点を特定し、悪用する能力を潜在的に持っていると警告しています。

カナダのフィリップ・フランソワ・シャンパン財務大臣は、BBCに対し、今週ワシントンD.C.で開催された主要な国際通貨基金（IMF）会議で、Mythosが同僚の間で広範に議論されたと語りました。

「確かに、すべての財務大臣の注意を喚起するに値するほど深刻です… ストレート・オブ・ホルムズとの違いは、それがどこにあるのか、どれくらいの大きさなのかを知っていることです。Anthropicが直面している問題は、未知の未知数です。

我々は、金融システムのレジリエンスを確保するために、安全対策とプロセスを整備する必要があります」。

大手銀行家には、システムをテストするために、事前にモデルへのアクセスが提供される予定です。

バークレイズのCEO CS Venkatakrishnanは、BBCに対し、「人々が心配しなければならないほど深刻です。私たちはそれをより深く理解し、脆弱性を特定し、迅速に修正する必要があります」と語りました。

彼はまた、「これは新しい世界の形になるでしょう」と述べており、機会と脆弱性の両方がある、より接続された金融システムについて言及しています。

開発元のAnthropicは、このモデルがすでにいくつかの重要なオペレーティングシステム、金融システム、およびウェブブラウザで複数のセキュリティ脆弱性を暴露していると述べていますが、政府と銀行は、公開前に自らのシステムを保護するために、事前にアクセスを受けることを提供されています。

イングランド銀行のアンディ・ベイル総裁も、BBCに対し、この開発は非常に深刻に受け止めなければならないと語りました。「我々は、この最新のAI開発がサイバー犯罪のリスクにどのような影響を与えるか、注意深く見なければなりません。

AIの開発、モデリングにより、既存のITシステムの脆弱性を検出することが容易になり、明らかにサイバー犯罪者や悪意のある行為者がそれらを悪用しようとする可能性があります」。

米国財務省は、MythosのAnthropicによる公開前に、主要な銀行に自らのシステムをテストすることを奨励し、この問題について連絡を取りました。

金融業界関係者の情報によると、別の著名な米国AI企業が、同様に強力なモデルを、しかし同じような安全対策なしに、間もなく発表する可能性があります。