金融幹部はMythosを警戒、英国の銀行は強力なAnthropic AIツールを使用する準備

英国の銀行は、次週に、一般公開するには危険すぎると判断された強力なAIツールへのアクセスを受けることになります。一連の金融幹部がその影響について警告している中、そのような状況になっています。

Anthropicは、これまでに新しいモデルのリリースを主に米国の企業（Amazon、Apple、Microsoftなど）の小規模なグループに限定してきましたが、今後数日以内に英国の金融機関に拡大すると発表しました。

「それは非常に近い将来、来週です」とAnthropicの英国、アイルランド、北欧担当責任者であるPip Whiteは、ブルームバーグTVのインタビューで述べています。「期待どおり、先週の英国のCEOからの関心は大きかったです。」

Anthropicは、ClaudeファミリーのAIツールを開発している企業であり、最新モデルのMythosは、ITシステムにおける欠陥を明らかにする能力により、前例のないリスクをもたらすと述べています。

「AIモデルは、最も熟練した人間のプログラマーさえも凌駕するコーディング能力に達しており、ソフトウェアの脆弱性を発見し、悪用することができます」とAnthropicは今月初めにブログ投稿で述べています。「経済、公共の安全、国家安全保障に対する影響は深刻になる可能性があります。」

財務大臣、経営幹部、規制当局は、今週ワシントンで開催されたIMFと世界銀行の春の会議で集まり、潜在的な脅威について議論すると同時に、米国とイスラエルとイランとの戦争から波及する世界的な影響に対する懸念にも対処しました。

カナダの財務大臣であるFrançois-Philippe Champagne氏は、BBCに対し、「確かに、すべての財務大臣の関心を集めるに値するほど深刻です…ホルムズ海峡との違いは、それがどこにあるか、そしてどれくらいの大きさかを知っていることです。」

「私たちがAnthropicで直面している問題は、未知の未知です。私たちの金融システムに対する回復力を確保するために、安全装置とプロセスを整備する必要があります。」

イングランド銀行のガバナーであり、グローバル規制当局の金融安定会合の議長でもあるAndrew Bailey氏は、「これは私たち全員にとって非常に深刻な課題です。AIの世界がどれほど急速に進歩しているかを私たちに思い出させてくれます。」

しかし、政府がAIの経済的利益を享受しようとする中で、規制当局は、この技術をどの程度、そしてどの程度厳しく取り締まるべきかを検討しなければならないと述べています。「最適なルールを定めるタイミングはいつですか？」Bailey氏は尋ねました。「早すぎると、a) ターゲットを逃すリスクがあり、b) 進化を歪めるリスクがあります。遅すぎると、物事が制御不能になる可能性があります。」

欧州中央銀行のpresidentであるChristine Lagarde氏は、「AnthropicとMythosで見られた開発は、突然『ああ、それは本当に良いかもしれない』と考え始める責任ある企業の良い例です。しかし、もしそれが間違った人の手に渡れば、本当に悪いことになりえます。」

「誰もが、その中で運営するためのフレームワークを切望しています」とLagarde氏はブルームバーグTVに語りました。しかし、彼女は付け加えました。「そのようなことを実際に監視するためのガバナンスフレームワークは存在しません。私たちはそれに取り組む必要があります。」