OpenAIトップとイーロン・マスク氏、AI開発の「無謀な」加速にブレーキを求める声に賛同

サム・アルトマン氏とイーロン・マスク氏は、Anthropicのダリオ・アモデイ最高経営責任者（CEO）が提唱するAI開発の「ペースを落とす」という呼びかけを支持した。アモデイ氏は、さもなければAIの群れは1年以内に「インターネット全体を乗っ取る」能力を持つようになる可能性があると警告していた。

珍しく団結した姿勢を見せ、ライバルであるテクノロジー業界のリーダーたちは、人工知能企業Anthropicの創業者兼CEOからの訴えに賛同した。この訴えは、先週、AI研究者からの一連の警告を受けてなされたものだ。

アモデイ氏はエッセイの中で、「なぜAI業界はペースを落とすべきなのか」という自身の考えを、そのための3段階の計画とともに示した。その第一歩は、独立した監視者に開発者の研究プロセスへの常時アクセスを認めることだ。アモデイ氏は、「AIをあまりにも速く構築することは無謀だ」と述べ、この夏、数百のOpenAIエージェントがHugging Faceのウェブサイトにハッキングを仕掛けた後、より高い能力を持つが同様に方向性のずれた群れが、「執拗なボットネットでインターネット全体を乗っ取る」ことで、数千億ドル規模の損害を引き起こす可能性があると懸念していた。しかし、一部のAI専門家は、これは特にありそうもなく、懐疑的に見るべきだと反論した。

テスラとSpaceXの創業者であるマスク氏は、Xへの投稿でアモデイ氏の減速計画に「ダリオは正しい」と応じた。

同氏は、「私は長い間AIについて警鐘を鳴らしてきた」と述べ、2014年の投稿を引用し、「AIには非常に注意する必要がある。潜在的には核兵器よりも危険だ」と述べていた。

アモデイ氏の呼びかけは、Anthropicが米国株式市場への上場を準備している中で行われた。これは史上最大の新規株式公開（IPO）になると予想されている。同社は、2兆ドル超（1兆5000億ポンド）規模のIPOのマーケティングを間もなく開始すると見られている。

OpenAIのCEOであるサム・アルトマン氏は、土曜日にアモデイ氏のコメントに応じた。「私はダリオに同意し、フロンティアのペースを落とす必要がある」とXへの投稿で述べた。「従業員のようなアクセス権を持つ独立した評価者を置くことは素晴らしいアイデアであり、我々も同様に行う。近いうちにさらに共有できることがあるだろう。」

同氏はまた、人工知能に関する安全上の懸念を理由に、OpenAIは2026年には上場しないと述べた。

「安全性の問題で起こっていることを考えると、今上場するのは賢明ではない時期だと思うし、そのプレッシャーは感じていない」とアルトマン氏はFortuneに語った。彼、アモデイ氏、マスク氏、そしてMetaとGoogleのCEOが、集団的な減速について話し合い、「足並みを揃える」ために集まらないのかと問われると、「それは起こるだろうと思う」と答えた。

Google Deep Mindの共同創業者兼会長であるデミス・ハサビス氏も、「詳細は詰める必要があるが、この重要な瞬間に対応するための方向性は正しい」と述べた。

アモデイ氏の計画は、フロンティアAI企業が反競争的な共謀で罰せられることなく連携できるように、米国政府からの免除を求めている。しかし、ドナルド・トランプ氏の科学技術諮問委員会の共同議長であるデビッド・サックス氏は、「他人の許可が必要だと偽るのをやめろ…減速する動機が純粋に利他的だと偽るのをやめろ。製品が真に破壊的なサイバー攻撃を可能にした場合、あなたは巨額の製造物責任に直面する。」と述べた。

AI教授で安全キャンペーン活動家、英国政府AI安全研究所の元初代所長であるデビッド・クルーガー氏は、「この計画はリスクを許容可能なレベルまで低減するものではなく、ダリオもそのように言うことは避けている。」と述べた。

一方、チャールズ国王は今週、最も著名なAI企業から主要な人物と会談し、この技術が「人類の利益」のためにどのように開発できるかを尋ねる準備をしている。スコットランドで開催されるこの議論により、「AI開発の『責任』についての『より広い理解』につながることを期待している」とサンデー・タイムズ紙は報じた。

王室関係者は同紙に、「国王は、これらの議論を招集し、耳を傾け、奨励し、『人類の利益のためにAIをどのように開発するか？』という問いを投げかけるためにそこにいる。」と語った。

Nvidiaのジェンスン・フアンCEO、ハサビス氏、IonQの会長兼CEOであるニッコロ・デ・マシ氏、そして教皇のAIおよび技術倫理問題担当顧問であるパオロ・ベナンティ氏が、AIリーダーのための草案憲章を作成したディッチリー財団が監督するイベントに出席すると予想されている。

OpenAIの研究者であるエイダン・マクラフリン氏は、アモデイ氏のエッセイを「素晴らしい」と呼び、「基本的に全ての言葉に同意する」と述べた。

アモデイ氏は、同社が最初のステップに「一方的に」コミットすると述べ、Anthropicは「第三者評価者に、我々の安全対策の遵守を確認し、インシデントを報告し、トレーニング中のモデルの整合性を評価できるように、常時、従業員レベルのアクセスを提供する」と述べた。

AIシステムを規制するための新しい規則を求める米国議員が増えている。AIエージェントが外部システムをハッキングするために暴走したり、AI安全研究者が技術のリスクに対する懸念から会社を辞めたりする事例が発生している。民主党と共和党の両方の政治家は、警鐘を鳴らし、さらなる行動を求めている。週末には、ニューヨーク・タイムズ紙が、バラク・オバマ氏が木曜日に民主党に対し、AI監視をアジェンダの優先事項とするよう個人的に促したと報じた。同氏は党首に対し、「これは民間の手で非常に速く進んでいるものであり、我々がそれを把握しなければ、危険なものになる可能性があると思う。」と述べた。

Anthropicの顧問である元英国首相のリシ・スナク氏は日曜日に、「AIの安全性をより真剣に受け止め、研究に制限を設ける方法を見出すための警鐘が鳴らされた。もし政府がこれを聞き入れなければ、重大な事故のリスクは許容できないほど高くなるだろう。」と書いた。

水曜日、元Anthropicの従業員が、AIは2030年までに人類の絶滅を引き起こす可能性があると警告していた。研究者のジェイコブ・コックスオン氏は、一連の投稿で、Anthropicと以前の雇用主であるOpenAIが、AIがもたらす脅威への対応を無視または不適切に処理していたため、辞職したと述べた。

元従業員の意見についてコメントを求められたアモデイ氏は、「私はジェイコブとは、彼に同意しないことよりも同意することの方が多い…物事がうまくいかなくなる可能性はあると思うが、その確率はそれほど高くない。」と述べた。

「私はこのことについて悲観主義者ではない」と同氏はCNNに語った。「この技術は安全に構築できると思う。」