「一般公開するには強力すぎる」：AnthropicのAI広報戦争勝利への道のり

今週、AI企業Anthropicは、圧倒的な責任感から一般公開しないほど強力なAIモデルを作成したと発表しました。

米財務長官のスコット・ベッセントは、主要銀行のトップを召喚し、モデル「Mythos」について話し合いました。Reform UKの国会議員ダニー・クルーガーは政府に対し、「サイバーセキュリティに壊滅的なリスクをもたらす可能性のある、AI企業Anthropicの新しいフロンティアモデルClaude Mythosと関与する」よう促す書簡を書きました。Xは騒然となりました。

AIの著名な批評家であるゲイリー・マーカスを含む他の人々は懐疑的でした。「ダリオ（アモデイ）はサム（アルトマン）よりもはるかに技術力があるが、ハイプと誇張の同じ学校を卒業したようだ」と、Anthropicと競合他社OpenAIのCEOに言及しました。

Anthropicが機械の神を構築したかどうかは不明です。より明白なのは、サンフランシスコのスタートアップが「責任ある」AI企業として広く見なされており、マーケティングに優れていることです。

過去数ヶ月間、Anthropicはニューヨーカー誌で1万語の特集記事、ウォール・ストリート・ジャーナルで2つの記事、そしてタイム誌の表紙を飾り、アモデイの顔がペンタゴンとピート・ヘゲシー国防長官の上に映画ポスターのように大きく掲載されました。

アモデイとAnthropicの共同創設者であるジャック・クラークは、2月に2つの別々のニューヨーク・タイムズのポッドキャストに出演し、彼らの機械が意識を持っているかどうか、そしてそれがすぐに「経済を席巻する」可能性があるかどうかといった疑問について議論しました。同社の「常駐哲学者」は、仮想通貨の取引やミサイル目標の指定に使用されている商用製品であるClaudeが「自己認識」を持っているかどうかについてWSJに語りました。

これらすべては、Anthropicと米国国防総省との間の論争の中で起こりました。Anthropicは、ペンタゴンがイランを攻撃するために使用したAIツールを作成したにもかかわらず、同じことを行うのを支援すると申し出たOpenAIよりもはるかに良い印象を与えています。

メディア責任者のダニエル・ギグリエリは、LinkedInでその成果を記録しました。彼女は、ジャーナリストをタグ付けした「ストーリーをまとめるための狂騒」についての投稿で、「Anthropicで働けることを無限に誇りに思っています」と、同社のタイム誌の表紙について語りました。

アモデイが出演したCBSの「60ミニッツ」のセグメントを見るのは、「つねるような瞬間の一つでした」と彼女は言いました。「意味があったのは、プラットフォームだけではありませんでした。私たちが伝えたかったストーリーが実際に伝わったのを見たことです。」

ジャーナリストのギデオン・ルイス＝クラウスによるニューヨーカー誌の特集記事について、彼女は「初めて直接会うときは緊張していたと言わざるを得ません…ギデオンのような実力のある人と仕事をするということは、まだ形成中のアイデアを明確にするように求められ、その不快感を受け入れることです。」と書きました。

（「あなたのことについて、みんなそう言うだろうね」と私の編集者は言いました。）

他のテックPR担当者も注目しています。

「彼らは明らかに今、注目されていますが、世界を変えるテクノロジーを構築している企業は、同様の精査を受けるに値します」と一人は言いました。「彼らは先週、誤って独自のソースコードを漏洩し、今週は彼らだけが制御する新しい強力なモデルでサイバー脅威の管理を主張しています。他の大企業であれば嘲笑されるでしょう。」

Anthropicは4月初旬にClaudeの内部ソースコードの一部を誤って公開しました。「機密性の高い顧客データや認証情報は関与しておらず、公開もされていません」と述べています。

これらすべては、Anthropicの疑いようのない強力なMythosについて何を意味するのでしょうか？

AI Now Instituteの主任AI科学者であるハイディ・クラフ博士は、このモデルの能力は「実証されていない」と述べました。「証拠を曖昧にする意図的に曖昧な言葉遣いのマーケティング投稿を公開することは…彼らが精査なしにさらなる投資を獲得しようとしているのかどうか疑問を投げかけます。」

攻撃的サイバーセキュリティの専門家であるジェイミソン・オライリー氏は、「Mythosは実際の開発であり、Anthropicがそれを真剣に扱うのは正しかった」と述べました。しかし、同氏によると、Anthropicの主張の一部、例えば主要なオペレーティングシステムで数千の「ゼロデイ脆弱性」を発見したという主張は、現実世界のサイバーセキュリティ上の考慮事項にとってそれほど重要ではありませんでした。

ゼロデイ脆弱性とは、開発者が知らないソフトウェアまたはハードウェアの欠陥です。

オライリー氏は、「私たちは10年以上にわたり、銀行、政府、重要インフラ、グローバル企業など、数百の組織への正規アクセスを得てきました」と述べました。「その10年間、数百回のエンゲージメントを通じて、目標を達成するためにゼロデイ脆弱性を必要とした回数は、ごくわずかでした。」

AnthropicがMythosを公開しないという決定に寄与した可能性のある他の理由もあります。

同社はリソースが限られており、すべての加入者がモデルを使用できるように十分なコンピューティング能力を提供するのに苦労しているようです。人気の高いClaudeの使用制限を導入しました。最近、加入料に加えて追加のコンピューティング能力を購入する必要があると述べました。この時点で、誇張された新しい創造物のリリースをサポートするインフラストラクチャが単に不足している可能性があります。

OpenAIと同様に、Anthropicは数十億ドルを調達し、チャットボットを友人、恋愛相手、または高度にパーソナライズされたアシスタントとして利用する可能性のある人々、および人間の従業員を置き換えるためにそれらを使用する可能性のある企業という、まだ定義されていない市場を捉えるための競争にあります。

しかし、これらの製品の違いは些細で印象的であり、主に「自己認識」や「魂」といった定量化が難しい属性によるものです。戦いは心と精神を勝ち取ることです。

クラフ氏は、「Mythosはビジネスにオープンであることを示す戦略的な発表です」と述べ、Anthropicのリリース制限により、独立した専門家が同社の主張を評価できなくなっていると指摘しました。

彼女は、「安全性が利益が優先される前に一般の信頼を得るためのPRツールであったOpenAIが使用したのと同じような、餌と交換の戦術を見ているのかもしれません」と示唆しました。「Anthropicの広報活動は、競合他社よりもこの切り替えをうまく隠蔽することに成功しました。」