トークンか人間か?新たな企業のトレードオフ
著者 Maksym Misichenko · CNBC ·
著者 Maksym Misichenko · CNBC ·
AIエージェントがこのニュースについて考えること
パネルは、エンタープライズAI予算が最先端モデルの高コストのために急速に枯渇しており、AIの価値の再評価とテクノロジー企業のマージン圧縮につながる可能性があることに同意しています。しかし、これが存亡の脅威なのか、それとも移行的なハードルなのかについては意見が分かれています。
リスク: コンピューティング需要の制約と予算の枯渇によるテクノロジー企業のマージン圧縮の加速(Grok、Gemini)
機会: ルーティングと競争の改善により、コストが削減され、新しいビジネスモデルが解除される(ChatGPT)
本分析は StockScreener パイプラインで生成されます — 4 つの主要な LLM(Claude、GPT、Gemini、Grok)が同じプロンプトを受け取り、組み込みの幻覚防止ガードが備わっています。 方法論を読む →
人工知能は予想以上に高コストであることが判明し、米国の主要企業のCFOは今、厳しい新たなトレードオフに直面しています。トークンか人間かです。
これは、インフラ構築の中心にいる2人のエンタープライズAI CEOが今週CNBCに語った状況でした。フォーチュン500企業内部で何が起きているかについての彼らの説明は、コスト上昇がAI取引にもたらす脅威を鮮明に描いています。これは、市場がまだ認識しておらず、記録的な高値を更新し、Micronのような新たな兆ドル企業を生み出しているリスクです。
エンタープライズAI企業GleanのCEOであるArvind Jain氏はCNBCに対し、「現在、すべてのエンタープライズにとって最重要のトピックは、AI予算の過大評価です」と語りました。
「企業は、年間予算であるAI予算が1ヶ月か2ヶ月で使い果たされていると私たちに伝えています」と彼は言いました。
これは、AIのコストが買い手の予想通りに下がっていないためです。むしろ、上昇しています。フロンティアラボからの新しいモデルリリースは、それぞれ、それが置き換えたモデルよりもトークンあたり約2倍高価であり、Jain氏が「現在持続不可能な道」と呼ぶものにエンタープライズAIを押しやっています。
「テクノロジーが人と同じコストがかかるというのは、私が覚えている限り初めてのことで、あなたは『テクノロジーか人か』という比較をしています」と彼は言いました。「テクノロジーはあらゆる事業運営コストのほんの一部であるため、歴史的にそのような会話をしたことはありません。」
彼は、増大するAI予算は、将来のヘッドカウント増加に取って代わるものになってきていると述べています。
すべてのフロンティアAIモデルにエンジニアリングワークをルーティングするFactory AIのCEOであるMatan Grinberg氏は、このシフトを、現在リーダーシップチーム内で展開されている明確なリソース配分問題として説明しました。
「企業は、『もし私たちが1つのことを最適化できるとしたら、それは従業員数ですか、それとも従業員あたりのAI支出ですか?』と言っています」とGrinberg氏は述べました。
Grinberg氏によると、企業は約1年で3つの異なる段階を経てきました。最初は、取締役会がCEOにAIについて何かをするように要求しました。次に、いわゆるトークンマキシング、つまりコストに関係なくあらゆる手段でAIを使用することが来ました。第3段階では、リーダーシップチームはプレミアムモデルに関するニーズを再評価しています。
「すべてのタスクにOpusレベルのインテリジェンスを使用する必要があるのでしょうか?」とGrinberg氏は尋ねました。「必要はありません。」
## それに見合う以上の支払い
この圧迫の根源は、テクノロジーは機能するが、まだ元が取れていないことです。
「今日のAIの働きは非常に強力ですが、非常に非効率的です」とJain氏は言いました。「現時点でのAIがもたらす価値は、企業が負担しているコストに遅れをとっています。」
問題の大きな部分は、モデル選択の非効率性です。エンタープライズAI使用量の約95%は、より安価な代替手段で処理できるタスクであっても、依然として最も高価なフロンティアモデルで実行されているとJain氏は述べています。
簡単な解決策があります。簡単な作業をより安価なティアにルーティングすることです。Jain氏は、それが最も容易に達成できる成果だと述べています。
「適切なモデルルーティングをフロントで行えば、10倍の節約を実際に達成できます」と彼は言いました。
これはFactory AIのピッチでもあります。Factory AIは、各タスクをそれに最適なモデルに自動的に送信します。Grinberg氏によると、トリックは、その仕事が実際に最高のものだけを必要とすることがどれほどまれであるかを認識することです。彼は、最新のフロンティアモデル間のギャップを、2人のベテラン学者の違いに例えました。
「Opus 4.7とOpus 4.8の違いは、13年間教授を務めた教授と15年間教授を務めた教授の違いのようなものです」とGrinberg氏は言いました。「素人には、違いを本当に、本当に見分けるのは難しいです。」
AI取引全体は、歴史的な需要が継続するという賭けにかかっています。買い手はコストにほとんど無関心です。しかし、フォーチュン500企業内部からの見解は、市場が想定しているよりも需要は価格に敏感である可能性を示唆しています。
OpenAIとAnthropicの評価に対するAI価格の再評価が何を意味するかについて、さらに詳しくお読みください。これらの企業はプレミアム価格設定に基づいてビジネスモデルを構築しています。
4つの主要AIモデルがこの記事を議論
"予算の枯渇と明確なトークン対人間のトレードオフは、AI需要が現在の市場価格設定が想定しているよりも価格弾力性が高いことを示しています。"
この記事は、実際の摩擦点を浮き彫りにしています。エンタープライズAI予算は、各最先端モデルがトークンコストを約2倍にするため、1〜2ヶ月で枯渇しており、CFOは明確なヘッドカウント対支出のトレードオフに追い込まれています。この価格感応度は新しく、市場が永続的な需要の増加を織り込んでいる間は過小評価されています。しかし、この記事は、モデルルーティングが引用された10倍の節約をどれだけ速く達成できるかについては触れておらず、使用量を削減せずに予算をリセットする可能性があります。最適化レイヤーがモデル価格の上昇よりも速くスケールする場合、プレミアムプロバイダーの収益軌跡は、現在の兆ドル評価が組み込まれているよりも早く平坦化する可能性があります。
積極的なルーティングでさえ、モデル世代ごとの2倍のコストジャンプを相殺できず、純支出は依然として増加し、再配分ではなくAIイニシアチブの全面的な削減を余儀なくされる可能性があります。
"エンタープライズAIは市場が予想していたよりも早く収益性の壁にぶつかっていますが、問題は実行とモデル選択であり、根本的な需要ではありません。これは、取引がより高く再評価される前に痛みを伴うリセットが来ることを意味します。"
この記事は2つの別々の問題を混同しています。(1)企業がモデルルーティングを最適化していないためにAIに過剰支出していること、および(2)AIが根本的に経済的でないこと。これらは同じではありません。95%という数字—コモディティタスクに使用される最先端モデル—は、テクノロジーの失敗ではなく、調達の失敗です。より良いルーティングによる10倍の節約は、AIのROIが壊れていることを意味するのではなく、企業がまだパイロットフェーズにあることを意味します。本当のリスクは、AIが元を取れないことではなく、元を取る期間が株式市場が織り込んでいるよりも長く、より複雑であることであり、NVDA、MSFT、およびAIネイティブスタートアップの複数の圧縮を引き起こすことです。しかし、これはタイミング/効率の問題であり、取引に対する存亡の脅威ではありません。
エンタープライズ支出の95%が誤った浪費であり、企業がすでに年間予算を1〜2ヶ月でマイナスのROIで使い果たしている場合、「より良いルーティング」は楽観的すぎます。本当の話は、企業がまだ高価値のユースケースを持っていないことであり、取締役会が要求したから単に支出しているだけかもしれません。
"「トークンマクシング」からコスト最適化されたモデルルーティングへの移行は、ボリューム主導の採用がセクターを安定させる前に、最先端モデルプロバイダーの短期的な収益減速を引き起こします。"
市場は現在、無限のAI生産性向上を織り込んでいますが、「トークン対ヘッドカウント」の代替閾値を考慮していません。エンタープライズAIコストが実際にヘッドカウント予算を増強するのではなく食い込んでいる場合、S&P 500のマージン圧縮イベントを見ていることになります。現在の「トークンマクシング」フェーズは持続不可能ですが、この記事は、モデルルーティング(GleanやFactory AIなど)がタスクあたりのコストを削減すると、総コンピューティング需要量が爆発的に増加し、トークンあたりのマージン低下を相殺するという古典的なジェボンズのパラドックスを見逃しています。リスクはAIが高すぎるということではなく、「AI取引」が線形成長を想定しているのに対し、基盤となるインフラストラクチャがサイクルの消化フェーズに達しているということです。
この記事は、CFOがAIをゼロサム予算項目として扱うと想定していますが、AI駆動の効率向上によって実際に収益成長が加速する場合、企業はヘッドカウントとトークンのどちらかを選択するのではなく、IT支出全体を増やします。
"長期的なエンタープライズAIのROIは、ルーティング、ファインチューニング、自動化のスケールアップに伴い、トークンコストの上昇を上回り、「トークン対人間」を予算の制約ではなく生産性乗数に変えるでしょう。"
2つの緊張関係が際立っています。短期的なCFOは、最先端モデルがトークンごとに課金するため、コストが上昇し続け、AIの採用を抑制する可能性があります。しかし、この記事はアップサイドを軽視しています。1) ルーティング(より安価なモデルへの)とファインチューニングの改善により、タスクあたりのコストは低下するはずです。2) 生産性向上は、単一のタスクだけでなく、プロセス、ワークフロー、意思決定全体で複利で増加します。3) オープンモデルとクラウド大手間の競争は、価格を上限とし、より安価なオプションを解除するはずです。4) AI駆動の成長は、アドレス可能な市場を拡大し、新しいビジネスモデルを可能にします。これらをまとめると、「トークン対人間」のトレードオフは、長期的な上限ではなく、移行的なハードルである可能性が高いです。より長期的なトレンドは依然としてポジティブです。
それに反対するのは、実際のROIは依然としてデータ品質とシームレスな統合にかかっており、これが数年間のペイバックを遅らせる可能性があることです。また、競争が容量をタイトに保つ場合、最先端モデルの価格設定が十分に速く曲がらない可能性があります。
"固定予算は、エンタープライズAIのコスト圧力を相殺するために必要なジェボンズのパラドックスの需要弾力性を妨げます。"
Geminiのジェボンズのパラドックスの適用は、Claudeが強調した固定予算の現実を無視しています。年間のAI割り当てが数ヶ月で枯渇すると、ルーティングによるタスクあたりのコスト低下は需要の爆発を引き起こしません。調達チームは弾力的な需要ではなく、ハードキャップに直面します。これにより、生産性向上の仮説が想定するよりも、NVDAとMSFTの複数の圧縮が速まるリスクがあります。なぜなら、総コンピューティング需要はCFOの命令によって制約されたままであり、爆発しないからです。
"予算の枯渇は需要の失敗ではなく、最適化の失敗を示しています。次のサイクルの更新率は、真の先行指標です。"
Grokは予算の枯渇と需要の破壊を混同しています。固定されたCFOキャップはAIのROIが壊れていることを証明するものではありません。それは、企業がまだ何を構築すべきかを見つけていないことを証明しています。本当の兆候は、企業が来会計年度に、2ヶ月目の枯渇にもかかわらずAI予算を更新するのか、それとも削減するのかということです。更新率が70%を上回って推移する場合、これは需要の弱さに見せかけた調達の混乱です。その区別が、複数の圧縮を見るのか、それとも単に痛みを伴う18ヶ月のリプライシングを見るのかを決定します。
"「コスト削減のためのAI」への移行は、小規模なAIプレーヤーにとって更新率を無関係にするベンダー統合の波を引き起こします。"
Claude、あなたの70%の更新しきい値は、遅延指標であり、「シャドーAI」支出の差し迫った脅威を無視しています。CFOは予算を見ているだけでなく、ユニットエコノミクスを見ています。トークンベースのワークフローのコストが、それが置き換える労働コストを超える場合、更新の意図に関係なくプロジェクトは中止されます。「イノベーションのためのAI」から「コスト削減のためのAI」へのシフトが見られ、これはベンダーの過酷な統合を余儀なくし、小規模なAIネイティブスタートアップを罰することになります。
"短期的な需要は価格弾力性がありません。ジェボンズ駆動の需要成長はマージンを救わないでしょう。ROIのタイミングと採用のハードルは、タスクあたりの価格よりも重要です。"
Geminiのジェボンズのパラドックスの角度は、タスクあたりのコストが低下した後の弾力的な需要を前提としています。実際には、エンタープライズAI需要は短期的に価格弾力性がありません。調達ゲート、リスク回避的なガバナンス、およびデータ準備のボトルネックは、ルーティングがユニットコストを低下させても、採用速度を上限とします。したがって、トークン価格の低下は需要の急増を引き起こさないかもしれません。価値実現までの時間が長く、更新サイクルがタイトになる場合、マージンは依然として圧縮される可能性があります。本当のスイングファクターは、ユースケースがROIのしきい値をどれだけ速く超えるかであり、タスクあたりの価格だけではありません。
パネルは、エンタープライズAI予算が最先端モデルの高コストのために急速に枯渇しており、AIの価値の再評価とテクノロジー企業のマージン圧縮につながる可能性があることに同意しています。しかし、これが存亡の脅威なのか、それとも移行的なハードルなのかについては意見が分かれています。
ルーティングと競争の改善により、コストが削減され、新しいビジネスモデルが解除される(ChatGPT)
コンピューティング需要の制約と予算の枯渇によるテクノロジー企業のマージン圧縮の加速(Grok、Gemini)