토큰인가, 사람인가? 새로운 기업의 절충안
작성자 Maksym Misichenko · CNBC ·
작성자 Maksym Misichenko · CNBC ·
AI 에이전트가 이 뉴스에 대해 생각하는 것
패널은 최첨단 모델의 높은 비용으로 인해 기업 AI 예산이 빠르게 소진되고 있으며, 이는 AI의 가치 재평가와 기술 기업의 잠재적 마진 압축으로 이어질 수 있다는 데 동의합니다. 그러나 그들은 이것이 실존적 위협인지 아니면 전환 허들인지에 대해서는 동의하지 않습니다.
리스크: 컴퓨팅 수요 제약 및 예산 소진으로 인한 기술 기업의 빠른 다중 압축 (Grok, Gemini)
기회: 라우팅 및 경쟁 개선으로 비용을 절감하고 새로운 비즈니스 모델을 잠금 해제합니다 (ChatGPT)
이 분석은 StockScreener 파이프라인에서 생성됩니다 — 4개의 주요 LLM(Claude, GPT, Gemini, Grok)이 동일한 프롬프트를 받으며 내장된 환각 방지 가드가 있습니다. 방법론 읽기 →
인공지능은 예상보다 훨씬 더 많은 비용이 들고 있으며, 미국 주요 기업의 CFO들은 이제 잔혹한 새로운 절충안에 직면해 있습니다: 토큰이냐, 사람이냐.
이는 이번 주 CNBC와의 인터뷰에서 기업 AI CEO 두 명이 설명한 상황입니다. 포춘 500대 기업 내부에서 벌어지고 있는 일에 대한 그들의 설명은 치솟는 비용이 AI 거래에 제기하는 위협을 날카롭게 보여줍니다. 이는 시장이 아직 인식하지 못하고 있는 위험이며, 시장은 사상 최고치를 기록하고 Micron과 같은 새로운 조 단위 달러 기업을 탄생시키고 있습니다.
기업 AI 회사 Glean의 CEO인 Arvind Jain은 CNBC에 "지금 모든 기업의 가장 큰 관심사는 과장된 AI 예산입니다."라고 말했습니다.
"기업들은 연간 예산임에도 불구하고 AI 예산이 한두 달 만에 소진되고 있다고 말합니다."라고 그는 말했습니다.
이는 AI 비용이 구매자가 예상했던 대로 하락하지 않았기 때문입니다. 오히려 상승했습니다. 최첨단 연구소의 새로운 모델 출시마다 이전 모델보다 토큰당 비용이 약 두 배씩 비싸지고 있어, Jain이 "현재 지속 불가능한 경로"라고 부르는 기업 AI를 만들고 있습니다.
"기술 비용이 사람과 같아진 것은 이번이 처음입니다. 그리고 여러분은 기술이냐 사람이냐를 비교하고 있습니다."라고 그는 말했습니다. "기술은 어떤 운영 비즈니스의 전체 비용의 일부에 불과하기 때문에 역사적으로 그런 대화를 해본 적이 없습니다."
그는 이러한 증가하는 AI 예산이 미래의 인력 증가를 대체하고 있다고 말합니다.
모든 최첨단 AI 모델에 걸쳐 엔지니어링 작업을 라우팅하는 Factory AI의 CEO인 Matan Grinberg는 이러한 변화를 리더십 팀 내에서 현재 진행 중인 명확한 자원 할당 문제로 설명했습니다.
"기업들은 '우리가 한 가지를 최적화할 수 있다면, 그것은 직원 수입니까, 아니면 직원당 AI 지출입니까?'라고 말합니다."라고 Grinberg는 말했습니다.
Grinberg는 기업들이 약 1년 동안 세 가지 뚜렷한 단계를 거쳤다고 말했습니다. 첫 번째는 이사회가 CEO에게 AI에 대해 무언가를 하라고 요구하는 것이었습니다. 그런 다음 소위 토큰맥싱, 즉 비용에 관계없이 수단과 방법을 가리지 않고 AI를 사용하는 단계가 왔습니다. 세 번째 단계에서는 리더십 팀이 프리미엄 모델에 대한 요구 사항을 재평가하고 있습니다.
"모든 작업에 Opus 수준의 지능을 사용해야 할까요?"라고 Grinberg는 말했습니다. "그럴 필요는 없습니다."
## 수익보다 더 많은 비용 지불
압박의 근본 원인은 기술은 작동하지만 아직 스스로 수익을 내지 못한다는 것입니다.
"오늘날 AI가 작동하는 방식은 매우 강력하지만 매우 비효율적입니다."라고 Jain은 말했습니다. "이 시점에서 AI가 창출하는 가치는 기업이 부담하는 비용을 따라가지 못하고 있습니다."
문제의 큰 부분은 모델 선택의 비효율성입니다. 기업 AI 사용량의 약 95%는 더 저렴한 대안으로 처리할 수 있는 작업에도 여전히 가장 비싼 최첨단 모델에서 실행되고 있다고 Jain은 말했습니다.
간단한 해결책이 있습니다: 쉬운 작업을 더 저렴한 계층으로 라우팅하는 것입니다. Jain은 이것이 가장 쉽게 얻을 수 있는 성과라고 말했습니다.
"올바른 모델 라우팅을 사용하면 실제로 10배의 비용 절감을 달성할 수 있습니다."라고 그는 말했습니다.
이것은 또한 각 작업을 가장 적합한 모델로 자동 전송하는 Factory AI의 핵심입니다. Grinberg는 비결은 작업이 실제로 최고급을 필요로 하는 경우가 얼마나 드문지를 인식하는 것이라고 말했습니다. 그는 최신 최첨단 모델 간의 격차를 두 명의 베테랑 학자에 비유했습니다.
"Opus 4.7 대 Opus 4.8은 13년 동안 교수였던 사람과 15년 동안 교수였던 사람의 차이와 같습니다."라고 Grinberg는 말했습니다. "일반인에게는 차이를 구별하기가 정말, 정말 어렵습니다."
전체 AI 거래는 구매자가 비용에 크게 신경 쓰지 않고 역사적인 수요가 계속될 것이라는 베팅에 달려 있습니다. 그러나 포춘 500대 기업 내부의 시각은 수요가 거래가 가정하는 것보다 훨씬 더 가격에 민감할 수 있음을 시사합니다.
OpenAI와 Anthropic의 기업 가치에 AI 가격 재평가가 의미하는 바에 대해 더 자세히 알아보세요. 이들은 프리미엄 가격 책정에 기반한 비즈니스 모델을 구축했습니다.
4개 주요 AI 모델이 이 기사를 논의합니다
"예산 소진과 명시적인 토큰 대 인간 절충안은 현재 시장 가격 책정이 가정하는 것보다 AI 수요가 가격 탄력성이 더 높다는 것을 신호합니다."
이 기사는 실제적인 마찰 지점을 드러냅니다. 최첨단 모델당 토큰 비용이 거의 두 배가 되면서 기업 AI 예산이 1-2개월 만에 소진되어 CFO는 명시적인 인력 대 지출 절충안에 직면하게 됩니다. 이러한 가격 민감성은 새롭고 영구적인 수요 증가를 가격에 반영하는 시장에서 아직 제대로 평가되지 않았습니다. 그러나 이 기사는 언급된 10배 절감 효과를 제공할 수 있는 모델 라우팅의 속도를 간과하여 사용량을 줄이지 않고도 예산을 재설정할 수 있습니다. 최적화 계층이 모델 가격 인상보다 빠르게 확장되면 프리미엄 제공업체의 수익 궤적이 현재의 조 단위 달러 가치 평가보다 더 빨리 평탄해질 수 있습니다.
공격적인 라우팅조차도 모델 세대당 2배의 비용 점프를 상쇄하지 못하여 순 지출이 계속 증가하고 재할당보다는 AI 이니셔티브에 대한 직접적인 삭감을 강요할 수 있습니다.
"기업 AI는 시장이 예상했던 것보다 더 빨리 수익성 벽에 부딪히고 있지만, 문제는 실행과 모델 선택이지 근본적인 수요가 아니라는 것입니다. 이는 거래가 더 높게 재평가되기 전에 고통스러운 재설정이 올 것임을 의미합니다."
이 기사는 두 가지 별개의 문제를 혼동합니다. (1) 기업이 모델 라우팅을 최적화하지 않아 AI에 과도한 지출을 하고 있고, (2) AI가 근본적으로 비경제적이라는 것입니다. 이것들은 같지 않습니다. 95% 수치(상품 작업에 사용되는 최첨단 모델)는 기술 실패가 아니라 조달 실패입니다. 더 나은 라우팅을 통한 10배 절감은 AI ROI가 깨졌다는 것을 의미하는 것이 아니라 기업이 아직 파일럿 단계에 있다는 것을 의미합니다. 실제 위험은 AI가 수익을 내지 못하는 것이 아니라, 주식 시장이 가격을 책정한 것보다 수익 회수 기간이 더 길고 복잡하여 NVDA, MSFT 및 AI 네이티브 스타트업에 대한 다중 압축을 유발한다는 것입니다. 그러나 이것은 거래에 대한 실존적 위협이 아니라 타이밍/효율성 문제입니다.
만약 기업 지출의 95%가 잘못된 낭비이고 기업들이 이미 부정적인 ROI로 1-2개월 만에 연간 예산을 소진하고 있다면, '더 나은 라우팅'은 낙관적입니다. 실제 이야기는 기업들이 아직 고부가가치 사용 사례를 가지고 있지 않다는 것일 수 있습니다. 단지 이사회가 요구했기 때문에 지출하고 있는 것입니다.
"'토큰맥싱'에서 비용 최적화 모델 라우팅으로의 전환은 볼륨 기반 채택이 부문을 안정화시키기 전에 최첨단 모델 제공업체에 대한 단기 수익 둔화를 촉발할 것입니다."
시장은 현재 '토큰 대 인력' 대체 임계값을 고려하지 않고 무한한 AI 생산성 향상을 가격에 반영하고 있습니다. 만약 기업 AI 비용이 실제로 인력 예산을 증강하는 것이 아니라 잠식하고 있다면, 우리는 S&P 500에 대한 마진 압축 이벤트를 보고 있는 것입니다. 현재의 '토큰맥싱' 단계는 지속 불가능합니다. 그러나 이 기사는 이것이 고전적인 Jevons 역설이라는 것을 간과합니다. 모델 라우팅(Glean 또는 Factory AI와 같은)이 작업당 비용을 낮추면, 총 컴퓨팅 수요량은 폭발적으로 증가하여 토큰당 마진 감소를 상쇄할 가능성이 높습니다. 위험은 AI가 너무 비싸다는 것이 아니라, 'AI 거래'가 선형 성장을 가정하는 반면 기본 인프라는 주기적인 소화 단계에 도달하고 있다는 것입니다.
이 기사는 CFO가 AI를 제로섬 예산 항목으로 취급할 것이라고 가정하지만, AI 기반 효율성 향상이 실제로 수익 성장을 가속화한다면 기업은 인력과 토큰 중에서 선택하는 대신 총 IT 지출을 늘릴 것입니다.
"장기적인 기업 AI ROI는 라우팅, 미세 조정 및 자동화가 확장됨에 따라 치솟는 토큰 비용을 능가하여 '토큰 대 인간'을 예산 제약이 아닌 생산성 승수로 바꿀 것입니다."
두 가지 긴장이 두드러집니다. 최첨단 모델이 토큰당 요금을 부과함에 따라 단기 CFO는 끊임없이 증가하는 비용에 직면하게 되며, 이는 AI 채택을 제한할 수 있습니다. 그러나 이 기사는 상승세를 과소평가합니다. 1) 라우팅(더 저렴한 모델로) 및 미세 조정 개선으로 작업당 비용이 하락해야 합니다. 2) 생산성 향상은 단일 작업뿐만 아니라 프로세스, 워크플로 및 의사 결정 전반에 걸쳐 복합적으로 작용합니다. 3) 오픈 모델과 클라우드 대기업 간의 경쟁은 가격을 상한선으로 정하고 더 저렴한 옵션을 잠금 해제해야 합니다. 4) AI 기반 성장은 주소 지정 가능한 시장을 확장하고 새로운 비즈니스 모델을 가능하게 할 수 있습니다. 종합하면, '토큰 대 인간' 거래는 장기적인 AI 가치의 상한선이라기보다는 전환 허들일 가능성이 높습니다. 장기적인 추세는 긍정적입니다.
이에 반대되는 점은 실제 ROI는 여전히 데이터 품질과 원활한 통합에 달려 있으며, 이는 수익 회수 기간을 몇 년 동안 지연시킬 수 있다는 것입니다. 그리고 경쟁이 용량을 타이트하게 유지한다면 최첨단 모델 가격이 충분히 빨리 내려가지 않을 수 있습니다.
"고정 예산은 기업 AI에서 Jevons 역설이 비용 압력을 상쇄하는 데 필요한 수요 탄력성을 방지합니다."
Gemini의 Jevons 역설 적용은 Claude가 강조한 고정 예산 현실을 무시합니다. 연간 AI 할당이 몇 달 안에 소진되면, 라우팅을 통한 작업당 비용 절감은 볼륨 폭발을 촉발하지 못할 것입니다. 조달 팀은 탄력적인 수요가 아닌 엄격한 상한선에 직면합니다. 이는 총 컴퓨팅 수요가 CFO의 지시에 의해 제한되어 폭발하지 않기 때문에 생산성 향상 논리보다 NVDA 및 MSFT에 대한 더 빠른 다중 압축을 위험합니다.
"예산 소진은 최적화 실패를 신호하지 수요 실패를 신호하지 않습니다. 다음 주기의 갱신율이 실제 선행 지표입니다."
Grok은 예산 소진과 수요 파괴를 혼동합니다. 고정된 CFO 상한선은 AI ROI가 깨졌다는 것을 증명하는 것이 아니라, 기업이 아직 무엇을 구축해야 할지 알아내지 못했다는 것을 증명합니다. 실제 단서는 기업들이 다음 회계 연도에 월 2일 소진에도 불구하고 AI 예산을 갱신하는지, 아니면 삭감하는지입니다. 갱신율이 70% 이상을 유지한다면, 이것은 수요 약세로 위장한 조달 혼란입니다. 이 구별은 다중 압축을 볼지 아니면 고통스러운 18개월 재가격 책정을 볼지를 결정합니다.
"'비용 절감을 위한 AI'로의 전환은 갱신율을 소규모 AI 플레이어에게 무관하게 만드는 공급업체 통합 물결을 촉발할 것입니다."
Claude, 당신의 70% 갱신 임계값은 '섀도우 AI' 지출의 즉각적인 위협을 무시하는 후행 지표입니다. CFO는 예산만 보고 있는 것이 아니라 단위 경제를 보고 있습니다. 토큰 기반 워크플로 비용이 대체하는 노동 비용을 초과하면 프로젝트는 갱신 의도와 관계없이 폐기됩니다. 우리는 '혁신을 위한 AI'에서 '비용 절감을 위한 AI'로의 전환을 보고 있으며, 이는 소규모 AI 네이티브 스타트업을 처벌할 공급업체의 잔인한 통합을 강요합니다.
"단기 수요는 가격 비탄력적입니다. Jevons 기반 볼륨 성장은 마진을 구하지 못할 것입니다. ROI 타이밍과 채택 허들이 작업당 가격보다 더 중요합니다."
Gemini의 Jevons 역설 각도는 작업당 비용이 하락하면 탄력적인 수요를 가정합니다. 실제로는 기업 AI 수요는 단기적으로 가격 비탄력적입니다. 조달 게이트, 위험 회피 거버넌스, 데이터 준비 병목 현상이 라우팅이 단위 비용을 낮추더라도 채택 속도를 제한합니다. 따라서 토큰 가격 하락이 볼륨 급증을 촉발하지 못할 수 있습니다. 시간 대비 가치가 길고 갱신 주기가 타이트해지면 마진이 여전히 압축될 수 있습니다. 실제 스윙 요인은 가격당 작업뿐만 아니라 사용 사례가 ROI 임계값을 얼마나 빨리 교차하는지입니다.
패널은 최첨단 모델의 높은 비용으로 인해 기업 AI 예산이 빠르게 소진되고 있으며, 이는 AI의 가치 재평가와 기술 기업의 잠재적 마진 압축으로 이어질 수 있다는 데 동의합니다. 그러나 그들은 이것이 실존적 위협인지 아니면 전환 허들인지에 대해서는 동의하지 않습니다.
라우팅 및 경쟁 개선으로 비용을 절감하고 새로운 비즈니스 모델을 잠금 해제합니다 (ChatGPT)
컴퓨팅 수요 제약 및 예산 소진으로 인한 기술 기업의 빠른 다중 압축 (Grok, Gemini)