AI 수요는 과장되었고, Anthropic만이 현실적이다

인공지능에 대한 주요 수요 신호는 종이에는 폭발적으로 보이지만, 상당히 과장되었을 수 있습니다. Anthropic은 현실에 맞춰 도구를 가격 책정함으로써, 수정이 발생할 경우 가장 유리한 위치에 있는 AI 기업이 될 수 있습니다.

토큰은 AI 사용의 기본 단위입니다. 사용자 쿼리와 모델이 생성하는 출력 모두를 구성하는 단어와 문자입니다.

AI와 채팅하면 단락당 토큰이 200개 정도 소모됩니다. 모델이 코드를 작성하고 웹을 검색하며 다단계 워크플로를 실행하는 에이전트 AI의 경우 세션당 수천 개의 토큰이 더 소모됩니다.

Anthropic의 최신 모델 요율에 따르면 입력(프롬프트) 토큰 1백만 개는 5달러, 출력(모델 응답) 토큰 1백만 개는 25달러가 듭니다.

AI 기업들은 토큰 소비 증가를 인프라에 수백억 달러를 투자할 필요성을 정당화하는 근거로 인용합니다.

그러나 토큰 소비는 왜곡된 지표가 되고 있습니다.

Meta와 Shopify는 직원들이 사용하는 토큰 수를 추적하는 내부 리더보드를 만들었다고 밝혔습니다. Nvidia CEO Jensen Huang은 연봉 50만 달러를 받는 엔지니어가 최소 25만 달러 상당의 컴퓨팅 자원을 사용하지 않으면 "깊이 경고"할 것이라고 말했습니다. 즉, 엔지니어가 AI에 지출하는 금액을 측정하는 것이 AI를 통해 생산하는 결과물을 측정하는 것보다 더 중요합니다.

기업이 AI 채택을 볼륨으로 측정하기 시작하면 직원들은 결과보다 지표에 최적화합니다.

"목표가 돈을 많이 태우는 것이라면 쉬운 방법이 있습니다."라고 Databricks CEO Ali Ghodsi는 수천 개의 기업을 위해 AI 워크로드를 처리하는 Databricks의 CEO는 말했습니다. "쿼리를 열 곳에 다시 제출하십시오. 다시 또 반복하는 루프를 설정하십시오. 많은 돈이 들 것이고 아무것도 이끌어내지 못할 것입니다."

Harvard Business School AI Institute의 집행 이사 Jen Stave도 기업 리더들로부터 같은 이야기를 듣습니다.

"CTO 또는 CIO 12명을 인터뷰했는데, 모두 '사실 저는 이 ROI 프레임워크를 찾는 데 정말 어려움을 겪고 있습니다.'라고 말했습니다."라고 그녀는 말했습니다.

Anthropic은 수요 예측이 잘못될 가능성을 대비하고 있습니다.

CEO Dario Amodei는 데이터 센터를 건설하는 데 1~2년이 걸리므로 기업이 아직 확인할 수 없는 수요를 위해 지금 수십억 달러를 투자하고 있다고 말하는 "불확실성의 원뿔"이라고 불리는 것을 설명했습니다. 충분한 용량이 없으면 고객을 잃고, 너무 많이 구매하면 수익이 예정대로 도착하지 않아 수학이 작동하지 않습니다.

"2~3년 정도 차이가 나면 파멸적일 수 있습니다."라고 Amodei는 2월 Dwarkesh Patel 팟캐스트에서 말했습니다. "다른 회사들은 스프레드시트를 작성하지 않은 것 같습니다. 그냥 멋있어 보이니까 하는 일입니다."

Anthropic의 대응은 평면 요금제 기업 가격 책정에서 벗어나 실제 사용량을 반영하는 토큰당 요금으로 전환하는 것입니다. 또한 OpenAI가 규모를 쉽게 소비할 수 있도록 AI를 더 저렴하게 만드는 동안 토큰의 대규모 소비자인 일부 타사 도구를 중단했습니다.

AI 채택 초기에는 월별 고정 요금으로 관대하거나 무제한 AI 액세스를 제공하는 평면 요금제가 지배적이었습니다. 사람들과 AI로 채팅할 때 이 모델이 작동했습니다. 그러나 에이전트 사용은 세션당 수천 개의 토큰이 수백만 개로 바뀌면서 경제성을 파괴했습니다.

가장 관대한 소비자 제공 서비스인 월 200달러의 Max 플랜이 사례 연구가 되었습니다.

개발자들은 OpenClaw와 같은 타사 에이전트 도구를 통해 이 구독을 라우팅하여 하루 종일 AI 에이전트를 실행하여 대화용으로 설계된 플랜에서 실행했습니다. Anthropic의 최신 모델에 대한 발표된 요율에 따르면 Claude Code Max의 많은 사용자는 구독 없이 최대 5,000달러의 비용이 들 수 있는 사용량에 대해 월 200달러의 비용만 지불할 수 있습니다.

4월 4일, Anthropic은 이러한 도구를 중단했습니다. Boris Cherny, Claude Code 책임자는 X에 이 구독이 "이러한 타사 도구의 사용 패턴을 위해 만들어지지 않았습니다."라고 썼습니다.

기업에서도 동일한 재조정이 일어나고 있습니다.

Anthropic의 이전 계약에는 월별 고정 요금과 내장된 사용량 할당량을 갖춘 표준 및 프리미엄 좌석이 포함되었습니다. 이제 이 좌석 유형은 "새로운 Enterprise 계약에 더 이상 사용할 수 없는 레거시 좌석 유형"으로 표시됩니다. 새로운 기업 계획은 좌석당 요금을 부과하며 API 요율로 토큰 소비를 청구합니다.

Anthropic은 가장 먼저 움직였지만 업계 전반에 걸쳐 압력이 커지고 있습니다.

OpenAI의 Nick Turley, ChatGPT 책임자는 BG2 팟캐스트에서 "현재 시대에는 무제한 플랜을 갖는 것이 무제한 전기 요금제를 갖는 것과 같을 수 있습니다. 말이 안 됩니다."라고 인정했습니다.

이제 모든 토큰에 가격이 책정되면 평면 요금제 AI에 예산을 책정했던 기업과 소비자들은 실제로 무엇을 얻었는지 질문하기 시작할 것입니다.

Ramp CEO Eric Glyman은 최근 토큰 추적 도구를 출시했으며 재무 측면에서 이 역학을 파악합니다.

Ramp의 고객 기반에서 AI 지출은 지난 1년 동안 13배 증가했으며 이를 예산으로 책정하는 방법을 아무도 모릅니다. 그는 Anthropic의 접근 방식을 장기적으로 더 신중한 전략이라고 지적하고 OpenAI 투자자들에게 우려를 불러일으킬 수 있는 질문을 제기했습니다. "귀사의 비즈니스 모델이 최대 토큰 지출을 추출하는 데 달려 있다면 고객이 AI를 보다 효율적으로 사용하도록 돕기 위한 인센티브가 있습니까?"

Salesforce는 유사한 베팅을 하고 있으며 AI가 완료하는 작업 수를 추적하는 "에이전트 작업 단위"라는 새로운 지표를 출시합니다. 토큰을 태우는 것이 아니라요.

Anthropic과 OpenAI 모두 올해 IPO를 추진할 것으로 예상됩니다. 그렇게 되면 공개 시장 투자자들이 답변하려는 첫 번째 질문은 수요 질문이 될 것입니다.

토큰당 요금으로 전환함으로써 Anthropic은 고객이 실제로 중요하게 생각하는 것에 대한 더 명확한 데이터를 확보할 수 있습니다. OpenAI는 더 큰 숫자를 갖지만 얼마나 많은 숫자가 현실인지 증명하기가 더 어려울 것입니다.

오늘의 AI 수요의 상당 부분이 과장된 경우 현실에 맞춰 가격을 책정한 회사가 수정이 발생할 때까지 살아남을 것입니다.