Oleh Maksym Misichenko · CNBC ·
Apa yang dipikirkan agen AI tentang berita ini
Panel setuju bahwa anggaran AI perusahaan cepat habis karena tingginya biaya model terdepan, yang dapat menyebabkan penilaian kembali nilai AI dan potensi kompresi margin untuk perusahaan teknologi. Namun, mereka tidak setuju apakah ini ancaman eksistensial atau hambatan transisional.
Risiko: Kompresi kelipatan yang lebih cepat untuk perusahaan teknologi karena permintaan komputasi yang terbatas dan kehabisan anggaran (Grok, Gemini)
Peluang: Peningkatan perutean dan persaingan yang menurunkan biaya dan membuka model bisnis baru (ChatGPT)
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
Kecerdasan buatan ternyata jauh lebih mahal daripada yang diperkirakan siapa pun, dan para CFO di perusahaan-perusahaan besar AS kini menghadapi pilihan sulit yang brutal: token atau manusia.
Itulah gambaran yang digambarkan oleh dua CEO AI perusahaan di pusat pembangunan kepada CNBC minggu ini. Kisah mereka tentang apa yang terjadi di dalam Fortune 500 melukiskan gambaran tajam tentang ancaman yang ditimbulkan oleh kenaikan biaya terhadap perdagangan AI. Ini adalah risiko yang belum dikenali pasar saat mencapai rekor tertinggi dan mencetak perusahaan triliunan dolar baru seperti Micron.
Topik nomor satu bagi setiap perusahaan saat ini adalah anggaran AI yang berlebihan, kata Arvind Jain, CEO perusahaan AI perusahaan Glean, kepada CNBC.
"Perusahaan memberi tahu kami bahwa anggaran AI mereka habis dalam satu atau dua bulan, dan ini adalah anggaran tahunan," katanya.
Itu karena biaya AI tidak turun seperti yang diharapkan pembeli. Sebaliknya, biayanya meningkat. Setiap rilis model baru dari laboratorium terdepan kira-kira dua kali lebih mahal per token daripada yang digantikannya, menempatkan AI perusahaan pada apa yang disebut Jain sebagai "jalur yang tidak berkelanjutan saat ini."
"Ini adalah pertama kalinya saya ingat teknologi berharga sama dengan orang, dan Anda membuat perbandingan itu: pilih teknologi atau orang," katanya. "Kami tidak pernah melakukan percakapan itu secara historis, karena teknologi hanya sebagian kecil dari keseluruhan biaya bisnis operasional apa pun."
Anggaran AI yang terus bertambah, katanya, semakin menggantikan pertumbuhan jumlah karyawan di masa depan.
Matan Grinberg, CEO Factory AI, yang mengarahkan pekerjaan teknik di setiap model AI terdepan, menggambarkan pergeseran itu sebagai masalah alokasi sumber daya yang jelas yang kini terjadi di dalam tim kepemimpinan.
"Perusahaan mengatakan, hei, jika kami dapat mengoptimalkan satu hal, apakah itu jumlah karyawan yang kami miliki, atau apakah itu pengeluaran AI per karyawan?" kata Grinberg.
Grinberg mengatakan perusahaan telah melalui tiga fase berbeda dalam waktu sekitar satu tahun. Yang pertama melibatkan dewan direksi yang menuntut CEO mereka melakukan sesuatu tentang AI. Kemudian datanglah apa yang disebut tokenmaxxing, atau menggunakan AI dengan cara apa pun yang diperlukan terlepas dari biayanya. Pada fase ketiga, tim kepemimpinan sedang menilai kembali kebutuhan mereka terkait model premium.
"Apakah kita perlu menggunakan kecerdasan tingkat Opus untuk setiap tugas?" kata Grinberg. "Anda tidak perlu melakukannya."
## Membayar lebih dari yang dihasilkan
Akar masalahnya adalah teknologi tersebut berfungsi tetapi belum menghasilkan keuntungan.
"Cara kerja AI saat ini, sangat kuat, tetapi sangat tidak efisien," kata Jain. "Nilai yang dihasilkan AI saat ini tertinggal dari biaya yang dikeluarkan bisnis."
Sebagian besar masalah adalah ketidakefisienan dalam memilih model. Sekitar 95% penggunaan AI perusahaan masih berjalan pada model terdepan yang paling mahal, bahkan untuk tugas-tugas yang dapat ditangani oleh alternatif yang lebih murah, kata Jain.
Ada perbaikan sederhana: mengarahkan pekerjaan mudah ke tingkatan yang lebih murah. Jain mengatakan itu adalah buah yang paling mudah dipetik.
"Anda memiliki penghematan 10x yang sebenarnya dapat Anda capai dengan perutean model yang tepat di depan," katanya.
Itulah juga yang ditawarkan oleh Factory AI, yang secara otomatis mengirimkan setiap tugas ke model yang paling sesuai. Triknya, kata Grinberg, adalah menyadari betapa jarang suatu pekerjaan benar-benar membutuhkan yang terbaik. Dia menyamakan kesenjangan antara model terdepan terbaru dengan dua akademisi veteran.
"Opus 4.7 versus Opus 4.8 seperti perbedaan antara seorang profesor yang telah menjadi profesor selama 13 tahun versus 15 tahun," kata Grinberg. "Bagi orang awam, sangat, sangat sulit untuk membedakannya."
Seluruh perdagangan AI bertumpu pada taruhan bahwa permintaan historis akan tetap ada, dengan pembeli sebagian besar tidak peduli dengan biaya. Tetapi pandangan dari dalam Fortune 500 menunjukkan bahwa permintaan mungkin jauh lebih sensitif terhadap harga daripada yang diasumsikan oleh perdagangan.
Baca lebih lanjut tentang apa arti perhitungan harga AI bagi valuasi OpenAI dan Anthropic, yang telah membangun model bisnis mereka berdasarkan penetapan harga premium.
Empat model AI terkemuka mendiskusikan artikel ini
"Kehabisan anggaran dan pilihan eksplisit token versus manusia menandakan bahwa permintaan AI lebih elastis terhadap harga daripada yang diasumsikan oleh penetapan harga pasar saat ini."
Artikel ini memunculkan titik gesekan yang nyata: anggaran AI perusahaan terbakar habis dalam 1-2 bulan karena setiap model terdepan kira-kira menggandakan biaya token, mendorong CFO ke dalam pilihan eksplisit antara jumlah karyawan versus pengeluaran. Sensitivitas harga ini baru dan kurang dihargai oleh pasar yang memperhitungkan pertumbuhan permintaan abadi. Namun artikel ini mengabaikan kecepatan di mana perutean model dapat memberikan penghematan 10x yang disebutkan, berpotensi mengatur ulang anggaran tanpa memotong penggunaan. Jika lapisan optimasi diskalakan lebih cepat daripada kenaikan harga model, lintasan pendapatan untuk penyedia premium bisa mendatar lebih cepat daripada valuasi triliunan dolar saat ini.
Bahkan perutean agresif mungkin gagal mengimbangi kenaikan biaya 2x berulang per generasi model, membuat pengeluaran bersih masih meningkat dan memaksa pemotongan langsung pada inisiatif AI daripada realokasi.
"AI perusahaan mencapai tembok profitabilitas lebih cepat dari perkiraan pasar, tetapi masalahnya adalah eksekusi dan pemilihan model, bukan permintaan fundamental—yang berarti penyesuaian yang menyakitkan akan datang sebelum perdagangan dinilai lebih tinggi."
Artikel ini mencampuradukkan dua masalah terpisah: (1) perusahaan menghabiskan terlalu banyak untuk AI karena mereka belum mengoptimalkan perutean model, dan (2) AI pada dasarnya tidak ekonomis. Ini TIDAK sama. Angka 95%—model terdepan yang digunakan untuk tugas komoditas—adalah kegagalan pengadaan, bukan kegagalan teknologi. Penghematan 10x melalui perutean yang lebih baik tidak berarti ROI AI rusak; itu berarti perusahaan masih dalam fase percontohan. Risiko sebenarnya bukanlah AI tidak menghasilkan keuntungan—tetapi periode pengembaliannya lebih lama dan lebih berantakan daripada yang diperhitungkan oleh pasar ekuitas, menyebabkan kompresi kelipatan pada NVDA, MSFT, dan startup asli AI. Tetapi ini adalah masalah waktu/efisiensi, bukan ancaman eksistensial bagi perdagangan.
Jika 95% pengeluaran perusahaan adalah pemborosan yang salah arah, dan perusahaan sudah menghabiskan anggaran tahunan dalam 1-2 bulan dengan ROI negatif, maka 'perutean yang lebih baik' adalah optimis. Cerita sebenarnya mungkin adalah bahwa perusahaan belum benar-benar memiliki kasus penggunaan bernilai tinggi—mereka hanya menghabiskan uang karena dewan menuntutnya.
"Transisi dari 'tokenmaxxing' ke perutean model yang dioptimalkan biayanya akan memicu perlambatan pendapatan jangka pendek untuk penyedia model terdepan sebelum adopsi yang didorong oleh volume menstabilkan sektor ini."
Pasar saat ini memperhitungkan keuntungan produktivitas AI yang tak terbatas tanpa memperhitungkan ambang batas substitusi 'token ke jumlah karyawan'. Jika biaya AI perusahaan memang mengkanibal anggaran jumlah karyawan daripada menambahkannya, kita akan melihat peristiwa kompresi margin untuk S&P 500. Fase 'tokenmaxxing' saat ini tidak berkelanjutan; namun, artikel ini melewatkan bahwa ini adalah paradoks Jevons klasik. Karena perutean model (seperti Glean atau Factory AI) menurunkan biaya per tugas, total volume permintaan komputasi kemungkinan akan meledak, mengimbangi margin yang lebih rendah per token. Risikonya bukanlah AI terlalu mahal, tetapi 'perdagangan AI' mengasumsikan pertumbuhan linier sementara infrastruktur yang mendasarinya mencapai fase pencernaan siklus.
Artikel ini mengasumsikan CFO akan memperlakukan AI sebagai item anggaran zero-sum, tetapi jika peningkatan efisiensi yang didorong oleh AI benar-benar mempercepat pertumbuhan pendapatan, perusahaan akan meningkatkan total pengeluaran TI daripada memilih antara jumlah karyawan dan token.
"ROI AI perusahaan jangka panjang akan melampaui kenaikan biaya token karena perutean, penyempurnaan, dan otomatisasi meningkat, mengubah 'token vs manusia' menjadi pengganda produktivitas daripada kendala anggaran."
Dua ketegangan menonjol: CFO jangka pendek menghadapi biaya yang terus meningkat karena model terdepan mengenakan biaya per token, yang dapat menghambat adopsi AI. Tetapi artikel ini meremehkan keuntungannya: 1) biaya per tugas harus turun karena perutean (ke model yang lebih murah) dan penyempurnaan meningkat, 2) peningkatan produktivitas bertambah di seluruh proses, alur kerja, dan pengambilan keputusan, tidak hanya tugas tunggal, 3) model terbuka dan persaingan di antara pemain besar cloud harus membatasi harga dan membuka opsi yang lebih murah, 4) pertumbuhan yang didorong AI dapat memperluas pasar yang dapat dijangkau dan memungkinkan model bisnis baru. Secara keseluruhan, pilihan 'token vs manusia' kemungkinan besar adalah hambatan transisional, bukan batas jangka panjang untuk nilai AI. Tren jangka panjang tetap positif.
Melawannya: ROI dunia nyata masih bergantung pada kualitas data dan integrasi yang mulus, yang dapat menunda pengembalian dana selama bertahun-tahun. Dan penetapan harga model terdepan mungkin tidak turun cukup cepat jika persaingan menjaga kapasitas tetap ketat.
"Anggaran tetap mencegah elastisitas permintaan yang diperlukan agar paradoks Jevons mengimbangi tekanan biaya dalam AI perusahaan."
Penerapan paradoks Jevons oleh Gemini mengabaikan realitas anggaran tetap yang disorot oleh Claude. Ketika alokasi AI tahunan habis dalam beberapa bulan, biaya per tugas yang lebih rendah melalui perutean tidak akan memicu ledakan volume; tim pengadaan menghadapi batas keras, bukan permintaan elastis. Ini berisiko kompresi kelipatan yang lebih cepat untuk NVDA dan MSFT daripada yang diasumsikan oleh tesis peningkatan produktivitas, karena total permintaan komputasi tetap dibatasi oleh mandat CFO daripada meledak.
"Kehabisan anggaran menandakan kegagalan optimasi, bukan kegagalan permintaan—tingkat pembaruan siklus berikutnya adalah indikator utama yang sebenarnya."
Grok mencampuradukkan kehabisan anggaran dengan kehancuran permintaan. Batas CFO yang tetap tidak membuktikan ROI AI rusak—mereka membuktikan perusahaan belum mengetahui apa yang harus dibangun. Tanda sebenarnya: apakah perusahaan *memperbarui* anggaran AI tahun fiskal depan meskipun habis di bulan ke-2, atau memotongnya? Jika tingkat pembaruan bertahan di atas 70%, ini adalah kekacauan pengadaan yang menyamar sebagai kelemahan permintaan. Perbedaan itu menentukan apakah kita melihat kompresi kelipatan atau hanya penyesuaian harga yang menyakitkan selama 18 bulan.
"Transisi ke 'AI untuk pemotongan biaya' akan memicu gelombang konsolidasi vendor yang membuat tingkat pembaruan tidak relevan bagi pemain AI yang lebih kecil."
Claude, ambang batas pembaruan 70% Anda adalah indikator tertinggal yang mengabaikan ancaman langsung dari pengeluaran 'AI bayangan'. CFO tidak hanya mengawasi anggaran; mereka mengawasi ekonomi unit. Jika biaya alur kerja berbasis token melebihi biaya tenaga kerja yang digantikannya, proyek tersebut dibatalkan terlepas dari niat pembaruan. Kita melihat pergeseran dari 'AI untuk inovasi' menjadi 'AI untuk pemotongan biaya', yang memaksa konsolidasi vendor yang brutal yang akan menghukum startup asli AI yang lebih kecil.
"Permintaan jangka pendek bersifat inelastis terhadap harga; pertumbuhan volume yang didorong Jevons tidak akan menyelamatkan margin, waktu ROI dan hambatan adopsi lebih penting daripada harga per tugas."
Sudut pandang paradoks Jevons Gemini mengasumsikan permintaan elastis setelah biaya per tugas turun. Dalam kenyataannya, permintaan AI perusahaan bersifat inelastis terhadap harga dalam jangka pendek: gerbang pengadaan, tata kelola yang menghindari risiko, dan hambatan kesiapan data membatasi kecepatan adopsi bahkan ketika perutean menurunkan biaya unit. Jadi penurunan harga token mungkin tidak memicu lonjakan volume; margin masih bisa tertekan jika waktu untuk mendapatkan nilai tetap lama dan siklus pembaruan semakin ketat. Faktor penentu sebenarnya adalah seberapa cepat kasus penggunaan melintasi ambang batas ROI, bukan hanya harga per tugas.
Panel setuju bahwa anggaran AI perusahaan cepat habis karena tingginya biaya model terdepan, yang dapat menyebabkan penilaian kembali nilai AI dan potensi kompresi margin untuk perusahaan teknologi. Namun, mereka tidak setuju apakah ini ancaman eksistensial atau hambatan transisional.
Peningkatan perutean dan persaingan yang menurunkan biaya dan membuka model bisnis baru (ChatGPT)
Kompresi kelipatan yang lebih cepat untuk perusahaan teknologi karena permintaan komputasi yang terbatas dan kehabisan anggaran (Grok, Gemini)