Perché le azioni della memoria sono crollate oggi: TurboQuant ha appena cambiato il gioco con il "momento DeepSeek di Google"

Perché le azioni della memoria sono crollate oggi: TurboQuant ha appena cambiato il gioco con il "momento DeepSeek di Google"

Con le azioni che chiudevano solidamente in verde nonostante alcune dolorose oscillazioni durante il giorno, un settore è stato un notevole ritardatario: lo stesso settore che aveva sovraperformato in modo spettacolare l'S&P da quando i prezzi della memoria sono saliti lo scorso ottobre: azioni di memoria, in particolare MU e SNDK.

Nel suo riepilogo di fine giornata, lo specialista tecnologico di Goldman Peter Callahan ha scritto che, sebbene non ci fosse molta "ansia" in circolazione, i suoi clienti si sono lamentati di molti "controlli di sanità mentale" sui bruschi movimenti al ribasso nelle azioni di memoria (MU / SNDK in calo rispetto agli OEM in rialzo) e in particolare "la scivolata di 5 giorni di MU poiché Micron ha sottoperformato il SOX del 20% in 5 giorni, iniziando con il rapporto sugli utili esplosivi della società; quel movimento si classifica come i maggiori 5 giorni di sottoperformance rispetto ai semiconduttori/SOX dal 2011.

Cosa ha causato il notevole crollo di oggi, che a un certo punto ha visto le azioni Micron scendere oltre il 6% e Sandisk scivolare del 9% prima di ridurre le perdite, con altri notevoli declini tra cui Western Digital (-6,7%) e Seagate Technologies (-8,5%)?

La risposta è stato l'ultimo annuncio di Google Research, che dopo la chiusura di mercoledì ha svelato TurboQuant, un algoritmo di compressione per modelli linguistici di grandi dimensioni e motori di ricerca vettoriali, che riduce un collo di bottiglia significativo di inferenza-memoria: riduce la memoria di un modello AI di 6 volte, rendendolo 8 volte più veloce con lo stesso numero di GPU, il tutto mantenendo una perdita di accuratezza pari a zero e "ridefinendo l'efficienza dell'AI".

Introducing TurboQuant: Our new compression algorithm that reduces LLM key-value cache memory by at least 6x and delivers up to 8x speedup, all with zero accuracy loss, redefining AI efficiency. Read the blog to learn how it achieves these results: https://t.co/CDSQ8HpZoc pic.twitter.com/9SJeMqCMlN
— Google Research (@GoogleResearch) March 24, 2026
Il paper è previsto per la presentazione all'ICLR 2026, ma la reazione online è stata immediata: il CEO di Cloudflare Matthew Prince l'ha definita "il momento DeepSeek di Google".

A dire il vero, l'annuncio di @GoogleResearch ha generato un enorme coinvolgimento, con oltre 7,7 milioni di visualizzazioni, segnalando che l'industria era affamata di una soluzione alla crisi della memoria. Tutti, tranne i produttori di memoria, erano estasiati.

Entro 24 ore dal rilascio, i membri della community hanno iniziato a portare l'algoritmo nelle popolari librerie AI locali come MLX per Apple Silicon e llama.cpp.

L'analista tecnico @Prince_Canuma ha condiviso uno dei benchmark iniziali più convincenti, implementando TurboQuant in MLX per testare il modello Qwen3.5-35B.

Su lunghezze di contesto variabili da 8,5K a 64K token, ha riportato una corrispondenza esatta al 100% a ogni livello di quantizzazione, notando che il TurboQuant a 2,5 bit ha ridotto la cache KV di quasi 5 volte senza perdita di accuratezza. Questa validazione nel mondo reale ha fatto eco alla ricerca interna di Google, dimostrando che i vantaggi dell'algoritmo si traducono senza soluzione di continuità in modelli di terze parti.

Just implemented Google’s TurboQuant in MLX and the results are wild!
Needle-in-a-haystack using Qwen3.5-35B-A3B across 8.5K, 32.7K, and 64.2K context lengths:
→ 6/6 exact match at every quant level
→ TurboQuant 2.5-bit: 4.9x smaller KV cache
→ TurboQuant 3.5-bit: 3.8x… https://t.co/aLxRJIhB1D pic.twitter.com/drVrkL7Pw4
— Prince Canuma (@Prince_Canuma) March 25, 2026
Altri utenti si sono concentrati sulla democratizzazione dell'AI ad alte prestazioni. @NoahEpstein_ ha fornito una spiegazione in linguaggio semplice, sostenendo che TurboQuant riduce significativamente il divario tra l'AI locale gratuita e gli costosi abbonamenti cloud.

Ha notato che i modelli in esecuzione localmente su hardware consumer come un Mac Mini "sono appena migliorati drasticamente", consentendo conversazioni da 100.000 token senza la tipica degradazione della qualità.

Allo stesso modo, @PrajwalTomar_ ha evidenziato i vantaggi di sicurezza e velocità dell'esecuzione di "modelli AI folli localmente gratuitamente", esprimendo "enorme rispetto" per la decisione di Google di condividere la ricerca piuttosto che mantenerla proprietaria.

L'implicazione è chiara: se Google può ottenere gli stessi risultati di inferenza con un sesto dell'hardware, allora la domanda di chip di memoria crollerà in proporzione inversa - la stessa domanda famelica che fino a poco tempo fa ha fatto aumentare i prezzi DDR fino a 7 volte in soli 3 mesi quando è diventato evidente il collo di bottiglia della memoria per l'AI...

... e più recentemente ha fatto impennare anche i prezzi del NAND Flash orientato all'inferenza.

Se questo suona simile all'infame algoritmo Pied Piper di Silicon Valley, è perché lo è, meno la parte dello scuotimento del cazzo:

Il noto analista di criptovalute Kaleo ha catturato perfettamente il sentimento, twittando: "Quindi Google TurboQuant è fondamentalmente Pied Piper e ha appena raggiunto un Punteggio Weismann di 5,2". Questo riferimento alla metrica di compressione dello show fittizio dimostra quanto profondamente il confronto culturale sia risuonato. Il commentatore tecnologico Justin Trimble ha fatto eco a questa prospettiva, affermando semplicemente: "TurboQuant è il nuovo Pied Piper".

Certo, è un po' iperbolico, ma la premessa c'è: prendere l'hardware esistente e ottenere un risultato di compressione molto migliore.

Una rapida nota tecnica sul modo in cui Turboquant ottiene questo notevole miglioramento dell'efficienza per decrittazione:

L'efficienza di quantizzazione è di per sé un grande risultato. Ma la "perdita di accuratezza zero" necessita di contesto. TurboQuant si rivolge alla cache KV, il blocco di memoria della GPU che memorizza tutto ciò di cui un modello linguistico ha bisogno per ricordare durante una conversazione.

Man mano che le finestre di contesto crescono verso milioni di token, quelle cache si gonfiano fino a centinaia di gigabyte per sessione. Quello è il vero collo di bottiglia. Non la potenza di calcolo, ma la memoria grezza.

I metodi di compressione tradizionali cercano di ridurre quelle cache arrotondando i numeri per difetto, ad esempio da float a 32 bit a 16, a 8 a 4 bit interi. Per capirlo meglio, pensa a rimpicciolire un'immagine da 4K a full HD, a 720p e così via. È facile dire che è la stessa immagine nel complesso, ma c'è più dettaglio nella risoluzione 4K.

Il problema: devono memorizzare "costanti di quantizzazione" aggiuntive insieme ai dati compressi per evitare che il modello diventi stupido. Quelle costanti aggiungono da 1 a 2 bit per valore, erodendo parzialmente i guadagni.

TurboQuant afferma di eliminare completamente tale overhead.

Lo fa tramite due sotto-algoritmi. PolarQuant separa magnitudo e direzione nei vettori, e QJL (Quantized Johnson-Lindenstrauss) prende il piccolo errore residuo rimasto e lo riduce a un singolo bit di segno, positivo o negativo, senza costanti memorizzate.

Il risultato, dice Google, è uno stimatore matematicamente imparziale per i calcoli di attenzione che guidano i modelli transformer.

Nei benchmark che utilizzano Gemma e Mistral, TurboQuant ha eguagliato le prestazioni a precisione completa con una compressione 4 volte superiore, inclusa una perfetta accuratezza di recupero nei compiti "ago nel pagliaio" fino a 104.000 token.

Per contestualizzare perché questi benchmark sono importanti, espandere il contesto utilizzabile di un modello senza perdita di qualità è stato uno dei problemi più difficili nell'implementazione degli LLM.

Ora, la nota a piè di pagina. La "perdita di accuratezza zero" si applica alla compressione della cache KV durante l'inferenza, non ai pesi del modello. La compressione dei pesi è un problema completamente diverso e più difficile. TurboQuant non li tocca.

Ciò che comprime è la memoria temporanea che memorizza i calcoli di attenzione a metà sessione, che è più tollerante perché quei dati possono teoricamente essere ricostruiti.

C'è anche il divario tra un benchmark pulito e un sistema di produzione che serve miliardi di richieste. TurboQuant è stato testato su modelli open-source - Gemma, Mistral, Llama - non sullo stack Gemini di Google su larga scala.

Il punto cruciale: a differenza dei guadagni di efficienza di DeepSeek, che hanno richiesto decisioni architetturali profonde integrate fin dall'inizio, TurboQuant non richiede alcun retraining o fine-tuning e afferma un overhead di runtime trascurabile. In teoria, si integra direttamente nelle pipeline di inferenza esistenti.

Questa è la parte che ha spaventato il settore dell'hardware di memoria - perché se funziona in produzione, ogni importante laboratorio di AI funzionerà molto più snello con le stesse GPU che già possiedono. O detto, in termini di P&L, le società di AI - già profondamente negative in termini di flusso di cassa - e che stanno improvvisamente perdendo ancora più margini di profitto (che non hanno ma presumono di avere) a causa dei prezzi RAM in aumento, hanno trovato un modo software per richiedere molto meno hardware - potenzialmente fino a 6 volte meno - e quindi ribaltare il tavolo sui produttori di memoria che stanno generando enormi profitti proprio perché si rifiutano di produrre più memoria in quello che alcuni potrebbero definire un comportamento da cartello. Nel farlo, potrebbero aver eliminato l'intero collo di bottiglia della memoria fisica, per gentile concessione del cartello della memoria che magicamente non riesce a trovare nuova offerta fino al 2027 o più tardi.

Ma aspettate, c'è di meglio: perché se Google ha già trovato un algoritmo di compressione che ottiene miglioramenti di efficienza così fenomenali, è praticamente certo che ulteriori ottimizzazioni - e algoritmi concorrenti - porteranno a un'efficienza molto maggiore, riducendo ulteriormente la quantità di hardware necessaria.

E proprio così, improvvisamente la bolla della memoria che si è costruita sull'ipotesi che la domanda di DRAM e NAND persisterà in futuro, sembra destinata a scoppiare poiché il software potrebbe aver appena risolto un problema hardware molto ostico.

Infatti, il crollo di oggi nelle azioni potrebbe essere stato solo il primo passo. La reazione del mercato riflette la consapevolezza che se i giganti dell'AI possono comprimere i loro requisiti di memoria di un fattore sei solo tramite software, l'insaziabile domanda di High Bandwidth Memory (HBM) potrebbe essere mitigata dall'efficienza algoritmica.

Man mano che ci addentriamo nel 2026, l'arrivo di TurboQuant suggerisce che la prossima era del progresso dell'AI sarà definita tanto dall'eleganza matematica quanto dalla forza bruta. Ridefinendo l'efficienza attraverso la compressione estrema, Google sta abilitando un "movimento di memoria più intelligente" per agenti multi-step e pipeline di recupero dense. L'industria si sta spostando da un focus su "modelli più grandi" a "memoria migliore", un cambiamento che potrebbe ridurre i costi di servizio dell'AI a livello globale.

In definitiva, TurboQuant dimostra che il limite dell'AI non è solo quanti transistor possiamo stipare su un chip, ma quanto elegantemente possiamo tradurre l'infinita complessità dell'informazione nello spazio finito di un bit digitale. Per l'impresa, questo è più di un semplice paper di ricerca; è uno sblocco tattico che trasforma l'hardware esistente in un asset significativamente più potente.

Il paper di Google va all'ICLR 2026. Finché non verrà distribuito in produzione, il titolo "zero loss" rimarrà in laboratorio, ma il mercato non aspetta e la semplice minaccia che la domanda di memoria possa diminuire di ordini di grandezza potrebbe scioccare l'intero ecosistema. In tal caso, compra put sul Kospi, che è circa il 100% sopravvalutato se il "beneficio di memoria" delle sue due azioni principali, Samsung e SK Hynix, scompare. Pensandoci bene, shorta tutto ciò che riguarda la memoria.

Per saperne di più, vedi "Il nuovo algoritmo TurboQuant di Google accelera la memoria AI 8 volte, riducendo i costi del 50% o più"

Tyler Durden
Mer, 25/03/2026 - 21:45