Dlaczego akcje pamięci dzisiaj zaliczyły krach: TurboQuant właśnie zmienił zasady gry dzięki „Google's DeepSeek Moment”

Dlaczego akcje pamięci dzisiaj zaliczyły krach: TurboQuant właśnie zmienił zasady gry dzięki „Google's DeepSeek Moment”

Z akcjami zamykającymi się solidnie na zielonym terytorium pomimo bolesnych wahań w ciągu dnia, jeden sektor był zauważalnie w tyle: ten sam sektor, który dramatycznie przewyższył S&P od czasu gwałtownego wzrostu cen pamięci w październiku ubiegłego roku: akcje pamięci, a zwłaszcza MU i SNDK.

W swoim podsumowaniu EOD, specjalista ds. technologii w Goldman Sachs, Peter Callahan, napisał, że chociaż nie było tam wiele faktycznego „niepokoju”, jego klienci narzekali na wiele „sprawdzania poprawności” ostrych ruchów w dół w akcjach pamięci (MU / SNDK niżej w porównaniu do wyższych OEM) i zwłaszcza „5-dniowy spadek MU, ponieważ Micron osiągnął gorsze wyniki niż SOX o 20% w ciągu 5 dni, począwszy od rewelacyjnego raportu o zyskach firmy; ruch ten jest największym 5-dniowym spadkiem wyników w porównaniu do Semis/SOX od 2011 roku.

Co spowodowało dzisiejszy niezwykły spadek, podczas którego akcje Micron spadły o ponad 6%, a Sandisk o 9% przed odrobieniem strat, a wśród innych znaczących spadkowiczów znaleźli się Western Digital (-6,7%) i Seagate Technologies (-8,5%)?

Odpowiedzią było najnowsze ogłoszenie z Google Research, które po zamknięciu w środę zaprezentowało TurboQuant, algorytm kompresji dla dużych modeli językowych i silników wyszukiwania wektorowego, który zmniejsza główny wąski gardło pamięci inferencyjnej: zmniejsza pamięć modelu AI 6-krotnie, czyniąc go 8-krotnie szybszym przy tej samej liczbie GPU, jednocześnie utrzymując zerową utratę dokładności i „definiując na nowo efektywność AI”.

Przedstawiamy TurboQuant: Nasz nowy algorytm kompresji, który zmniejsza pamięć podręczną klucz-wartość LLM o co najmniej 6x i zapewnia do 8x przyspieszenia, wszystko to bez utraty dokładności, redefiniując efektywność AI. Przeczytaj bloga, aby dowiedzieć się, jak osiąga te wyniki: https://t.co/CDSQ8HpZoc pic.twitter.com/9SJeMqCMlN
— Google Research (@GoogleResearch) 24 marca 2026
Artykuł ma zostać zaprezentowany na ICLR 2026, ale reakcja online była natychmiastowa: dyrektor generalny Cloudflare, Matthew Prince, nazwał go „Google's DeepSeek moment”.

Trzeba przyznać, że ogłoszenie z @GoogleResearch wygenerowało ogromne zaangażowanie, z ponad 7,7 milionami wyświetleń, co sygnalizuje, że branża pragnęła rozwiązania kryzysu pamięci. Wszyscy – z wyjątkiem producentów pamięci – byli zachwyceni.

W ciągu 24 godzin od publikacji członkowie społeczności zaczęli przenosić algorytm do popularnych lokalnych bibliotek AI, takich jak MLX dla Apple Silicon i llama.cpp.

Analityk techniczny @Prince_Canuma podzielił się jednym z najbardziej przekonujących wczesnych benchmarków, implementując TurboQuant w MLX do testowania modelu Qwen3.5-35B.

W zakresie długości kontekstu od 8,5 tys. do 64 tys. tokenów zgłosił 100% dokładne dopasowanie na każdym poziomie kwantyzacji, zauważając, że 2,5-bitowy TurboQuant zmniejszył pamięć podręczną KV o prawie 5x przy zerowej utracie dokładności. Ta walidacja w świecie rzeczywistym odzwierciedlała wewnętrzne badania Google, udowadniając, że korzyści algorytmu bezproblemowo przenoszą się na modele stron trzecich.

Właśnie zaimplementowałem Google TurboQuant w MLX, a wyniki są niesamowite!
Igła w stogu siana przy użyciu Qwen3.5-35B-A3B w kontekstach 8,5 tys., 32,7 tys. i 64,2 tys. tokenów:
→ 6/6 dokładne dopasowanie na każdym poziomie kwantyzacji
→ TurboQuant 2,5-bitowy: 4,9x mniejsza pamięć podręczna KV
→ TurboQuant 3,5-bitowy: 3,8x… https://t.co/aLxRJIhB1D pic.twitter.com/drVrkL7Pw4
— Prince Canuma (@Prince_Canuma) 25 marca 2026
Inni użytkownicy skupili się na demokratyzacji wysokowydajnej AI. @NoahEpstein_ przedstawił wyjaśnienie prostym językiem, argumentując, że TurboQuant znacznie zmniejsza przepaść między darmową lokalną AI a drogimi subskrypcjami w chmurze.

Zauważył, że modele działające lokalnie na sprzęcie konsumenckim, takim jak Mac Mini, „stały się znacznie lepsze”, umożliwiając rozmowy na 100 000 tokenów bez typowej degradacji jakości.

Podobnie @PrajwalTomar_ podkreślił korzyści bezpieczeństwa i szybkości płynące z uruchamiania „szalonych modeli AI lokalnie za darmo”, wyrażając „ogromny szacunek” dla decyzji Google o udostępnieniu badań zamiast zachowania ich jako własności intelektualnej.

Implikacja jest jasna: jeśli Google może osiągnąć te same wyniki inferencji przy jednej szóstej sprzętu, to popyt na chipy pamięciowe załamie się odwrotnie proporcjonalnie – ten sam zachłanny popyt, który do niedawna podnosił ceny DDR nawet 7-krotnie w ciągu zaledwie 3 miesięcy, gdy stało się jasne, że wąskim gardłem pamięci dla AI...

... a ostatnio również ceny pamięci NAND Flash intensywnie wykorzystywanych w inferencji.

Jeśli to brzmi podobnie do niesławnego algorytmu Pied Piper z Doliny Krzemowej, to dlatego, że tak jest, tylko bez części z masturbacją:

Wybitny analityk kryptowalut Kaleo doskonale uchwycił nastroje, tweetując: „Więc Google TurboQuant to zasadniczo Pied Piper i właśnie osiągnął Weismann Score 5.2”. To nawiązanie do metryki kompresji z fikcyjnego serialu pokazuje, jak głęboko rezonuje porównanie kulturowe. Komentator technologiczny Justin Trimble powtórzył tę perspektywę, stwierdzając po prostu: „TurboQuant to nowy Pied Piper”.

Oczywiście, to trochę hiperbola, ale przesłanka jest obecna: wykorzystanie istniejącego sprzętu i osiągnięcie znacznie lepszego wyniku kompresji.

Szybka uwaga techniczna na temat tego, jak Turboquant osiąga tę niezwykłą poprawę wydajności na dekoder:

Efektywność kwantyzacji sama w sobie jest dużym osiągnięciem. Ale „zerowa utrata dokładności” wymaga kontekstu. TurboQuant celuje w pamięć podręczną KV – fragment pamięci GPU, który przechowuje wszystko, co model językowy musi zapamiętać podczas rozmowy.

Gdy okna kontekstowe rosną do milionów tokenów, te pamięci podręczne rosną do setek gigabajtów na sesję. To jest prawdziwe wąskie gardło. Nie moc obliczeniowa, ale surowa pamięć.

Tradycyjne metody kompresji próbują zmniejszyć te pamięci podręczne, zaokrąglając liczby w dół – na przykład z liczb zmiennoprzecinkowych 32-bitowych do 16, do 8, do 4-bitowych liczb całkowitych. Aby lepiej to zrozumieć, pomyśl o zmniejszaniu obrazu z 4K do Full HD, do 720p i tak dalej. Łatwo powiedzieć, że to ten sam obraz ogólnie, ale jest więcej szczegółów w rozdzielczości 4K.

Haczyk: muszą przechowywać dodatkowe „stałe kwantyzacji” obok skompresowanych danych, aby model nie stał się głupi. Te stałe dodają 1 do 2 bitów na wartość, częściowo niwecząc zyski.

TurboQuant twierdzi, że całkowicie eliminuje ten narzut.

Robi to za pomocą dwóch podalgorytmów. PolarQuant oddziela wielkość od kierunku w wektorach, a QJL (Quantized Johnson-Lindenstrauss) bierze niewielki pozostały błąd i redukuje go do pojedynczego bitu znaku, dodatniego lub ujemnego, bez przechowywanych stałych.

Wynikiem, jak twierdzi Google, jest matematycznie nieobciążony estymator dla obliczeń uwagi, które napędzają modele transformatorowe.

W benchmarkach z użyciem Gemma i Mistral, TurboQuant dorównał wydajności w pełnej precyzji przy 4-krotnej kompresji, w tym doskonałej dokładności wyszukiwania w zadaniach typu „igła w stogu siana” do 104 000 tokenów.

Dla kontekstu, dlaczego te benchmarki mają znaczenie, rozszerzenie użytecznego kontekstu modelu bez utraty jakości było jednym z najtrudniejszych problemów we wdrażaniu LLM.

Teraz drobny druk. „Zerowa utrata dokładności” dotyczy kompresji pamięci podręcznej KV podczas wnioskowania – nie wag modelu. Kompresja wag jest zupełnie innym, trudniejszym problemem. TurboQuant tego nie dotyka.

Kompresuje tymczasową pamięć przechowującą obliczenia uwagi w trakcie sesji, co jest bardziej wybaczalne, ponieważ dane te można teoretycznie odtworzyć.

Istnieje również luka między czystym benchmarkiem a systemem produkcyjnym obsługującym miliardy żądań. TurboQuant był testowany na modelach open-source – Gemma, Mistral, Llama – a nie na własnym stosie Gemini Google na dużą skalę.

Sedno sprawy: w przeciwieństwie do zysków wydajności DeepSeek, które wymagały głębokich decyzji architektonicznych wbudowanych od początku, TurboQuant nie wymaga ponownego trenowania ani dostrajania i twierdzi, że narzut czasu pracy jest znikomy. Teoretycznie, można go bezpośrednio włączyć do istniejących potoków wnioskowania.

To jest część, która przestraszyła sektor sprzętu pamięciowego – ponieważ jeśli zadziała w produkcji, każde główne laboratorium AI będzie działać znacznie wydajniej na tych samych GPU, które już posiadają. Lub innymi słowy, z punktu widzenia P&L, firmy AI – już głęboko ujemne pod względem przepływów pieniężnych – i które nagle tracą jeszcze więcej marży zysku (której nie mają, ale zakładają, że mają) z powodu rosnących cen RAM, znalazły sposób programowy, aby wymagać znacznie mniej sprzętu – potencjalnie nawet 6x mniej – a tym samym odwrócić sytuację producentów pamięci, którzy generują ogromne zyski właśnie dlatego, że odmawiają produkcji większej ilości pamięci, co niektórzy nazwaliby zachowaniem kartelowym. W ten sposób mogli wyeliminować cały fizyczny wąskie gardło pamięci, dzięki kartelowi pamięciowemu, który magicznie nie może znaleźć żadnych nowych dostaw do 2027 roku lub później.

Ale czekaj, jest lepiej: ponieważ jeśli Google już znalazło algorytm kompresji, który osiąga tak fenomenalne usprawnienia wydajności, jest praktycznie pewne, że dalsza optymalizacja – i konkurencyjne algorytmy – z pewnością doprowadzą do znacznie większej wydajności, zmniejszając ilość potrzebnego sprzętu jeszcze bardziej.

I tak po prostu, nagle bańka pamięciowa, która została zbudowana na założeniu, że popyt na DRAM i NAND będzie utrzymywał się w przyszłości, wygląda na to, że pęknie, ponieważ oprogramowanie mogło właśnie rozwiązać bardzo trudny problem sprzętowy.

Rzeczywiście, dzisiejszy spadek akcji mógł być tylko pierwszym krokiem. Reakcja rynku odzwierciedla uświadomienie sobie, że jeśli giganci AI mogą skompresować swoje wymagania dotyczące pamięci sześciokrotnie za pomocą samego oprogramowania, nienasycony popyt na High Bandwidth Memory (HBM) może zostać osłabiony przez efektywność algorytmiczną.

W miarę zagłębiania się w 2026 rok, pojawienie się TurboQuant sugeruje, że następna era postępu AI będzie definiowana zarówno przez matematyczną elegancję, jak i przez brutalną siłę. Definiując na nowo efektywność poprzez ekstremalną kompresję, Google umożliwia „inteligentniejszy ruch pamięci” dla agentów wieloetapowych i gęstych potoków wyszukiwania. Branża przechodzi od skupienia na „większych modelach” do „lepszej pamięci”, co może obniżyć koszty obsługi AI na całym świecie.

Ostatecznie TurboQuant udowadnia, że limit AI to nie tylko liczba tranzystorów, które możemy upakować na chipie, ale jak elegancko możemy przetłumaczyć nieskończoną złożoność informacji na skończoną przestrzeń bitu cyfrowego. Dla przedsiębiorstw jest to więcej niż tylko artykuł badawczy; jest to taktyczne odblokowanie, które przekształca istniejący sprzęt w znacznie potężniejszy zasób.

Artykuł Google trafia na ICLR 2026. Dopóki nie zostanie wdrożony w produkcji, nagłówek „zerowa strata” pozostaje w laboratorium, ale rynek nie czeka, a samo zagrożenie, że popyt na pamięć może spaść o rzędy wielkości, może wstrząsnąć całym ekosystemem. W takim przypadku kupuj puty na Kospi, który jest około 100% przewartościowany, jeśli „korzyść pamięciowa” jego dwóch głównych akcji, Samsung i SK Hynix, zniknie. Jak tak o tym myślę, to shortuj wszystko związane z pamięcią.

Więcej informacji można znaleźć w artykule „Nowy algorytm TurboQuant firmy Google przyspiesza pamięć AI 8-krotnie, obniżając koszty o 50% lub więcej”

Tyler Durden
Śr, 25.03.2026 - 21:45