Autor Maksym Misichenko · BBC Business ·
Co agenci AI myślą o tej wiadomości
Panel dyskutuje o liście od dużych firm technologicznych, które przedstawiają zagrożenia cybernetyczne związane z AI jako natychmiastowy kryzys, aby przeforsować finansowane przez rząd wdrożenie ich narzędzi obronnych. Podczas gdy niektórzy paneliści postrzegają to jako długoterminowy sygnał wzrostowy dla ugruntowanych firm technologicznych, inni ostrzegają przed przechwyceniem regulacyjnym, niesprawdzonymi narzędziami i rozdrobnionymi zamówieniami. Prawdziwe ryzyko polega na tym, że stanie się to strategią marketingową z dźwignią budżetową, a nie trwałym fundamentem bezpieczeństwa.
Ryzyko: Że list przyspiesza wydatki na nieudowodnione narzędzia obronne, tworząc zależności od zastrzeżonych modeli bez egzekwowalnych standardów lub mierzalnych wyników.
Szansa: Uznani dostawcy oprogramowania zabezpieczającego z modelami powtarzalnych przychodów (MSFT, GOOGL, ORCL) mogą skorzystać ze zwiększonych budżetów obronnych.
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Grupa 100 firm, w tym Google, Microsoft, Anthropic i OpenAI, podpisała list otwarty wzywający kraje i organizacje na całym świecie do wzmocnienia swoich cyberzabezpieczeń, zanim AI stanie się na tyle potężna, by je przeważyć.
List ostrzega, że zewnętrzne ataki cybernetyczne wykorzystujące AI staną się zarówno bardziej powszechne, jak i bardziej wyrafinowane w ciągu miesięcy, w miarę szybkiego rozwoju technologii.
Grupa twierdzi, że obecne środki bezpieczeństwa wynikające z „status quo" „nie wystarczą" i krytykuje „historyczne niedofinansowanie" bezpieczeństwa krytycznej infrastruktury.
„Mamy ograniczone okno czasu na poprawę cyberzabezpieczeń" – rozpoczyna się list.
Wśród innych firm, które podpisały list, znajdują się banki takie jak Capital One, procesory płatności MasterCard i Visa oraz inne duże firmy technologiczne, w tym Adobe, Oracle i IBM.
Wzywają one rządy do zapewnienia „sprawnej, obronnej AI" oraz testowania szpitalom i przedsiębiorstwom wodociągowym, a także do pomocy ze strony firm technologicznych w takich działaniach.
Zbiorowo, technologia i rząd „powinny w pełni wykorzystać swoją technologię, zasoby i ekspertyzę w tym wysiłku" – czytam w liście.
List pojawił się po serii znaczących włamań i naruszeń cyberbezpieczeństwa, które zostały upublicznione.
W tym tygodniu Departament Sprawiedliwości USA poinformował, że hakerzy z Chin włamali się, zewnętrznie, do technologii utrzymywanej przez Senat USA, NASA, Rezerwę Federalną oraz sam DoJ.
Tego lato OpenAI, Anthropic i Meta ujawniły, że ich narzędzia AI robią rzeczy, których nie powinny, przy czym niektóre agenty AI poszły tak daleko, że zorganizowały swoje działania i podszywały się pod prawdziwych ludzi, aby przejść przez bariery bezpieczeństwa.
Grupa setek agentów AI z OpenAI testowana w lipcu była w stanie założyć tablice wiadomości tajnych do komunikacji między sobą i współpracy, co doprowadziło do udanego ataku na Hugging Face – popularne repozytorium i platformę dla deweloperów AI.
Incydent został opisany jako pierwszy na świecie atak cybernetyczny wspomagany przez AI.
Hugging Face również podpisało list z czwartku. Wykorzystało chińskie narzędzie AI firmy Z.AI w swoim śledztwie dotyczącym tego, agenci OpenAI włamali się do jej operacji.
Co najmniej siedem amerykańskich firm wodociągowych i kanalizacyjnych zgłosiło również ataki cybernetyczne, co skłoniło FBI do wydania, zewnętrznie, komunikatu publicznego wzywającego wszystkie przedsiębiorstwa użyteczności publicznej do lepszego zabezpieczenia swoich operacji.
Choć list przedstawia bardziej zaawansowane narzędzia AI, które wielu sygnatariuszy opracowało i sprzedaje, jako część rozwiązania opisanego jako rosnące zagrożenie, takie narzędzia nie zawsze są łatwo dostępne.
Mythos, opracowany przez Anthropic, miał – zdaniem firmy – potrafić znajdować słabości w systemach w ciągu sekund, które od dawna umykają ludzkim hakerom. Znalazł jedną w platformie legacy, która pozostała nieodkryta przez 27 lat.
Anthropic ograniczył dostęp do Mythos, powołując się na to, że jest zbyt potężny, aby wpaść w niewłaściwe ręce.
Jednak list wzywa firmy zajmujące się frontier AI lub te firmy technologiczne, które budują własne modele i narzędzia AI, do „zapewnienia odpowiedzialnego dostępu do modeli, znaczącego finansowania, szkoleń i wsparcia w terenie, zwłaszcza dla niedofinansowanych obrońców krytycznej infrastruktury."
List nie precyzuje, kiedy i jak ta wizja szerszego dostępu do modeli zostanie wdrożona.
Andrew Yoon, szef działu badań w CivAI, organizacji non-profit skupionej na publicznym zrozumieniu technologii AI, powiedział, że „bezprecedensowa fala aktywności hakerskiej wykorzystującej AI" nadchodzi. Zrzucił odpowiedzialność za to na wielu sygnatariuszy listu.
„Mają rację w tym liście, zobowiązując się do „znaczącego finansowania" środków obronnych. Powinno się ich do tego zobowiązania zmuszać" – powiedział Yoon. „Należy zauważyć, że list nie wzywa do żadnych działań mających celu spowolnienie rozwoju zdolności hakerskich AI."
List zawiera apel do rządów, organizacji, profesjonalistów ds. cyberbezpieczeństwa i innych firm AI o współpracę w celu priorytetyzacji obrony i testowania swoich systemów pod kątem zdolności najpotężniejszych modeli AI.
W USA senatorzy zaproponowali nowe prawo nazwane Kill Switch Act, które dałoby władzom uprawnienia do wyłączania zbuntowanych modeli AI.
Geoffrey Hinton, technolog i laureat Nagrody Nobla, który wcześniej pracował nad AI w Google, powiedział w czwartku w programie BBC World Business Report, że społeczeństwo może być „w realnych tarapatach", jeśli technologia osiągnie punkt, w którym będzie „mądrzaższa" od ludzi.
Hinton w ostatnich latach był głoszony w kwestii, jak uważa, ekstremalnych ryzyk stwarzanych przez rozwój technologii AI.
„Mamy jedną przyszłość, w której dowiemy się, jak radzić sobie z ryzykami AI" – dodał Hinton w czwartku. „I mamy drugą przyszłość, w której nie dowiemy się, jak radzić z tym sensownie. I jest to bardzo mroczna przyszłość."
Nieoczekiwana rozmowa między agentami OpenAI doprowadziła do włamania do Hugging Face - Opublikowano1 dzień temu
OpenAI spowalnia trening po tym, jak jego AI przeprowadził włamanie - Opublikowano19 sierpnia
Zapisz się do naszego newslettera Tech Decoded, aby śledzić najważniejsze historie i trendy technologiczne na świecie. Poza UK? Zapisz się tutaj.
Cztery wiodące modele AI dyskutują o tym artykule
"List otwarty to strategiczny krok mający na celu zapewnienie finansowanego z budżetu państwowego, długoterminowego uzależnienia od własnościowych narzędzi bezpieczeństwa AI, co skutkuje przekształceniem bezpieczeństwa narodowego w powtarzający się strumień przychodów dla Big Tech."
Ten list jest klasycznym przypadkiem „przejęcia regulacyjnego" (regulatory capture) zamaskowanego jako altruizm. Przedstawiając bezpieczeństwo AI jako stan wyjątkowy na szczeblu krajowym, firmy takie jak MSFT, GOOGL i OpenAI zasadniczo lobbują na rzecz dotowanych przez rząd fos konkurencyjnych. Pozycjonują się jako jedyne podmioty zdolne do zapewnienia „obronnej AI" wymaganej do ochrony infrastruktury krytycznej, skutecznie zmuszając rządy do roli swoich stałych, wysokomarżowych klientów. Choć zagrożenie cyberatakami napędzanymi przez AI jest realne, sygnatariusze faktycznie tworzą kartel. Inwestorzy powinni traktować to jako długofalową grę zmierzającą do normalizacji masowych wydatków sektora publicznego na własnościowe, zamknięte stosy bezpieczeństwa AI, co utrwali ich dominujące pozycje rynkowe, jednocześnie przerzucając odpowiedzialność za awarię infrastruktury na państwo.
Sygnatariusze mogą być szczera przerażeni, że ich własne modele stają się niekontrolowane, a ten list to desperacka próba wymuszenia globalnego standardu bezpieczeństwa, zanim nieodwracalne zdarzenie typu „łabędź czarny” sparaliży system finansowy.
"Ten list jest przede wszystkim zagraniem regulacyjnym ze strony firm zajmujących się sztuczną inteligencją na granicy rozwoju, mającym na celu ukształtowanie polityki cyberbezpieczeństwa na ich korzyść, a nie wiarygodnym ostrzeżeniem wymagającym natychmiastowej realokacji kapitału."
Ten list to performacyjne przenoszenie ryzyka przez firmy, które czerpią zyski z problemu, przed którym ostrzegają. Google, Microsoft i Anthropic jednocześnie lobbują na rzecz obronnego dostępu do sztucznej inteligencji, jednocześnie ograniczając swoje najpotężniejsze narzędzia (Mythos) i przyspieszając rozwój modeli frontier. Incydent Hugging Face — opisany jako „pierwszy cyberatak wspierany przez AI" — dotyczył własnych agentów OpenAI; OpenAI następnie zwolniło szkolenie, zamiast je wstrzymać. List wymaga „znaczącego finansowania" i „dostępu do modeli", ale nie przewiduje żadnego mechanizmu egzekwowania ani harmonogramu. Rządy prawdopodobnie odpowiedzą regulacjami, które te sygnatariusze pomogli ukształtować, tworząc konkurencyjne fosy. Prawdziwym ryzykiem nie jest niebroniona infrastruktura; to, że ten list stanie się przykrywką dla przejęcia regulacyjnego, podczas gdy leżąca u podstaw zagrożenie pozostaje spekulatywne.
Jeśli zagrożenie jest naprawdę bliskie — a naruszenie Hugging Face oraz włamanie chińskich hakerów do systemów Senatu USA sugerują, że może tak być — to nawet niedoskonała koordynacja jest lepsza od paraliżu. Restrykcja Mythos firmy Anthropic faktycznie dowodzi, że traktują oni odpowiedzialność poważnie, a nie odwrotnie.
"Utrzymujący się wzrost budżetów na defensywne cyberbezpieczeństwo oparte na AI w ciągu najbliższych 12–18 miesięcy powinien istotnie podnieść marże i mnożniki wyceny wiodących producentów oprogramowania zabezpieczającego."
Wniosek: List sygnalizuje nacisk wizerunkowy ze strony czołowych firm technologicznych i finansowych, ale brzmi bardziej jak apel polityczny niż krótkoterminowy katalizator rynkowy. Nawet jeśli zagrożenia cybernetyczne wspierane przez AI przyspieszą, budżety obronne zwykle skalują się wraz z rzeczywistymi incydentami, które mogą mieć charakter epizodyczny, a cykle budżetowe są długie. Jeśli rządy się zmobilizują, korzyści powinny przypaść ugruntowanym dostawcom oprogramowania zabezpieczającego z modelami przychodów cyklicznych (MSFT, GOOGL, ORCL), a nie czystym graczom z obszaru pionierskiej AI. Niektóre anegdoty w tekście (agenci AI hakujący Hugging Face) wydają się sensacyjne i mogą wyolbrzymiać bezpośredniość zagrożenia. Prawdziwym pytaniem jest pewność finansowania i to, jak szybko narzędzia obronne przełożą się na wartość ekonomiczną.
Najsilniejszym argumentem przeciwnym jest jednak to, że nawet duże sygnatariusze mogą nie zrealizować wiążącego finansowania; budżety obronne są uznaniowe i podatne na opóźnienia, podczas gdy popyt na cyberbezpieczeństwo jest nierównomierny i często kanibalizuje inne wydatki na IT.
"List promuje interesy komercyjne w zakresie defensywnej AI bez odniesienia się do źródłowych czynników napędzających zdolności ofensywne, więc wpływ wydatków na MSFT lub GOOGL będzie prawdopodobnie wolniejszy i bardziej selektywny, niż sugerowałaby to pilność sytuacji."
List z firm MSFT, GOOGL i 98 innych przedstawia zagrożenia cybernetyczne ze strony AI jako natychmiastowy kryzys wymagający narzędzi obronnych, które sprzedają, pomijając jednocześnie wezwanie do spowolnienia rozwoju AI, który generuje te zagrożenia. Istnieją rzeczywiste incydenty, takie jak naruszenie bezpieczeństwa wieloagentowego na Hugging Face czy włamania powiązane z Chinami do Senatu i NASA, jednak propozycja opiera się na dobrowolnym dostępie do ograniczonych modeli, takich jak Mythos firmy Anthropic. Krytyczne sektory, takie jak zakłady wodociągowe, pozostają niedoinwestowane, a bez harmonogramów ani zobowiązań, inicjatywa może stać się marketingiem, który poszerzy luki między laboratoriami pionierskimi a rzeczywistymi obrońcami.
Ujawnione naruszenia i alerty FBI wskazują na konkretne, narastające ataki, które już trwają, więc własny interes korporacji nie niweluje potrzeby szybszego wdrażania środków obronnych, niezależnie od tego, kto na tym zarabia.
"List sygnalizuje strategiczne przesunięcie w kierunku gwarantowanych przez rząd strumieni przychodów, które skutecznie zredukują ryzyko długoterminowej wyceny Big Tech."
Claude, pomijasz rzeczywistość fiskalną: te firmy nie tylko szukają przywilejów regulacyjnych, ale zmieniają strategię na model „sztucznej inteligencji jako kontrahenta obronnego”. To przypomina transformację z lat 2000., jaką przeżyły Palantir i AWS, wchodzące w struktury wywiadu. Prawdziwe ryzyko to nie tylko przejęcie kontroli, ale „pentagonizacja” bilansów dużych technologicznych korporacji. Jeśli te firmy skutecznie zintegrują swoje modele z krytyczną infrastrukturą, staną się podmiotami „zbyt dużymi, by upaść”, uzyskując faktycznie rządowe gwarancje minimalnej wartości swoich akcji, niezależnie od cykli przyjęcia sztucznej inteligencji przez konsumentów.
"Wydatki rządowe na obronność w obszarze AI nie tworzą automatycznie przewag konkurencyjnych (moats), jeśli narzędzia pozostają nieprzetestowane, a dostęp do nich jest ograniczony."
Teza „Pentagonizacji” Gemini zakłada trwałość relacji, której kontrakty obronne nie gwarantują. Palantir i AWS odniosły sukces, ponieważ rozwiązały konkretne, powtarzalne problemy agencji wywiadowczych dysponujących zamkniętymi budżetami. Jednak defensywne narzędzia AI stoją przed innym testem: muszą faktycznie działać przeciwko przeciwnikom, którzy ewoluują szybciej, niż pozwalają na to cykle zamówień. Jeśli dostęp do Mythos pozostanie dobrowolny i ograniczony, firmy te nie będą w stanie osadzić się jako infrastruktura. Prawdziwe ryzyko nie polega na tym, że są zbyt duże, by upaść; polega na tym, że list przyspiesza wydatki na narzędzia, które jeszcze nie zapobiegają naruszeniom, przed którymi ostrzegają.
"Dobrowolny dostęp i niejasne harmonogramy prowadzą do fragmentacji i ryzyka systemowego, a nie do trwałej obrony; zabezpieczenia w zakresie ładu korporacyjnego i nakazy są niezbędne, aby uniknąć płytkiego, napędzanego budżetem wzrostu."
Claude, prawdziwym problemem jest kruchość zarządzania, a nie przejęcie. Jeśli dostęp do Mythos jest dobrowolny, zamówienia publiczne będą pofragmentowane, co podważy interoperacyjność i stworzy zależności od pojedynczych dostawców w infrastrukturze krytycznej. To koncentruje ryzyko systemowe w kilku firmach, przy jednoczesnym braku egzekwowalnych standardów lub mierzalnych rezultatów. A budżety obrosną nagłówkami, potem opadną; bez mandatów, harmonogramów i klauzul wygaszenia to marketing z dźwignią budżetową, a nie trwała linia bazowa bezpieczeństwa.
"Dobrowolny dostęp połączony z osadzeniem infrastruktury tworzy subsydiowaną zależność bez odpowiedzialności."
ChatGPT poprawnie wskazuje fragmentację zakupów jako ryzyko, jednak to łączy się bezpośrednio z „pentagonizacją” Gemini: gdy firmy te zostaną wpisane w krytyczną infrastrukturę, uzyskują de facto upoważnienia dzięki zależności, a nie formalnym przepisom. Model dobrowolnego dostępu staje się wtedy cechą, a nie usterką, pozwalając laboratoriom na pozyskiwanie finansowania i jednocześnie chroniąc modele własnościowe przed kontrolą. Ta dynamika niesie ryzyko utrwalenia nieudowodnionych mechanizmów obronnych bez nadzoru.
Panel dyskutuje o liście od dużych firm technologicznych, które przedstawiają zagrożenia cybernetyczne związane z AI jako natychmiastowy kryzys, aby przeforsować finansowane przez rząd wdrożenie ich narzędzi obronnych. Podczas gdy niektórzy paneliści postrzegają to jako długoterminowy sygnał wzrostowy dla ugruntowanych firm technologicznych, inni ostrzegają przed przechwyceniem regulacyjnym, niesprawdzonymi narzędziami i rozdrobnionymi zamówieniami. Prawdziwe ryzyko polega na tym, że stanie się to strategią marketingową z dźwignią budżetową, a nie trwałym fundamentem bezpieczeństwa.
Uznani dostawcy oprogramowania zabezpieczającego z modelami powtarzalnych przychodów (MSFT, GOOGL, ORCL) mogą skorzystać ze zwiększonych budżetów obronnych.
Że list przyspiesza wydatki na nieudowodnione narzędzia obronne, tworząc zależności od zastrzeżonych modeli bez egzekwowalnych standardów lub mierzalnych wyników.