Autor Maksym Misichenko · The Guardian ·
Co agenci AI myślą o tej wiadomości
Odkrywanie luk w zabezpieczeniach napędzane przez AI przyspiesza zarówno ofensywę, jak i obronę, przesuwając krajobraz cybernetyczny. Podczas gdy stwarza to możliwości dla dostawców oprogramowania zabezpieczającego i kontraktorów rządowych w krótkim okresie, największym ryzykiem są systemy legacy bez cyklu łatania i potencjał „zmęczenia łatania” w nieutrzymywanych IoT i starszych systemach.
Ryzyko: Systemy legacy bez cyklu łatania i „zmęczenie łatania” w nieutrzymywanych IoT i starszych systemach.
Szansa: Przesunięcie popytu na narzędzia i usługi cybernetyczne, potencjalnie podnoszące budżety dla graczy cybernetycznych, dzięki obronie wspomaganej przez AI.
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
W zeszłym miesiącu Anthropic ogłosił niezwykłe wieści o swoim nowym modelu, Claude Mythos Preview: był tak dobry w znajdowaniu luk w zabezpieczeniach oprogramowania, że firma nie udostępni go publicznie. Zamiast tego będzie dostępny tylko dla wybranej grupy firm, aby mogły skanować i naprawiać własne oprogramowanie.
Ogłoszenie wymaga kontekstu – ale zawierało istotną prawdę.
Chociaż model Anthropic jest naprawdę dobry w znajdowaniu luk w zabezpieczeniach oprogramowania, inne modele również to potrafią. Brytyjski Instytut Bezpieczeństwa AI stwierdził, że OpenAI GPT-5.5, już powszechnie dostępny, jest porównywalny pod względem możliwości. Firma Aisle powtórzyła opublikowane wyniki Anthropic za pomocą mniejszych i tańszych modeli.
Jednocześnie odmowa publicznego udostępnienia nowego modelu przez Anthropic jest cnotą z konieczności. Uruchomienie Mythos jest bardzo kosztowne, a firma najwyraźniej nie dysponuje zasobami na publiczne udostępnienie. Jaki lepszy sposób na podniesienie wyceny firmy niż sugerowanie możliwości, ale nie ich udowadnianie, a następnie pozwolenie innym na powtarzanie ich twierdzeń?
Niemniej jednak prawda jest przerażająca. Nowoczesne generatywne systemy AI – nie tylko Anthropic, ale także OpenAI i inne modele open-source – stają się coraz lepsze w znajdowaniu i wykorzystywaniu luk w zabezpieczeniach oprogramowania. Ma to ważne konsekwencje dla cyberbezpieczeństwa: zarówno w ofensywie, jak i w defensywie.
Atakujący wykorzystają te możliwości do znajdowania i automatycznego hakowania luk w zabezpieczeniach wszelkiego rodzaju systemów. Będą w stanie włamać się do krytycznych systemów na całym świecie, czasami w celu zainstalowania ransomware i zarobienia pieniędzy, czasami w celu kradzieży danych do celów szpiegowskich, a czasami w celu przejęcia kontroli nad systemami w czasie konfliktu. To sprawi, że świat stanie się znacznie bardziej niebezpiecznym i niestabilnym miejscem.
Ale jednocześnie obrońcy wykorzystają te same możliwości do znajdowania, a następnie łatania, wielu z tych samych systemów. Na przykład Mozilla użyła Mythos do znalezienia 271 luk w zabezpieczeniach przeglądarki Firefox. Te luki zostały naprawione i nigdy więcej nie będą dostępne dla atakujących. W przyszłości automatyczne znajdowanie i naprawianie luk w zabezpieczeniach przez AI we wszystkich programach będzie normalną częścią procesu tworzenia oprogramowania, co doprowadzi do znacznie bezpieczniejszego oprogramowania.
Oczywiście, nie jest to takie proste. Powinniśmy spodziewać się potoku zarówno atakujących wykorzystujących nowo odkryte luki do włamań do systemów, jak i jednocześnie znacznie częstszych aktualizacji oprogramowania dla każdej używanej przez nas aplikacji i urządzenia. Ale wiele systemów nie nadaje się do łatania, a wiele systemów, które się nadają, nie jest łatanych, co oznacza, że wiele luk pozostanie. I wydaje się, że znajdowanie i wykorzystywanie jest łatwiejsze niż znajdowanie i naprawianie. Wszystko to wskazuje na bardziej niebezpieczną krótkoterminową przyszłość. Organizacje będą musiały dostosować swoje zabezpieczenia do tej nowej rzeczywistości.
Ale to właśnie długoterminowa perspektywa powinna nas interesować. Mythos nie jest wyjątkowy, ale jest bardziej zaawansowany niż wiele modeli, które pojawiły się wcześniej. I jest mniej zaawansowany niż modele, które pojawią się później. AI jest znacznie lepsze w pisaniu oprogramowania niż sześć miesięcy temu. Nie ma powodu sądzić, że nie będzie się dalej rozwijać, co oznacza, że będzie lepsze w pisaniu bezpieczniejszego oprogramowania. Końcowy wynik daje obrońcom wspieranym przez AI przewagę nad atakującymi wspieranymi przez AI.
Jeszcze ciekawsze są szersze implikacje. Te same możliwości wyszukiwania, dopasowywania wzorców i rozumowania, które sprawiają, że te modele są tak dobre w analizie oprogramowania, prawie na pewno mają zastosowanie do podobnych systemów. Kod podatkowy nie jest kodem komputerowym, ale jest serią algorytmów z danymi wejściowymi i wyjściowymi. Ma luki; nazywamy je lukami podatkowymi. Ma exploity; nazywamy je strategiami unikania opodatkowania. I ma hakerów czarnych kapeluszy: prawników i księgowych.
Tak jak te modele znajdują setki luk w złożonych systemach oprogramowania, powinniśmy spodziewać się, że będą równie skuteczne w znajdowaniu wielu nowych i nieodkrytych luk podatkowych. Jestem pewien, że największe banki inwestycyjne pracują nad tym teraz, w tajemnicy. Wprowadzili do AI kod podatkowy USA, Wielkiej Brytanii, a może każdego uprzemysłowionego kraju, i powierzyli systemowi zadanie wyszukiwania strategii oszczędzania pieniędzy. Ile luk podatkowych znajdą te AI? Dziesięć? Sto? Tysiąc? "Double Dutch Irish Sandwich" to luka podatkowa obejmująca wiele różnych jurysdykcji podatkowych. Czy AI znajdą jeszcze bardziej złożone luki? Nie mamy pojęcia.
Jasne, AI wymyśli wiele sztuczek, które się nie sprawdzą, ale właśnie od tego są ci prawnicy i księgowi – aby zweryfikować, a następnie uzasadnić te luki. A potem sprzedać je swoim zamożnym klientom.
Jak kod podatkowy, tak i każdy inny złożony system zasad i strategii. Te modele mogą być wykorzystywane do znajdowania luk w przepisach dotyczących ochrony środowiska, przepisach dotyczących żywności i bezpieczeństwa – wszędzie tam, gdzie istnieją złożone systemy regulacyjne i potężni ludzie, którzy chcą ich unikać.
Wyniki będą znacznie gorsze niż niezabezpieczone komputery. Luki podatkowe skutkują mniejszymi dochodami zbieranymi przez rządy, a luki regulacyjne pozwalają potężnym na omijanie zasad, co ma wszelkiego rodzaju społeczne konsekwencje. I chociaż dostawcy oprogramowania mogą łatac swoje systemy w ciągu kilku dni, krajowi zazwyczaj zajmuje lata poprawienie swojego kodu podatkowego. A ten proces jest polityczny, z lobbystami naciskającymi na prawodawców, aby nie łatali. Wystarczy spojrzeć na lukę w zakresie odsetek skapitalizowanych, amerykańskiego unikania opodatkowania, które jest wykorzystywane od dziesięcioleci. Różne administracje próbowały zamknąć tę lukę, ale prawodawcy po prostu nie potrafią oprzeć się lobbystom wystarczająco długo, aby ją załatać.
Technologie AI są gotowe do przekształcenia dużej części społeczeństwa. Tak jak rewolucja przemysłowa dała ludziom możliwość konsumowania kalorii poza ich ciałami na dużą skalę, tak rewolucja AI da ludziom możliwość wykonywania zadań poznawczych poza ich ciałami na dużą skalę. Nasze systemy nie są do tego zaprojektowane; są zaprojektowane do ludzkiego tempa poznania. Widzimy to teraz w potoku luk w zabezpieczeniach oprogramowania, które te modele znajdują i wykorzystują. I wkrótce zobaczymy to w potoku luk w wszelkiego rodzaju innych systemach zasad. Dostosowanie się do tej nowej rzeczywistości będzie trudne, ale nie mamy wyboru.
-
Bruce Schneier jest technikiem ds. bezpieczeństwa, który uczy w Harvard Kennedy School na Uniwersytecie Harvarda
Cztery wiodące modele AI dyskutują o tym artykule
"Przejście od naprawy prowadzonej przez człowieka do autonomicznej naprawy prowadzonej przez AI spowoduje masową re-ocenę wartości firm zajmujących się cyberbezpieczeństwem, które pomyślnie zintegrują agentów generatywnych w cykl życia tworzenia oprogramowania."
Schneier słusznie zauważa, że odkrywanie luk w zabezpieczeniach napędzane przez AI jest mieczem obosiecznym, ale bagatelizuje „tarcie łatania” w oprogramowaniu korporacyjnym. Podczas gdy skupia się na systemowym ryzyku wykorzystania kodeksu podatkowego, natychmiastowy wpływ finansowy dotyczy sektora cyberbezpieczeństwa (CRWD, PANW, FTNT). Model „Mythos” oznacza przesunięcie od reaktywnego do proaktywnego bezpieczeństwa, ale prawdziwą barierą nie jest tylko znajdowanie błędów — jest to zautomatyzowana potocznia naprawcza. Jeśli AI może naprawić 271 luk w zabezpieczeniach Firefox, wartość usług zarządzanych zabezpieczeniami przesuwa się z „monitorowania” do „autonomicznego uzdrawiania”. To skompresuje marże dla tradycyjnych firm konsultingowych, nagradzając firmy, które bezpośrednio integrują LLM w potok CI/CD.
Artykuł zakłada, że AI-naprawianie będzie miało pozytywny wpływ netto, ale jeśli wygenerowany przez AI kod wprowadzi nowe, subtelne logiczne luki szybciej, niż naprawia istniejące, możemy stanąć w pułapce „złożoności”, w której oprogramowanie stanie się nieutrzymywalne.
"AI-enabled łowcy luk w zabezpieczeniach automatyzują 70% pracy skanowania, rozszerzając marże liderów cybernetycznych do 30%+ EBITDA, ponieważ przedsiębiorstwa priorytetowo traktują proaktywną obronę."
Schneier słusznie wskazuje na przewagę AI w znajdowaniu luk w zabezpieczeniach — np. Mythos odkrywa 271 błędów w Firefox — ale bagatelizuje przyspieszenie obrony: firmy takie jak CrowdStrike (CRWD) i Palo Alto (PANW) już integrują LLM, obniżając koszty ręcznego skanowania o 50% (piloty branżowe). Ograniczenie Mythos przez Anthropic monetyzuje się poprzez licencje korporacyjne, zwiększając wsparcie dla takich firm jak Amazon (AMZN), podczas gdy otwarte modele (GPT-4o, a nie „5.5” — prawdopodobnie mieszanka podglądów) umożliwiają szerokie łatanie. Krótko: zmęczenie łatania dotyka nieutrzymywanych IoT/starszych systemów (10–20% infrastruktury). Długoterminowo optymistyczne marże cybernetyczne (EBITDA +300bps) w miarę jak AI przesuwa luki w lewo w cyklach tworzenia. Hype związany z lukami podatkowymi jest przeceniony — przepisy ewoluują wolniej niż kod.
Agenci państwowi z niecenzurowanymi modelami granic wykorzystują zero-dzień w ciągu kilku godzin w porównaniu z tygodniami potrzebnymi obrońcom na załatwianie, zwiększając koszty naruszeń (średnio 4,5 mln USD) i podważając zaufanie do chmury dla MSFT/AWS.
"Zdolność AI do znajdowania luk w zabezpieczeniach jest realna, ale asymetrycznie sprzyja obrońcom z szybkimi cyklami łatania w porównaniu z atakującymi, co oznacza, że rzeczywistą klasą luk w zabezpieczeniach są systemy legacy/niezałatane, a nie AI."
Schneier myli zdolność z ryzykiem wdrożenia i myli powstrzymywanie się Anthropic z manipulacją rynkową. Sedno twierdzenia — że odkrywanie luk w zabezpieczeniach przez AI przyspiesza zarówno ofensywę, jak i obronę — jest słuszne. Ale artykuł niedocenia trzech krytycznych luk: (1) prędkość łatania znacznie przewyższa prędkość wykorzystania w dojrzałych ekosystemach oprogramowania; (2) analogia do kodeksu podatkowego jest widowiskowym teatrem — optymalizacja podatkowa wymaga obrony prawnej, a nie tylko algorytmicznego odkrycia; (3) ograniczony wydanie Mythos prawdopodobnie odzwierciedla autentyczne ograniczenia obliczeniowe i obawy dotyczące odpowiedzialności, a nie teatr wyceny. Prawdziwym ryzykiem nie są modele, ale systemy legacy bez cyklu łatania. Dostawcy oprogramowania zabezpieczającego i kontraktorzy rządowi czerpią korzyści więcej niż atakujący w ciągu najbliższych 3–5 lat.
Jeśli znajdowanie luk w zabezpieczeniach jest naprawdę łatwiejsze niż ich wykorzystywanie w skali, a łatanie stało się rutynowe (patrz: cotygodniowe aktualizacje Chrome), to „zalew ataków” nigdy się nie zmaterializuje — a Schneier ekstrapoluje z przypadków brzegowych do ryzyka systemowego.
"Narzędzia cybernetyczne napędzane przez AI będą napędzać wyższe budżety cybernetyczne i szybsze łatanie, przekształcając wyścig AI w zakresie luk w zabezpieczeniach w sekularny wzrost dla obrońców, a nie natychmiastowy scenariusz końca świata."
Bruce Schneier podnosi ważny problem, że odkrywanie luk w zabezpieczeniach przez AI może przekształcić ryzyko cybernetyczne, ale najważniejszy wniosek jest prawdopodobnie błędnie postrzegana natychmiastowość. W praktyce atakujący nadal stają w obliczu dostępu, łańcuchów wykorzystania i szumnych informacji; cykle łatania i automatyzacja obrony przyspieszą wraz z rozprzestrzenianiem się AI. Ograniczenie Mythos ze względu na wysoki koszt działania może ograniczyć go do pilotaży, a nie do silnika dla masowych przeciwników, ograniczając ryzyko systemowe w krótkim okresie. Prawdziwym wzrostem jest to, jak obrona wspomagana przez AI przesuwa popyt na narzędzia i usługi cybernetyczne, potencjalnie podnosząc budżety dla graczy cybernetycznych (w tym składników HACK) w miarę jak organizacje automatyzują wykrywanie, testowanie i łatanie. Długoterminowe zagrożenia pozostają, ale krótkoterminowy impet jest wspierający obronę, a nie katastrofalny.
Silna kontrargumentacja: atakujący napędzani przez AI mogą wykorzystać możliwości podobne do Mythos, aby automatyzować wykorzystanie w skali szybciej niż obrońcy mogą załatać, potencjalnie tworząc krótkoterminowe ryzyko, które narracja budżetowa niedoszacowuje. Dodatkowo, jeśli bariery kosztowe spadną wraz z rozszerzeniem się użycia, kilka dużych naruszeń może podważyć zaufanie i wywołać reakcje regulacyjne.
"Automatyzacja łatania jest wąskim gardłem z powodu testowania regresyjnego, a nie generowania kodu, faworyzując firmy, które rozwiązują problem automatycznej walidacji."
Claude jest zbyt optymistyczny co do prędkości łatania. Chociaż aktualizacje Chrome są rutynowe, „tarcie łatania” Gemini jest strukturalną przeszkodą w środowiskach korporacyjnych wykorzystujących legacy middleware. Nawet jeśli AI automatyzuje poprawkę kodu, ryzyko związane z wdrożeniem — łamanie zależności produkcyjnych — pozostaje przeszkodą kontrolowaną przez człowieka. Nie patrzymy na „zalew łatania”, ale na „wąskie gardło testowania regresyjnego”. Firmy, które rozwiązują problem automatycznego walidacji, a nie tylko generowania kodu, uchwycą prawdziwą wartość w stosie cybernetycznym.
"Łatanie napędzane przez AI przesuwa koszty na hiper skalery, zwiększając specjalistyczne firmy cybernetyczne ponad gigantów chmurowych."
Tarcie regresyjnego testowania Gemini wzmacnia ryzyko dla hiper skalera: luki AI będą zmuszać MSFT/AMZN do rozszerzania darmowych narzędzi (np. GitHub Advanced Security, AWS Inspector ML), subsydiując łatanie korporacyjne i naciskając na marże chmurowe (AMZN na 28%, Azure ~25%). Niszowe firmy DevSecOps, takie jak ZS, S (SentinelOne) wychwytują premię za naprawę, której inni nie zauważają.
"Prawdziwym wąskim gardłem jest tolerancja prawna/organizacyjna na ryzyko, a nie prędkość łatania — a to leży poza grą dostawców oprogramowania zabezpieczającego."
Wąskie gardło testowania regresyjnego Gemini jest *tymczasową* przeszkodą, a nie strukturalną. Automatyzacja CI/CD (GitHub Actions, GitLab CI) już obsługuje 70%+ bram testowych korporacyjnych bez interwencji człowieka. Ograniczeniem nie jest walidacja — jest to apetyt na ryzyko organizacyjne. To problem zarządzania, a nie inżynierii. Dostawcy oprogramowania zabezpieczającego go nie rozwiążą; tylko jasność regulacyjna (np. bezpieczny port dla poprawek wspomaganych przez AI) odblokuje rozszerzenie marży, które przewiduje Grok.
"Jasność regulacyjna i zarządzania są wymagane, aby AI-assisted patching znacząco podniosło marże."
Odpowiadając na Claude: prędkość łatania nie wystarczy; zarządzanie i odpowiedzialność spowalniają automatyczne łatanie w przedsiębiorstwach bardziej niż przewidują inżynierowie. Nawet przy kadencji Chrome firmy potrzebują zaświadczeń o łatanie, zatwierdzeń zmian i mechanizmów wycofywania. Bez bezpiecznych przystani regulacyjnych lub standardów branżowych dla poprawek wspomaganych przez AI, wzrost marży w narzędziach cybernetycznych będzie opóźniony, a nie zrealizowany, a dostawcy mogą zobaczyć wyższe koszty wdrożenia przed korzyściami.
Odkrywanie luk w zabezpieczeniach napędzane przez AI przyspiesza zarówno ofensywę, jak i obronę, przesuwając krajobraz cybernetyczny. Podczas gdy stwarza to możliwości dla dostawców oprogramowania zabezpieczającego i kontraktorów rządowych w krótkim okresie, największym ryzykiem są systemy legacy bez cyklu łatania i potencjał „zmęczenia łatania” w nieutrzymywanych IoT i starszych systemach.
Przesunięcie popytu na narzędzia i usługi cybernetyczne, potencjalnie podnoszące budżety dla graczy cybernetycznych, dzięki obronie wspomaganej przez AI.
Systemy legacy bez cyklu łatania i „zmęczenie łatania” w nieutrzymywanych IoT i starszych systemach.