CEO Anthropic ostrzegł o cybernetycznym „momencie zagrożenia”, gdy AI ujawnia tysiące luk

Dario Amodei, CEO Anthropic, ostrzegł we wtorek, że sztuczna inteligencja stworzyła wąskie okno czasowe dla światowych firm technologicznych, rządów i banków, aby naprawić dziesiątki tysięcy luk w zabezpieczeniach oprogramowania wykrytych przez najnowszy model jego firmy.

Ten model AI, Mythos, został zaprezentowany w zeszłym miesiącu wraz z ujawnieniem, że odkrył dekad starzejące się luki w zabezpieczeniach w krytycznym oprogramowaniu.

Ponieważ modele AI z geopolitycznego przeciwnika, Chin, są „może w sześć do dwunastu miesięcy” za produktem Anthropic, istnieje „mniej więcej tyle czasu” na naprawę tych problemów, powiedział Amodei.

Komentarze pojawiły się podczas wydarzenia Anthropic, na którym Amodei podzielił scenę z CEO JPMorgan Chase, Jamie Dimonem, i przedstawił nowy zestaw agentów mających na celu automatyzację pracy finansowej.

„Zagrożenie to po prostu ogromny wzrost liczby luk w zabezpieczeniach, liczby naruszeń, szkód finansowych wyrządzonych przez oprogramowanie ransomware w szkołach, szpitalach, a co dopiero bankach” - powiedział Amodei.

Anthropic ograniczył Mythos do kilku firm partnerskich ze względu na obawy dotyczące tego, co przestępcy lub wrogie państwa mogliby zrobić z nim. Ostatnie aktualizacje modeli firmy odbijały się echem na rynkach, ale Mythos wzbudził największe obawy wśród przedsiębiorstw i decydentów.

Skala potencjalnych cyberataków gwałtownie wzrosła wraz z każdą generacją Claude, powiedział Amodei. Wcześniejszy model Anthropic znalazł około 20 luk w przeglądarce Firefox. Mythos znalazł prawie 300, a łączna liczba we wszystkich oprogramowaniach wynosi teraz dziesiątki tysięcy, powiedział.

Większość luk wykrytych przez Mythos nie została jeszcze ujawniona publicznie, ponieważ pozostają niezałatane, a „źli ludzie je wykorzystają”, jeśli zostaną zidentyfikowane, powiedział Amodei.

## 'Lepszy świat'

Pomimo alarmu zarówno Amodei, jak i Dimon również wyrażali warunkowy optymizm.

„Chodzi o moment zagrożenia, w którym, jeśli odpowiednio na niego zareagujemy i myślę, że zaczęliśmy podejmować pierwsze kroki, to możemy mieć lepszy świat po drugiej stronie” - powiedział Amodei. „Jest tylko tyle błędów do znalezienia”.

Dimon powiedział również, że choć obawy dotyczące cyberbezpieczeństwa są uzasadnione, ryzyko cyberbezpieczeństwa tworzone przez AI jest „przejściowym okresem”.

W kwestii regulacji Amodei powiedział, że nadzór nad AI powinien przypominać to, co jest robione w branży motoryzacyjnej, dążąc do znalezienia równowagi między bezpieczeństwem konsumentów a umożliwieniem branży konkurowania.

„Nie można po prostu założyć działalności firmy samochodowej bez pytania 'Czy ten pojazd ma hamulce?'” - powiedział. „Musimy mozolnie dojść do procesu, który pozwoli branży działać sprawnie, uczciwie, ale wprowadzi zabezpieczenia na najpoważniejsze rzeczy”.

Wydarzenie firmy, a także jego otoczenie z Dimonem, najlepiej znanym rzecznikiem branży finansowej, wydawało się demonstrować przewagę Anthropic nad OpenAI na rynku AI dla przedsiębiorstw, gdy obie firmy zmierzają w kierunku potencjalnych IPO.

Anthropic ogłosił we wtorek rozszerzenie swojej platformy usług finansowych, w tym 10 nowych agentów AI do bankowości inwestycyjnej i pracy biurowej, a także integrację z różnymi programami Microsoft Office. Firma poinformowała również, że jej najnowszy szeroko dostępny model — Claude Opus 4.7 — przewyższa wskaźniki dla zadań związanych z analizą finansową.