Perspektywa The Guardian na temat Claude Mythos firmy Anthropic: kiedy AI znajduje każdą wadę, kto kontroluje internet? | Editorial

Anthropic ogłosił swój najnowszy model AI, Claude Mythos, w tym miesiącu, ale stwierdził, że nie zostanie on udostępniony publicznie, ponieważ zamienia komputery w miejsca zbrodni. Firma twierdziła, że potrafi znaleźć wcześniej nieznane luki typu „zero-day”, wykorzystać je i, co do zasady, połączyć te słabości, aby przejąć kontrolę nad głównymi systemami operacyjnymi i przeglądarkami internetowymi. Mythos zrobił to autonomicznie, pisząc kod i uzyskując uprawnienia. Implikacje są znaczące. To tak, jakby włamywacz mógł namierzyć dowolny budynek, dostać się do środka, otworzyć każde drzwi i opróżnić każdy sejf.

Firma z Doliny Krzemowej nazwała do tej pory 40 organizacji jako partnerów w ramach Projektu Glasswing, aby pomóc w opracowaniu obrony – prosząc ich o „łatanie” luk, zanim hakerzy zdążą je wykorzystać. Wszystkie są amerykańskie, znajdują się w sercu kierowanego przez USA systemu cyfrowego. Anthropic udostępnił Mythos tylko Wielkiej Brytanii poza USA, pozwalając AI Security Institute na testowanie najnowocześniejszych modeli. Po przyjrzeniu się z bliska, brytyjscy ministrowie ostrzegli: AI sprawi, że cyberataki staną się znacznie łatwiejsze i szybsze, a większość firm nie jest na to gotowa. Prawdopodobnie wkrótce przetestują to banki w Europie.

Może to nie być moment zbyt wczesny. W tym tygodniu pojawiły się doniesienia o nieautoryzowanym dostępie – rodząc pytanie, czy można zaufać jakiejkolwiek prywatnej firmie z taką możliwością. Mythos niekoniecznie tworzy nowy rodzaj zagrożenia cybernetycznego. Zamienia ukrytą słabość w ryzyko systemowe. Hacking tradycyjnie był trudny i czasochłonny, wymagający umiejętności, których niewielu ludzi posiada. Jednak narzędzia AI szybko się rozprzestrzeniają, stawiając naruszenia systemów w zasięgu wielu – nie tylko ekspertów.

Można również obrócić kłusownika w strażnika. Mozilla przetestowała Mythos na swojej przeglądarce Firefox: znalazła 10 razy więcej luk niż wcześniej – i je naprawiła. Co kluczowe, żadnej z nich nie można było przeoczyć. Zmienia się to, że AI odkrywa „podatności cybernetyczne” szybko, tanio i na dużą skalę.

Zaangażowanie rządu USA w Anthropic oznacza zmianę. W lutym Pentagon uznał firmę za „ryzyko dla bezpieczeństwa” i odciął ją od lukratywnych umów po tym, jak odmówiła zezwolenia na wykorzystanie swojej technologii do masowej inwigilacji lub autonomicznej broni. Zamiast tego kontrakt otrzymał OpenAI. Anthropic, ze swoim chatbotem Claude, od dawna pozycjonuje się jako etyczna alternatywa wśród konkurentów – chociaż jego wizerunek został nadszarpnięty przez ugodę w sprawie piractwa komputerowego za 1,5 miliarda dolarów w zeszłym roku.

Mythos jest potężny, ale PR Anthropic kształtuje narrację w takim samym stopniu, jak technologia. Pojawia się również pytanie, jak zaawansowany jest Mythos w rzeczywistości. Naukowcy pokazali, że mniejsze, tańsze modele wdrożone na dużą skalę mogą osiągać podobne wyczyny. To, co wydaje się przełomem, może odzwierciedlać szerszą zmianę w całej dziedzinie. Biały Dom uważa, że Anthropic ma wartość strategiczną – włączając go z powrotem do grona i sygnalizując przejście od traktowania firm AI jako wykonawców do partnerów. Rodzi to głębszą obawę: czy kontrola prywatnych firm nad ryzykiem związanym z infrastrukturą krytyczną jest mądra – zwłaszcza jeśli mniej odpowiedzialni aktorzy zyskają przewagę techniczną.

Wyraźnie widać, że ktokolwiek – państwo czy firma – stworzy najpotężniejsze modele AI, zyska przewagę geopolityczną nad przyjaciółmi i wrogami. Jednak bez ram międzynarodowej koordynacji w zakresie cyberbezpieczeństwa, istnieje ryzyko, że nie będzie jednego bezpiecznego internetu, ale wiele konkurujących ze sobą – każdy „łatający” swój własny system i całkowicie nieufający pozostałym. Nie byłby to już globalny zasób wspólny. Zamiast tego sieć zostałaby podzielona na sojusze bezpieczeństwa, strzeżone ściślej, podczas gdy coś szerszego po cichu by uciekało.

-
**Masz opinię na temat kwestii poruszonych w tym artykule? Jeśli chcesz przesłać odpowiedź o długości do 300 słów pocztą elektroniczną, aby została rozważona do publikacji w naszej sekcji listów, kliknij tutaj.**