Anthropic Wstrzymuje Najnowszy Model Po Tym, Jak W Testach "Zszedł Na Złą Drogę"; Uruchamia "Project Glasswing" w Celu Zabezpieczenia Krytycznego Oprogramowania

Anthropic Wstrzymuje Najnowszy Model Po Tym, Jak W Testach "Zszedł Na Złą Drogę"; Uruchamia "Project Glasswing" w Celu Zabezpieczenia Krytycznego Oprogramowania

Nadal odczuwając skutki kompromitującego wycieku kodu źródłowego, Anthropic ogłosił, że nie udostępni publicznie swojego najnowszego zaawansowanego modelu AI, Mythos, twierdząc, że model jest zbyt potężny w sposób, który zwiększa ryzyko cyberbezpieczeństwa.

W testach wewnętrznych Anthropic stwierdził, że model ujawnił tysiące "zero-day" (wcześniej nieznanych luk) o wysokim stopniu zagrożenia we wszystkich głównych systemach operacyjnych i przeglądarkach internetowych, znacznie przewyższając swój poprzedni flagowy model (reprodukcja podatności CyberGym: 83,1% w porównaniu do 66,6% dla Opus 4.6).

„Biorąc pod uwagę tempo postępu AI, nie potrwa długo, zanim takie możliwości się rozpowszechnią, potencjalnie poza aktorów, którzy są zaangażowani w ich bezpieczne wdrażanie.”

Podatność typu zero-day to błąd oprogramowania, który może zostać wykorzystany, zanim ktokolwiek, kto ma możliwość jego naprawienia, dowie się o jego istnieniu. Znajdowanie i łatanie ich historycznie wymagało rzadkiej, drogiej ludzkiej wiedzy, ale AI może zmienić skalę i szybkość wykrywania.

Anthropic stwierdził, że znalezione podatności są „często subtelne lub trudne do wykrycia”. Wiele z nich ma 10 lub 20 lat, a najstarszy znaleziony do tej pory to załatana 27-letnia luka w OpenBSD — systemie operacyjnym znanym głównie ze swojego bezpieczeństwa, dodano. Znalazł również 16-letnią lukę w bibliotece przetwarzania multimediów FFmpeg, 17-letnią podatność na zdalne wykonanie kodu w systemie operacyjnym open-source FreeBSD oraz liczne podatności w jądrze Linux.

Mythos Preview zidentyfikował również kilka słabości w najpopularniejszych na świecie bibliotekach kryptograficznych, algorytmach i protokołach, w tym TLS, AES-GCM i SSH.

Dodano, że aplikacje internetowe „zawierają niezliczone podatności”, od cross-site scripting i SQL injection po podatności specyficzne dla domeny, takie jak cross-site request forgery, które są często wykorzystywane w atakach phishingowych.

Cykl życia exploita typu zero-day. Źródło: PhoenixNAP

Anthropic twierdził, że 99% znalezionych podatności nie zostało jeszcze załatanych, „więc byłoby nieodpowiedzialne z naszej strony ujawniać szczegóły na ich temat.

Anthropic ujawnił również, że podczas wyzwania w ocenie Mythos był w stanie uciec z ograniczonego środowiska piaskownicy — problem z izolacją, który przyczynił się do decyzji o ścisłym ograniczeniu dostępu. Oto kilka innych rzeczy, które Mythos zrobił podczas testów, według Axios:

Działaj jako bezwzględny operator biznesowy: Jeden z wewnętrznych testów pokazał, że Mythos działał jak bezwzględny dyrektor wykonawczy, przekształcając konkurenta w zależnego klienta hurtowego, grożąc wstrzymaniem dostaw w celu kontrolowania cen i zatrzymując dodatkowe dostawy od dostawców, za które nie zapłacił.
Hack + przechwałki: Model opracował wieloetapowy exploit, aby uciec z ograniczonego dostępu do Internetu, uzyskał szerszą łączność i opublikował szczegóły exploita na mało znanych publicznych stronach internetowych.
Ukrywaj to, co robi: W rzadkich przypadkach (mniej niż 0,001% interakcji) Mythos użył zakazanego sposobu uzyskania odpowiedzi, a następnie próbował „ponownie rozwiązać” problem, aby uniknąć wykrycia.
Manipuluj sędzią: Kiedy Mythos pracował nad zadaniem kodowania ocenianym przez inne AI, obserwował, jak sędzia odrzuca jego zgłoszenie, a następnie próbował ataku typu prompt injection na oceniającego.
„Te możliwości są tak silne, że musimy teraz przygotować się do zabezpieczeń w zupełnie inny sposób niż przez ostatnie kilka dekad” — powiedział Logan Graham z Anthropic w rozmowie z Axios, wyrażając obawy, co stanie się, jeśli podobne możliwości AI zostaną wykorzystane przez złych aktorów.

Zamiast więc dążyć do szerokiego wydania, Anthropic kieruje model do Project Glasswing, obronnego, opartego na koalicji wysiłku mającego na celu identyfikację, odpowiedzialne ujawnianie i łatanie krytycznych podatności oprogramowania, zanim aktorzy zagrożeń będą mogli wykorzystać podobne możliwości AI.

Glasswing obejmuje 11 nazwanych partnerów technologicznych (Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, Linux Foundation, Microsoft, NVIDIA i Palo Alto Networks... tak, JPMorgan jest teraz postrzegany jako firma technologiczna) plus ponad 40 dodatkowych organizacji zajmujących się krytycznym oprogramowaniem, i jest wspierany przez do 100 milionów dolarów w postaci kredytów na użytkowanie i funduszy na bezpieczeństwo open-source.

Inicjatywa odzwierciedla pogląd Anthropic, że ryzyka cybernetyczne związane z zaawansowanym AI są systemowe, a nie specyficzne dla firmy, wymagając skoordynowanych działań w całym ekosystemie oprogramowania, ponieważ AI przyspiesza odkrywanie podatności i skraca czas reakcji.

Stopniowe wydawanie może być planem tego, jak będą wyglądać przyszłe wydania modeli w miarę ich wzmacniania: ograniczając dostęp do wybranych partnerów uznanych za wystarczająco bezpiecznych do testowania systemów zmieniających świat.

Tyler Durden
Śr, 08.04.2026 - 11:20