Czym jest Claude Mythos i jakie ryzyko stwarza?

W ostatnich tygodniach świat AI huczał od doniesień, po tym jak wiodąca firma Anthropic ogłosiła informacje o swoim nowym modelu, Claude Mythos.

Firma twierdzi, że narzędzie to potrafi przewyższyć ludzi w niektórych zadaniach związanych z hackingiem i cyberbezpieczeństwem, co skłoniło regulatorów, ustawodawców i instytucje finansowe do dyskusji na temat zagrożeń, jakie może ono stwarzać dla usług cyfrowych.

Kilku gigantów technologicznych otrzymało dostęp do Mythos w ramach inicjatywy o nazwie Project Glasswing, mającej na celu wzmocnienie odporności na samo Mythos.

Inni jednak wskazują, że leży w interesie Anthropic sugerowanie, iż jego narzędzie posiada niespotykane dotąd możliwości, co oznacza – jak zawsze w przypadku AI – że odróżnienie uzasadnionych twierdzeń od szumu informacyjnego może być trudne.

Czym jest Claude Mythos?

Mythos to jeden z najnowszych modeli Anthropic, opracowany w ramach szerszego systemu AI o nazwie Claude. Obejmuje on asystenta AI firmy i rodzinę modeli, konkurując z ChatGPT firmy OpenAI i Gemini firmy Google.

Został zaprezentowany przez Anthropic na początku kwietnia jako „Mythos Preview”.

Badacze, którzy testują, jak modele AI radzą sobie z konkretnymi zapytaniami lub zadaniami, znani jako „red-teams”, stwierdzili w raporcie, że Mythos był „uderzająco zdolny w zadaniach związanych z bezpieczeństwem komputerowym”.

Odkryli, że narzędzie potrafiło zlokalizować ukryte w kodzie sprzed dekad błędy i łatwo je wykorzystać.

Zamiast więc udostępniać go szeroko użytkownikom Claude, Anthropic udzieliło dostępu 12 firmom technologicznym w ramach Project Glasswing, które firma określiła jako „wysiłek na rzecz zabezpieczenia najbardziej krytycznego oprogramowania na świecie”.

Należą do nich gigant przetwarzania w chmurze Amazon Web Services, producenci urządzeń Apple, Microsoft i Google, a także producenci chipów Nvidia i Broadcom.

Crowdstrike, którego wadliwa aktualizacja oprogramowania spowodowała poważną globalną awarię w lipcu 2024 r., również znajduje się wśród partnerów projektu, a Anthropic twierdzi, że udzielił dostępu do Mythos ponad 40 organizacjom odpowiedzialnym za krytyczne oprogramowanie.

Na filmie opublikowanym wraz z uruchomieniem Project Glasswing, szef Anthropic Dario Amodei powiedział, że firma zaoferowała współpracę urzędnikom rządu USA, aby „pomóc w obronie przed ryzykiem związanym z tymi modelami”.

Dlaczego istnieją obawy?

Anthropic twierdzi, że podczas testów odkrył, iż model był wysoce wyspecjalizowany w zadaniach związanych z cyberbezpieczeństwem i hackingiem, przewyższając ludzi.

„Mythos Preview znalazł już tysiące luk o wysokim stopniu zagrożenia, w tym w każdym głównym systemie operacyjnym i przeglądarce internetowej” – twierdził Anthropic 7 kwietnia.

„Biorąc pod uwagę tempo postępu AI, nie potrwa długo, zanim takie możliwości się rozpowszechnią, potencjalnie poza aktorów, którzy są zaangażowani w ich bezpieczne wdrażanie”.

Stwierdził, że potrafi zlokalizować – bez większego nadzoru – krytyczne błędy wymagające natychmiastowego działania w starych systemach, w tym lukę, która istniała w systemie przez 27 lat, i sugerować sposoby jej wykorzystania.

Niektórzy ministrowie finansów, prezesi banków centralnych i finansiści wyrazili od tego czasu poważne obawy, obawiając się, że model może podważyć bezpieczeństwo systemów finansowych.

Kanadyjski minister finansów François-Philippe Champagne powiedział BBC, że Mythos był omawiany na spotkaniu Międzynarodowego Funduszu Walutowego (MFW) w dWashingto DC w tym tygodniu.

„Z pewnością jest to wystarczająco poważne, aby zasłużyć na uwagę wszystkich ministrów finansów” – powiedział, opisując technologię jako „nieznane nieznane”.

Szef Banku Anglii Andrew Bailey powiedział BBC: „musimy teraz bardzo dokładnie przyjrzeć się, co ten najnowszy rozwój AI może oznaczać dla ryzyka cyberprzestępczości”.

Tymczasem UE oświadczyła, że prowadzi również rozmowy z Anthropic na temat swoich obaw związanych z Mythos.

Co powiedzieli eksperci ds. cyberbezpieczeństwa?

Ciaran Martin, były szef brytyjskiego National Cyber Security Centre, powiedział BBC na początku tego tygodnia, że twierdzenie, iż Mythos może odkrywać krytyczne luki znacznie szybciej niż inne modele AI, „naprawdę wstrząsnęło ludźmi”.

„Druga rzecz jest taka, że nawet w przypadku istniejących słabości, o których wiemy, ale których organizacje mogły nie załatać, mogą nie być dobrze przed nimi chronione, jest to po prostu naprawdę dobry haker” – powiedział.

Wielu niezależnych analityków i ekspertów ds. cyberbezpieczeństwa nie miało jeszcze możliwości samodzielnego przetestowania go, a niektórzy pozostają sceptyczni co do wydajności Mythos.

Brytyjski Instytut Bezpieczeństwa AI (UK's AI Safety Institute) niedawno stwierdził, że choć jest to bardzo potężny model, jego największym zagrożeniem byłyby słabo bronione, podatne na ataki systemy.

„Nie możemy z całą pewnością stwierdzić, czy Mythos Preview byłby w stanie atakować dobrze bronione systemy” – powiedzieli jego badacze.

Zatem tam, gdzie istnieje dobre cyberbezpieczeństwo, ten model teoretycznie powinien zostać zatrzymany.

Czy powinniśmy się nim martwić?

Obawy związane z AI nie są niczym nowym.

Ciągle pojawiają się nowe modele i narzędzia, często towarzyszą im obietnice zrewolucjonizowania naszego życia, na lepsze lub gorsze.

Wykorzystywanie tej mieszanki strachu i ekscytacji związanej z AI i jej przyszłym wpływem stało się również znakiem rozpoznawczym sektora i jego strategii marketingowych w ostatnich latach.

W przypadku Mythos wciąż nie wiemy wystarczająco dużo, aby stwierdzić, czy te nadzieje lub obawy są uzasadnione, czy też są bardziej odzwierciedleniem szumu wokół branży.

W obu przypadkach, według NSCS, najważniejszą rzeczą, jaką możemy teraz zrobić, jest nie panikować i zamiast tego skupić się na potrzebie prawidłowego zabezpieczenia podstawowych systemów.

W końcu większość hakerów nie potrzebuje super narzędzi AI, aby przełamać systemy, gdy często wystarczą znacznie prostsze ataki.

„Dla niektórych jest to wydarzenie apokaliptyczne, dla innych wydaje się to być dużo szumu” – powiedział Martin BBC.

Ale powiedział, że niezależnie od tego, czy był to ten narzędzie, czy kolejne stworzone przez Anthropic lub jego rywali, obok ryzyka istniała możliwość zbudowania bezpieczniejszego świata online.

„W średnim okresie istnieje możliwość wykorzystania tych narzędzi do naprawienia wielu podstawowych luk w Internecie” – powiedział.

Zapisz się do naszego newslettera Tech Decoded, aby śledzić najlepsze światowe historie i trendy technologiczne. Poza Wielką Brytanią? Zapisz się tutaj.