Czym jest Mythos AI i dlaczego może stanowić zagrożenie dla globalnego cyberbezpieczeństwa?

Anthropic wykluczył publiczne udostępnienie swojego najnowszego modelu AI, Mythos, ze względu na zagrożenie, jakie stanowi dla globalnego cyberbezpieczeństwa.

Jednak amerykański startup technologiczny stojący za chatbotem Claude potwierdził w środę, że bada doniesienia o grupie osób, która uzyskała nieautoryzowany dostęp do Mythos. Rzekome incydent wzbudził obawy dotyczące tempa rozwoju i zdolności firm technologicznych do utrzymania swoich najbardziej ryzykownych produktów z dala od domeny publicznej. Tutaj analizujemy Mythos i jego potencjalny wpływ.

Czym jest Mythos? Mythos to model AI – podstawowa technologia napędzająca narzędzia takie jak chatboty – która według Anthropic stanowi poważne potencjalne zagrożenie dla cyberbezpieczeństwa każdej organizacji. Anthropic ogłosił istnienie Mythos 7 kwietnia, ale stwierdził, że nie zostanie on publicznie udostępniony ze względu na jego zdolność do identyfikowania nieznanych luk w systemach IT. Luki te mogłyby teoretycznie zostać wykorzystane przez hakerów.

Anthropic stwierdził, że Mythos może identyfikować i wykorzystywać luki typu „zero-day” we wszystkich ważnych systemach operacyjnych IT i przeglądarkach internetowych – jeśli użytkownik o to poprosi. Zero-day są tak nazywane, ponieważ organizacje i deweloperzy są ich całkowicie nieświadomi i nie mieli czasu na ich załatanie, zanim zaatakuje napastnik.

Anthropic opisał to jako „przełomowy moment dla cyberbezpieczeństwa”. Niektóre z niezauważonych luk istniały od dziesięcioleci, powiedziała firma z San Francisco.

Startup pozwolił firmom technologicznym i bankom, w tym Apple i Goldman Sachs, na dostęp do modelu i ocenę ryzyka, jakie może on stanowić dla ich działalności i klientów.

Anthropic ogłosił Project Glasswing 8 kwietnia, aby umożliwić firmom testowanie Mythos pod kątem cyberbezpieczeństwa. Fotografia: Samuel Boivin/NurPhoto/Shutterstock Dlaczego jest to powód do obaw? Mythos stanowi namacalny dowód, według brytyjskiego Institute for AI Security (AISI), na zakłócające możliwości zaawansowanej sztucznej inteligencji. Od czasu pojawienia się ChatGPT firmy OpenAI w 2022 roku eksperci ostrzegają, że AI może spowodować poważne szkody w świecie rzeczywistym.

Istnieje również szerszy punkt: Mythos jest wskazówką co do tempa postępu w dziedzinie AI. Zaawansowane modele są szybko replikowane przez inne firmy, w tym przez twórców modeli open-source, które są swobodnie dostępne dla użytkowników. W wspólnym liście do liderów biznesu w zeszłym miesiącu brytyjska sekretarz ds. technologii Liz Kendall i minister bezpieczeństwa Dan Jarvis stwierdzili, że firmy muszą „odpowiednio zaplanować” szybki wzrost możliwości AI w ciągu najbliższego roku. AI może oczywiście być również wykorzystywane do obrony przed cyberatakami.

Innym zmartwieniem jest to, że Mythos może wpaść w niepowołane ręce, mimo że został wstrzymany od publicznego wydania. Ten strach ziścił się w tym tygodniu, gdy Anthropic potwierdził, że „garstka” użytkowników na prywatnym forum internetowym uzyskała dostęp do modelu.

Jednak pojawia się również pytanie o znaczenie tysięcy luk, które Mythos zidentyfikował. Czy mogą one spowodować poważne szkody? Ponadto, podkreślenie luki w systemie IT nie jest tym samym, co jej wykorzystanie.

Czy Mythos został oceniony przez ekspertów? AISI, które jest wiodącym światowym organem ds. bezpieczeństwa AI, przyjrzał się Mythos i twierdzi, że jest to „krok naprzód” w porównaniu do poprzednich modeli pod względem zagrożenia dla cyberbezpieczeństwa. Wśród sygnałów ostrzegawczych jest zdolność do przeprowadzania ataków wieloetapowych i identyfikowania luk w systemach IT bez ludzkiego nadzoru.

Osiągnął również coś po raz pierwszy w oczach AISI: pomyślne ukończenie 32-etapowej symulacji cyberataku w teście stworzonym przez instytut. Może atakować słabe, małe systemy IT, powiedział AISI, chociaż nie mógł wydać werdyktu w sprawie dobrze bronionych systemów. Instytut zakończył swoją ocenę stwierdzeniem, które jest często powtarzane gdzie indziej: systemy AI mogą się tylko poprawiać.

Richard Horne, dyrektor generalny brytyjskiego National Cyber Security Centre, powiedział na konferencji CyberUK w Glasgow w tym tygodniu, że pojawienie się Mythos pomoże zachęcić firmy do wymiany „przestarzałej technologii”. „To po prostu napędza pilność” – dodał.

Jednak inni eksperci stwierdzili, że Mythos jest bardziej ewolucją niż rewolucją. Aisle, firma zajmująca się cyberbezpieczeństwem AI, przeanalizowała główne twierdzenia Anthropic: że znalazła tysiące luk typu zero-day w dużych systemach operacyjnych i przeglądarkach, w tym jedną we FreeBSD, kuzynie UNIX-a. Stwierdziła, że inne, znacznie tańsze modele również były w stanie znaleźć te problemy. Nie oznaczało to, że możliwości Mythos nie były znaczące, powiedzieli, ale że istniało więcej niuansów, niż sugerował pilny ton Anthropic.

Istnieje również ostrożność ze strony ekspertów, że większość naruszeń nadal wynika z ugruntowanych zagrożeń, takich jak słabe uwierzytelnianie i już znane luki, które nie zostały załatane.
Niektórzy eksperci sugerują, że istnieje element szumu wokół twierdzeń Anthropic o Mythos i sposobu, w jaki przedstawiła je startup wyceniany na około 800 miliardów dolarów (592 miliardy funtów). Mythos jest niewątpliwie zdolnym modelem. Jednak dramatyczne ogłoszenie Anthropic zapewniło mu znaczący czas antenowy i umieściło jego produkt w szerszej, ogólnopolowej dyskusji na temat tego, jak AI może przyczynić się do ryzyka cybernetycznego.

Jak w to zaangażowane są firmy technologiczne i banki? Około 40 firm, w tym Google, JP Morgan i Goldman, otrzymało wczesny dostęp do Mythos w ramach inicjatywy Project Glasswing, która ma na celu danie firmom możliwości testowania modelu AI jako części ich obrony cybernetycznej. Anthropic twierdzi, że podzielą się tym, czego się nauczą, „aby cała branża mogła skorzystać”.

Jednak partnerzy uruchomienia nie podali żadnych szczegółów na temat tego, co ich zdaniem jest w stanie zrobić Mythos i jak duże zagrożenie może stanowić.

To nie powstrzymało banków i regulatorów od spekulacji na temat jego potencjalnego wpływu. I to z dobrego powodu: jeśli ostrzeżenia Anthropic są prawdziwe, wpadnięcie Mythos w niepowołane ręce mogłoby spowodować spustoszenie w bankach i potencjalnie narazić na ryzyko szerszy system finansowy.

Modelowanie brytyjskiego rządu w przypadku najgorszego scenariusza ataku na bank, opracowane jeszcze przed stworzeniem Mythos, sugerowało, że polecenia zapłaty mogą przestać działać, pozostawiając czynsze, kredyty hipoteczne i pensje nieopłacone, podczas gdy bankowość internetowa i wypłaty z bankomatów mogłyby zostać zablokowane. Pasażerowie mogliby zostać w zawieszeniu, ponieważ autobusy i stacje benzynowe odrzucałyby płatności. Mogłoby to wywołać panikę, prowadząc do masowych wypłat z konkurencyjnych instytucji, gdy klienci wycofywaliby pieniądze ze swoich kont w obawie przed rozprzestrzenieniem się zakłóceń.

Obawy dotyczące potencjalnych zagrożeń ze strony Mythos skłoniły sekretarza skarbu USA, Scotta Bessenta, do zwołania spotkania z szefami dużych amerykańskich banków, w tym Goldman i Citi, w Waszyngtonie na początku tego miesiąca.

Brytyjscy regulatorzy dodali Mythos do agendy spotkań Cross Market Operational Resilience Group w tym tygodniu. Wprowadza to go do dyskusji na wysokim szczeblu między starszymi bankierami, a także urzędnikami Skarbu Państwa, Banku Anglii, Financial Conduct Authority i National Cyber Security Centre.