O que é Mythos AI e por que ela pode ser uma ameaça à segurança cibernética global?

A Anthropic descartou o lançamento de seu mais recente modelo de IA, Mythos, para o público devido à ameaça que ele representa à segurança cibernética global.

No entanto, a startup de tecnologia dos EUA por trás do chatbot Claude confirmou na quarta-feira que estava investigando um relatório de que um grupo de pessoas havia obtido acesso não autorizado ao Mythos. O incidente alegado levantou preocupações sobre o ritmo do desenvolvimento e a capacidade das empresas de tecnologia de manter seus produtos mais arriscados fora do domínio público. Aqui, examinamos o Mythos e seu impacto potencial.

O que é Mythos? Mythos é um modelo de IA – a tecnologia subjacente que alimenta ferramentas como chatbots – que, segundo a Anthropic, representa uma séria ameaça potencial à segurança cibernética de qualquer organização. A Anthropic anunciou a existência do Mythos em 7 de abril, mas disse que não seria lançado publicamente devido à sua capacidade de identificar falhas desconhecidas em sistemas de TI. Essas falhas poderiam, teoricamente, ser exploradas por hackers.

A Anthropic disse que o Mythos poderia identificar e explorar “falhas de dia zero” em todos os importantes sistemas operacionais e navegadores da web – se um usuário pedisse para fazer isso. Dias zero são chamados assim porque as organizações e os desenvolvedores estão completamente cientes deles e não tiveram tempo para corrigi-los antes que um agressor ataque.

A Anthropic descreveu isso como um “momento decisivo para a segurança cibernética”. Algumas das falhas não detectadas existem há décadas, disse a empresa de São Francisco.

A startup permitiu que empresas de tecnologia e bancos, incluindo Apple e Goldman Sachs, acessassem o modelo e avaliassem quais riscos ele poderia representar para seus negócios e clientes.

A Anthropic anunciou o Projeto Glasswing em 8 de abril para permitir que empresas testassem o Mythos na segurança cibernética. Fotografia: Samuel Boivin/NurPhoto/ShutterstockPor que isso é motivo de preocupação? O Mythos representa evidências tangíveis, segundo o UK’s AI Security Institute (AISI), das capacidades disruptivas da IA avançada. Desde a chegada do ChatGPT da OpenAI em 2022, especialistas alertam que a IA pode causar sérios danos no mundo real.

Também há um ponto mais amplo: que o Mythos é uma indicação do ritmo do progresso em IA. Modelos avançados tendem a ser replicados rapidamente por outras empresas, incluindo desenvolvedores de modelos de código aberto que estão disponíveis gratuitamente para os usuários. Em uma carta conjunta aos líderes empresariais no mês passado, a secretária de tecnologia do Reino Unido, Liz Kendall, e o ministro da segurança, Dan Jarvis, disseram que as empresas precisam “planejar de acordo” para as capacidades de IA “aumentarem rapidamente” no próximo ano. A IA pode, é claro, ser usada para se defender contra ataques cibernéticos também.

Outra preocupação é que o Mythos possa cair em mãos erradas, apesar de ter sido retido do lançamento público. Esse medo se concretizou nesta semana, com a Anthropic confirmando que um “punhado” de usuários em um fórum online privado havia obtido acesso ao modelo.

No entanto, também há uma questão sobre a importância das milhares de vulnerabilidades que o Mythos sinalizou. Elas podem causar sérios danos? Além disso, destacar uma falha de TI não é o mesmo que explorá-la.

O Mythos foi avaliado por especialistas? O AISI, que é o principal órgão de segurança de IA do mundo, analisou o Mythos e diz que ele representa um “avanço” em relação a modelos anteriores em termos de sua ameaça à segurança cibernética. Entre os sinais de alerta está a capacidade de realizar ataques envolvendo várias etapas e identificar falhas de TI sem orientação humana.

Ele também alcançou um primeiro aos olhos do AISI: concluir com sucesso uma simulação de 32 etapas de um ataque cibernético em um teste criado pelo instituto. Ele pode atacar sistemas de TI fracos e pequenos, disse o AISI, embora não pudesse dar um veredicto sobre sistemas bem defendidos. O instituto encerrou sua avaliação com uma observação que é frequentemente expressa em outros lugares: os sistemas de IA só podem melhorar a partir daqui.

Richard Horne, diretor executivo do National Cyber Security Centre do Reino Unido, disse na conferência CyberUK em Glasgow esta semana que o surgimento do Mythos ajudaria a incentivar as empresas a substituir a “tecnologia obsoleta”. “Isso apenas aumenta a urgência”, acrescentou ele.

No entanto, outros especialistas disseram que o Mythos é mais uma evolução do que uma revolução. Aisle, uma empresa que trabalha com segurança cibernética de IA, analisou as principais alegações da Anthropic: que havia encontrado milhares de vulnerabilidades de dia zero em grandes sistemas operacionais e navegadores, incluindo uma no FreeBSD, um parente do UNIX. Ele descobriu que outros modelos, muito mais baratos, também eram capazes de encontrar esses problemas. Isso não significa que as capacidades do Mythos não sejam significativas, disseram eles, mas que havia mais nuances do que o tom urgente da Anthropic implicava.

Também há cautela de especialistas de que a maioria das violações ainda provém de riscos bem estabelecidos, como autenticação fraca e vulnerabilidades já conhecidas que não foram corrigidas.
Alguns especialistas sugerem que há um elemento de hype em torno das alegações da Anthropic sobre o Mythos e como uma startup estimada em cerca de US$ 800 bilhões (£ 592 bilhões) as apresentou. O Mythos é, sem dúvida, um modelo capaz. No entanto, o anúncio dramático da Anthropic lhe deu um tempo significativo de exposição e centralizou seu produto em uma discussão mais ampla e em todo o campo sobre como a IA pode contribuir para o risco cibernético.

Como as empresas de tecnologia e bancos estão envolvidos? Cerca de 40 empresas, incluindo Google, JP Morgan e Goldman, receberam acesso antecipado ao Mythos por meio de uma iniciativa chamada Projeto Glasswing, que visa dar às empresas a chance de testar o modelo de IA como parte de suas defesas cibernéticas. A Anthropic diz que eles compartilharão o que aprenderem “para que toda a indústria possa se beneficiar”.

No entanto, os parceiros de lançamento não forneceram detalhes sobre o que pensam que o Mythos é capaz de fazer e quão grande uma ameaça ele pode representar.

Isso não impediu que bancos e reguladores especulassem sobre seu impacto potencial. E por uma boa razão: se os avisos da Anthropic estiverem corretos, ter o Mythos nas mãos erradas pode causar estragos nos bancos e potencialmente colocar todo o sistema financeiro em risco.

O modelo do governo do Reino Unido sobre um cenário de pior caso de invasão de banco, produzido mesmo antes da criação do Mythos, sugeriu que os débitos diretos poderiam falhar, deixando aluguéis, hipotecas e salários não pagos, enquanto o banco online e os saques em caixas eletrônicos poderiam ser bloqueados. Os passageiros poderiam ficar em estado de limbo, pois ônibus e postos de gasolina rejeitavam pagamentos. Isso poderia provocar pânico, levando a uma corrida sobre credores rivais, à medida que os clientes retiram dinheiro de suas contas em meio ao medo de que a interrupção possa se espalhar.

A preocupação com as ameaças prospectivas do Mythos levou o secretário do Tesouro dos EUA, Scott Bessent, a convocar uma reunião com os chefes de grandes bancos americanos, incluindo Goldman e Citi, em Washington no início deste mês.

Os reguladores do Reino Unido adicionaram o Mythos à pauta das reuniões do Cross Market Operational Resilience Group esta semana. Isso o coloca em discussões de alto nível entre executivos de bancos, bem como funcionários do Tesouro, Banco da Inglaterra, Autoridade de Conduta Financeira e National Cyber Security Centre.