CEO da Anthropic alerta para 'momento de perigo' cibernético à medida que a IA expõe milhares de vulnerabilidades

O CEO da Anthropic, Dario Amodei, alertou na terça-feira que a inteligência artificial criou uma janela estreita para as empresas de tecnologia, governos e bancos do mundo corrigirem dezenas de milhares de vulnerabilidades de software encontradas pelo modelo mais recente de sua empresa.

Esse modelo de IA, Mythos, foi pré-visualizado no mês passado, juntamente com a divulgação de que ele havia descoberto vulnerabilidades de décadas em softwares cruciais.

Como os modelos de IA do adversário geopolítico China estão "talvez seis a 12 meses" atrás do produto da Anthropic, há "aproximadamente esse tempo" para corrigir esses problemas, disse Amodei.

Os comentários foram feitos durante um evento da Anthropic em que Amodei compartilhou o palco com o CEO do JPMorgan Chase, Jamie Dimon, e apresentou um novo conjunto de agentes destinados a automatizar o trabalho financeiro.

"O perigo é apenas um aumento enorme na quantidade de vulnerabilidades, na quantidade de violações, no dano financeiro causado por ransomware em escolas, hospitais, sem mencionar bancos", disse Amodei.

A Anthropic limitou o Mythos a poucas empresas parceiras devido a preocupações sobre o que criminosos ou nações adversárias poderiam fazer com ele. As últimas atualizações de modelos da empresa reverberaram pelos mercados, mas o Mythos causou a maior preocupação tanto de corporações quanto de formuladores de políticas.

A escala de potenciais explorações cibernéticas aumentou a cada geração de Claude, disse Amodei. Um modelo anterior da Anthropic encontrou aproximadamente 20 vulnerabilidades no navegador Firefox. O Mythos encontrou quase 300, e o número total em todos os softwares agora chega a dezenas de milhares, disse ele.

A maioria das vulnerabilidades encontradas pelo Mythos não foi divulgada publicamente porque permanecem sem correção, e "os bandidos as explorarão" se forem identificadas, disse Amodei.

## 'Um mundo melhor'

Apesar do alarme, tanto Amodei quanto Dimon também expressaram um otimismo condicional.

"Este é um momento de perigo em que, se respondermos corretamente, e acho que demos os primeiros passos, então podemos ter um mundo melhor do lado de lá", disse Amodei. "Há apenas tantos bugs para encontrar."

Dimon também disse que, embora os medos cibernéticos fossem justificados, os riscos de cibersegurança criados pela IA são um "período transitório".

Sobre a questão da regulamentação, Amodei disse que a supervisão da IA deve se assemelhar ao que é feito na indústria automotiva, buscando um equilíbrio entre a segurança do consumidor e a permissão para a indústria competir.

"Você não pode simplesmente abrir uma empresa de carros sem 'Há freios nisso?'", disse ele. "Precisamos encontrar um processo que permita que a indústria opere de forma expedita, seja justa, mas estabeleça salvaguardas para as coisas mais sérias."

O evento da empresa, e seu cenário com Dimon, o porta-voz mais conhecido da indústria financeira, pareceu demonstrar a liderança da Anthropic sobre a OpenAI no mercado de IA empresarial, à medida que ambas as empresas se dirigem para potenciais IPOs.

A Anthropic anunciou na terça-feira uma expansão de sua plataforma de serviços financeiros, incluindo 10 novos agentes de IA para banco de investimento e trabalho de back-office, bem como integração em vários programas do Office da Microsoft. A empresa também disse que seu modelo mais recente amplamente disponível — Claude Opus 4.7 — lidera os benchmarks para tarefas de análise financeira.