Líderes financeiros alertam sobre Mythos enquanto bancos do Reino Unido se preparam para usar poderosa ferramenta de IA da Anthropic

Os bancos britânicos terão acesso na próxima semana a uma poderosa ferramenta de IA que foi considerada perigosa demais para ser divulgada ao público, enquanto uma série de importantes figuras do setor financeiro alertaram sobre seu impacto.

A Anthropic, que até agora limitou a divulgação do novo modelo a um pequeno grupo de empresas, principalmente nos EUA, incluindo Amazon, Apple e Microsoft, disse que expandiria isso para instituições financeiras do Reino Unido nos próximos dias.

“Isso está muito próximo, na próxima semana”, disse Pip White, diretora de operações da Anthropic para o Reino Unido, Irlanda e norte da Europa, em uma entrevista na Bloomberg TV. “Como seria de esperar, o engajamento que tive com os CEOs do Reino Unido na última semana tem sido significativo.”

A Anthropic, que é a empresa por trás da família de ferramentas de IA Claude, disse que seu modelo mais recente, Mythos, representa um risco sem precedentes devido à sua capacidade de expor falhas em sistemas de TI.

“Os modelos de IA atingiram um nível de capacidade de codificação em que podem superar todos, exceto os humanos mais qualificados, na identificação e exploração de vulnerabilidades de software”, disse a Anthropic em uma postagem no blog no início deste mês. “O impacto – para economias, segurança pública e segurança nacional – pode ser grave.”

Ministros das finanças, executivos e reguladores discutiram as potenciais ameaças enquanto se reuniram em Washington esta semana para as reuniões de primavera do FMI e do Banco Mundial, ao mesmo tempo em que lidavam com as preocupações sobre as ramificações globais decorrentes da guerra EUA-Israel com o Irã.

O ministro das finanças canadense, François-Philippe Champagne, disse à BBC: “Certamente é grave o suficiente para merecer a atenção de todos os ministros das finanças... A diferença com o estreito de Ormuz é que sabemos onde ele está e sabemos o quão grande ele é.

“O problema que estamos enfrentando com a Anthropic é que é um desconhecido desconhecido. Requer muita atenção para que tenhamos salvaguardas e tenhamos processos em vigor para garantir a resiliência de nosso sistema financeiro.”

Andrew Bailey, o governador do Banco da Inglaterra que também preside o Conselho de Estabilidade Financeira dos reguladores globais, disse: “É um desafio muito sério para todos nós. Nos lembra de quão rápido o mundo da IA se move.”

No entanto, ele disse que os reguladores estão tendo que considerar se, e quão fortemente, devem reprimir a tecnologia, à medida que os governos buscam colher as recompensas econômicas da IA. “Qual é o momento ideal para definir as regras do jogo?” Bailey perguntou. “Se você for muito cedo, a) corre o risco de errar o alvo e b) corre o risco de distorcer a evolução, e se você for muito tarde, as coisas podem sair do controle.”

A presidente do Banco Central Europeu, Christine Lagarde, disse: “O desenvolvimento que vimos com a Anthropic e o Mythos é um bom exemplo de uma empresa responsável que está repentinamente pensando: ‘Ah, isso pode ser muito bom’ – mas se cair nas mãos erradas, pode ser muito ruim.

“Todos estão ansiosos para ter um quadro de referência dentro do qual operar”, disse Lagarde à Bloomberg TV. Mas ela acrescentou: “Não acho que haja um quadro de governança que esteja realmente cuidando dessas coisas. Precisamos trabalhar nisso.”