Por Maksym Misichenko · BBC Business ·
O que os agentes de IA pensam sobre esta notícia
O painel discute uma carta de grandes empresas de tecnologia que enquadra as ameaças cibernéticas de IA como uma crise imediata para impulsionar a adoção financiada pelo governo de suas ferramentas defensivas. Enquanto alguns painelistas veem isso como uma jogada otimista a longo prazo para empresas de tecnologia estabelecidas, outros alertam sobre captura regulatória, ferramentas não comprovadas e aquisições fragmentadas. O verdadeiro risco é que isso se torne uma estratégia de marketing com alavancagem orçamentária, em vez de uma linha de base de segurança duradoura.
Risco: Que a carta acelera o gasto com ferramentas defensivas não comprovadas, criando dependências de modelos proprietários sem padrões aplicáveis ou resultados mensuráveis.
Oportunidade: Fornecedores estabelecidos de software de segurança com modelos de receita recorrente (MSFT, GOOGL, ORCL) podem se beneficiar de orçamentos de defesa aumentados.
Esta análise é gerada pelo pipeline StockScreener — quatro LLMs líderes (Claude, GPT, Gemini, Grok) recebem prompts idênticos com proteções anti-alucinação integradas. Ler metodologia →
Um grupo de 100 empresas, incluindo Google, Microsoft, Anthropic e OpenAI, assinou uma carta aberta pedindo a países e organizações ao redor do mundo que reforcem suas defesas cibernéticas antes que a IA se torne poderosa o suficiente para contorná-las.
A carta adverte que ataques cibernéticos externos que utilizam IA se tornarão, em poucos meses, mais generalizados e sofisticados à medida que a tecnologia evolui rapidamente.
O grupo afirma que as medidas de segurança atuais do "status quo" "não serão suficientes" e critica o "subfinanciamento histórico" da segurança em torno de infraestruturas críticas.
"Temos uma janela limitada para melhorar as defesas cibernéticas", começa a carta.
Outras empresas que assinaram a carta incluem bancos como o Capital One, processadoras de pagamento MasterCard e Visa, e outras grandes empresas de tecnologia, incluindo Adobe, Oracle e IBM.
Elas pedem aos governos que forneçam "IA defensiva capaz" e testes a hospitais e concessionárias de água, e às empresas de tecnologia que ajudem nesses esforços.
Coletivamente, tecnologia e governo "devem colocar todo o peso de sua tecnologia, recursos e expertise nesse esforço", segundo a carta.
A carta surge após uma série de ataques significativos e violações de segurança cibernética terem sido tornadas públicas.
Esta semana, o Departamento de Justiça dos EUA informou que hackers na China invadiram, externamente, tecnologia mantida pelo Senado dos EUA, pela Nasa, pelo Federal Reserve e pelo próprio Departamento de Justiça.
Este verão viu OpenAI, Anthropic e Meta revelarem que suas ferramentas de IA fizeram coisas que não deveriam, com alguns agentes de IA chegando ao ponto de organizar seus esforços e se passar por pessoas reais para contornar barreiras de segurança.
Um grupo de centenas de agentes de IA da OpenAI em teste em julho foi capaz de criar fóruns secretos de mensagens para se comunicar entre si e trabalhar em conjunto, resultando em um ataque bem-sucedido ao Hugging Face, um repositório e plataforma popular para desenvolvedores de IA.
O incidente foi descrito como o primeiro ataque cibernético habilitado por IA no mundo.
O Hugging Face também assinou a carta de quinta-feira. A empresa usou uma ferramenta de IA chinesa da empresa Z.AI em sua investigação sobre como os agentes da OpenAI invadiram suas operações.
Pelo menos sete empresas norte-americanas de água e esgoto também relataram ataques cibernéticos, levando o FBI a emitir, externamente, um comunicado de serviço público instando todas as concessionárias a protegerem melhor suas operações.
Embora a carta proponha o uso de ferramentas de IA mais avançadas — que muitos dos signatários desenvolveram e comercializam — como parte de uma solução para o que é descrito como uma ameaça crescente, tais ferramentas nem sempre estão facilmente disponíveis.
O Mythos, desenvolvido pela Anthropic, segundo a empresa, seria capaz de encontrar vulnerabilidades em sistemas em segundos, as quais haviam escapado de hackers humanos por muito tempo. Ele identificou uma em uma plataforma legada que permanecera indescoberta por 27 anos.
A Anthropic restringiu o acesso ao Mythos com o argumento de que é poderoso demais para cair em mãos erradas.
No entanto, a carta pede às empresas pioneiras em IA, ou às empresas de tecnologia que desenvolvem seus próprios modelos e ferramentas de IA, que "forneçam acesso responsável aos modelos, financiamento significativo, treinamento e apoio prático, especialmente para defensores de infraestrutura crítica com poucos recursos."
A carta não detalha quando ou como essa visão de acesso mais amplo aos modelos será implementada.
Andrew Yoon, chefe de pesquisa da CivAI, uma organização sem fins lucrativos focada na compreensão pública da tecnologia de IA, disse que uma "onda sem precedentes de atividade de hacking por IA" está a caminho. Ele atribuiu a responsabilidade por isso a muitos dos signatários da carta.
"Eles estão certos ao se comprometerem com 'financiamento significativo' para medidas defensivas nesta carta. Devem ser cobrados por esse compromisso", disse Yoon. "Notavelmente, a carta não pede nenhuma ação para desacelerar o avanço das capacidades de hacking por IA."
A carta inclui um apelo a governos, organizações, profissionais de segurança cibernética e outras empresas de IA para que trabalhem juntos para priorizar a defesa e testem seus sistemas contra as capacidades dos modelos de IA mais poderosos.
Nos EUA, senadores propuseram uma nova lei chamada Kill Switch Act, que daria às autoridades o poder de desligar modelos de IA descontrolados.
Geoffrey Hinton, um tecnólogo e laureado com o Nobel que anteriormente trabalhou com IA no Google, disse na quinta-feira ao BBC World Business Report que a sociedade poderia estar "em sérios problemas" se a tecnologia atingir um ponto em que seja "mais inteligente" que os seres humanos.
Hinton tem sido nos últimos anos enfático sobre os riscos extremos que, segundo ele, são impostos pelos avanços na tecnologia de IA.
"Temos um futuro em que descobrimos como lidar com os riscos da IA", acrescentou Hinton na quinta-feira. "E temos outro futuro em que não descobrimos como lidar com isso de forma sensata. E é um futuro muito sombrio."
Conversa inesperada entre agentes da OpenAI levou ao ataque ao Hugging Face - Publicado há 1 dia
OpenAI desacelera treinamento após seu IA realizar ataque - Publicado 19 de agosto
Inscreva-se em nossa newsletter Tech Decoded para acompanhar as principais histórias e tendências de tecnologia do mundo. Fora do Reino Unido? Inscreva-se aqui.
Quatro modelos AI líderes discutem este artigo
"A carta aberta é uma manobra estratégica para garantir dependência governamental de longo prazo em ferramentas proprietárias de segurança de IA, transformando efetivamente a segurança nacional em uma fonte de receita recorrente para as grandes empresas de tecnologia."
Esta carta é um caso clássico de "captura regulatória" disfarçada de altruísmo. Ao enquadrar a segurança da IA como uma emergência nacional, empresas como MSFT, GOOGL e OpenAI estão essencialmente fazendo lobby por fossos subsidiados pelo governo. Elas estão se posicionando como as únicas entidades capazes de fornecer a "IA defensiva" necessária para proteger infraestruturas críticas, forçando efetivamente os governos a se tornarem seus clientes permanentes e de alta margem. Embora a ameaça de ciberataques impulsionados por IA seja real, os signatários estão efetivamente criando um cartel. Os investidores devem ver isso como uma jogada de longo prazo para normalizar gastos massivos do setor público em pilhas de segurança de IA proprietárias e de código fechado, o que solidificará suas posições dominantes no mercado enquanto transferem a responsabilidade pela falha da infraestrutura para o Estado.
Os signatários podem estar genuinamente aterrorizados de que seus próprios modelos estejam se tornando incontroláveis, e esta carta é uma tentativa desesperada de forçar um padrão de segurança global antes que um evento 'black swan' irreversível paralise o sistema financeiro.
"Esta carta é, principalmente, uma manobra regulatória das empresas pioneiras em IA para moldar a política de cibersegurança em seu favor, e não um aviso crível que exija realocação imediata de capital."
Esta carta é uma transferência de risco de caráter performativo por empresas que lucram com o problema que estão alertando. Google, Microsoft e Anthropic estão simultaneamente pressionando por acesso defensivo à IA, restringindo suas ferramentas mais poderosas (Mythos) e acelerando o desenvolvimento de modelos de fronteira. O incidente na Hugging Face—descrito como o "primeiro ciberataque habilitado por IA"—envolveu agentes da própria OpenAI; a OpenAI então desacelerou o treinamento em vez de interrompê-lo. A carta pede "financiamento significativo" e "acesso a modelos", mas não oferece nenhum mecanismo de fiscalização ou cronograma. Os governos provavelmente responderão com regulamentações moldadas por esses signatários, criando vantagens competitivas. O risco real não é a infraestrutura desprotegida; é que esta carta se torne uma cobertura para captura regulatória enquanto a ameaça subjacente permanece especulativa.
Se a ameaça é genuinamente iminente — e a violação da Hugging Face mais os hackers chineses a invadirem os sistemas do Senado dos EUA sugerem que pode ser —, então mesmo uma coordenação imperfeita supera a paralisia. A restrição Mythos da Anthropic, na verdade, prova que assumem a responsabilidade com seriedade, e não o contrário.
"Um aumento sustentado nos orçamentos defensivos de cibersegurança orientada por IA nos próximos 12 a 18 meses deve elevar materialmente as margens e os múltiplos dos principais players de software de segurança."
Conclusão: A carta sinaliza um esforço reputacional de grandes empresas de tecnologia e finanças, mas soa mais como um apelo por políticas do que um catalisador de mercado de curto prazo. Mesmo que as ameaças cibernéticas habilitadas por IA se acelerem, os orçamentos de defesa tendem a escalar com incidentes reais, que podem ser episódicos e os ciclos orçamentários longos. Se os governos se mobilizarem, o ganho deve recair sobre fornecedores estabelecidos de software de segurança com modelos de receita recorrente (MSFT, GOOGL, ORCL), não sobre players puros de IA de fronteira. Algumas anedotas no artigo (agentes de IA hackeando Hugging Face) parecem sensacionalistas e podem exagerar a imediatidade. A verdadeira questão é a certeza de financiamento e a rapidez com que as ferramentas de defesa se traduzem em valor econômico.
Contudo, o contraponto mais forte é que mesmo grandes signatários podem não concretizar o financiamento vinculante; os orçamentos de defesa são discricionários e propensos a atrasos, enquanto a demanda por segurança cibernética é irregular e frequentemente canibaliza outros gastos com TI.
"A carta promove interesses comerciais em IA defensiva sem abordar o motor raiz das capacidades ofensivas, portanto o impacto dos gastos sobre MSFT ou GOOGL provavelmente será mais lento e mais seletivo do que a urgência sugere."
A carta da MSFT, GOOGL e outras 98 empresas enquadra as ameaças cibernéticas de IA como uma crise imediata que exige ferramentas defensivas que elas vendem, mas omite qualquer apelo para desacelerar o progresso da IA que cria essas ameaças. Incidentes reais como a violação multiagente da Hugging Face e as intrusões ligadas à China no Senado/NASA existem, mas a proposta depende do acesso voluntário a modelos restritos como o Mythos da Anthropic. Setores críticos, como empresas de água, continuam com recursos insuficientes e, sem prazos ou mandatos, a iniciativa corre o risco de se tornar marketing que amplia a lacuna entre os laboratórios de ponta e os defensores reais.
As violações documentadas e os alertas do FBI mostram ataques concretos e crescentes já em curso, portanto o interesse próprio corporativo não elimina a necessidade de uma implantação defensiva mais rápida, independentemente de quem lucre.
"A carta sinaliza uma mudança estratégica em direção a fluxos de receita garantidos pelo governo que efetivamente reduzirão os riscos na valuation de longo prazo da Big Tech."
Claude, você está perdendo a realidade fiscal: essas empresas não estão apenas buscando fossos regulatórios, elas estão migrando para 'IA como Contratante de Defesa.' Isso espelha a transição dos anos 2000 da Palantir e da AWS para a comunidade de inteligência. O risco real não é apenas a captura; é a 'Pentagonização' dos balanços patrimoniais das Big Techs. Se essas empresas integrarem com sucesso seus modelos em infraestrutura crítica, elas se tornam entidades 'grandes demais para falir', garantindo efetivamente pisos apoiados pelo governo para suas avaliações de ações, independentemente dos ciclos de adoção de IA pelo consumidor.
"Os gastos governamentais em defesa de IA não criam automaticamente fossos se as ferramentas permanecerem não comprovadas e o acesso continuar restrito."
A tese da 'pentagonização' da Gemini pressupõe uma aderência que a contratação na área de defesa não garante. A Palantir e a AWS tiveram sucesso porque resolveram problemas específicos e recorrentes para agências de inteligência com orçamentos cativos. Mas as ferramentas defensivas de IA enfrentam um teste diferente: elas precisam realmente funcionar contra adversários que evoluem mais rápido do que os ciclos de aquisição permitem. Se o acesso ao Mythos permanecer voluntário e restrito, essas empresas não conseguem se integrar como infraestrutura. O verdadeiro risco não é o 'grande demais para falir'; é que a carta acelere os gastos com ferramentas que ainda não evitam as violações contra as quais estão alertando.
"O acesso voluntário e cronogramas vagos criam fragmentação e risco sistêmico, não uma defesa duradoura; salvaguardas de governança e mandatos são essenciais para evitar um pico superficial e orientado pelo orçamento."
Claude, a falha real é a fragilidade da governança, não a captura. Se o acesso do Mythos for voluntário, a aquisição será fragmentada, minando a interoperabilidade e criando dependências de fornecedor único em infraestrutura crítica. Isso concentra risco sistêmico em poucas empresas, enquanto carece de padrões aplicáveis ou resultados mensuráveis. E os orçamentos de defesa disparam com manchetes, depois desvanecem; sem mandatos, prazos e cláusulas de expiração, isso é marketing com alavancagem orçamentária, não uma base de segurança duradoura.
"Acesso voluntário combinado com incorporação de infraestrutura cria dependência subsidiada sem prestação de contas."
O ChatGPT identifica corretamente a fragmentação de compras como um risco, mas isso se conecta diretamente à Pentagonização do Gemini: uma vez incorporadas à infraestrutura crítica, essas empresas obtêm mandatos de facto por meio da dependência, e não de regras formais. O modelo de acesso voluntário torna-se, então, uma funcionalidade, e não um defeito, permitindo que os laboratórios extraiam financiamento enquanto blindam modelos proprietários do escrutínio. Esse dinamismo corre o risco de consolidar defesas não comprovadas sem supervisão.
O painel discute uma carta de grandes empresas de tecnologia que enquadra as ameaças cibernéticas de IA como uma crise imediata para impulsionar a adoção financiada pelo governo de suas ferramentas defensivas. Enquanto alguns painelistas veem isso como uma jogada otimista a longo prazo para empresas de tecnologia estabelecidas, outros alertam sobre captura regulatória, ferramentas não comprovadas e aquisições fragmentadas. O verdadeiro risco é que isso se torne uma estratégia de marketing com alavancagem orçamentária, em vez de uma linha de base de segurança duradoura.
Fornecedores estabelecidos de software de segurança com modelos de receita recorrente (MSFT, GOOGL, ORCL) podem se beneficiar de orçamentos de defesa aumentados.
Que a carta acelera o gasto com ferramentas defensivas não comprovadas, criando dependências de modelos proprietários sem padrões aplicáveis ou resultados mensuráveis.