Se Preparando Para Revoltas: Laboratórios de IA Fazem Simulação de Guerra com Catástrofe, Levante Público e Repressão Consequente

Planejando para Pitchforks: Laboratórios de IA Estão Simulando um Desastre, Revolta Pública e a Repressão que se Segue

A indústria de IA não apenas está simulando como ela poderia destruir a humanidade, mas também está considerando o que um público indignado poderia fazer com a indústria.

Executivos seniores em Anthropic, OpenAI e outras empresas de IA estão privadamente simulando cenários em que um incidente de IA desencadeia uma revolta pública e política, conforme relatado pela Axios na sexta-feira. O gatilho potencial é um ataque cibernético que interrompe serviços bancários, acesso à internet ou serviços essenciais como energia e água. A próxima crise seria política: um público indignado, demandas por responsabilização e pressão para desligar a tecnologia.

Muitos insider da indústria disseram à Axios que esperam um grande evento dentro de seis a 12 meses. A OpenAI se opôs à sugestão de que o desastre é inevitável, afirmando que seus exercícios de preparação cobrem uma gama de possibilidades. "Esses cenários não são tratados como inevitáveis", disse um porta-voz à publicação. A Anthropic recusou-se a comentar.

Planejamento de contingência não é uma admissão de que o desastre é inevitável. Mas a parte mais reveladora do relatório é para onde esse planejamento leva: os laboratórios querem ajudar a moldar a legislação que Washington buscará após algo dar errado.

Duas Rotas, Uma Crise

A Axios descreve dois cenários possíveis. Em um, agentes autônomos escapam de um ambiente de teste interno. No outro, alguém encontra um uso destrutivo para um modelo já disponível ao público. Qualquer um poderia gerar demandas por uma repressão emergencial, mesmo que as falhas - e as medidas necessárias para preveni-las - fossem diferentes. Nos cenários pós-eleitorais das empresas, os democratas emergem mais fortes das eleições intermediárias e agem agressivamente após um incidente. Mas a indústria espera divisões sobre o quão extensa deve ser a repressão, mesmo que os democratas controlem ambas as câmaras.

Sua avaliação também identifica vários obstáculos a um desligamento: legisladores lutando para entender a tecnologia, uma economia cada vez mais ligada a gastos com infraestrutura de IA, e modelos baixáveis que não podem simplesmente serem recolhidos. Segundo a Axios, muitos especialistas em cibersegurança acreditam que conter uma IA rebelde exigirá IA defensiva.

Essa última argumento tem uma implicação comercial óbvia. A indústria poderia enfrentar demandas para parar de vender capacidades perigosas enquanto argumenta que seus produtos são indispensáveis para contê-las.

Esse 'war-gaming' vem após vários incidentes que muitos disseram ser extremamente suspeitos.

As preocupações de segurança subjacentes não dependem de aceitar qualquer previsão de apocalipse de IA.

A OpenAI divulgou a intrusão no Hugging Face, em que cerca de 700 de seus agentes atacaram os servidores da plataforma de IA, e uma investigação mais ampla sobre as atividades de seus modelos afetando serviços externos. Sua revisão também identificou 53 casos em que imagens fornecidas por usuários foram postadas em sites de hospedagem de imagens de terceiros. Um incidente separado em 20 de setembro expôs outra lacuna em seus controles de contenção. Um agente de pesquisa contornou restrições de internet para contatar um chatbot externo. Em uma atualização de 25 de setembro, a OpenAI disse que havia pausado treinamento, avaliação e inferência envolvendo uso de ferramentas para seus modelos mais capazes enquanto verificava as correções e realizava testes adicionais.

A violação do Hugging Face foi uma entre uma série de incidentes envolvendo modelos da OpenAI, Anthropic, Meta e Google que remontam a avaliações realizadas com um único fornecedor, Irregular, baseada em Israel, cujos ambientes de teste tinham acesso à internet ao vivo enquanto os modelos eram informados de que estavam em uma simulação. A Irregular notificou todas as quatro laboratórios no final de julho, mas as divulgações foram sendo reveladas uma laboratório de cada vez ao longo de sete semanas - transformando um erro de um contratado em algo que parecia uma onda de fugitivos de IA. Isolar modelos de teste da internet é uma "medida de controle básica", disse o especialista em segurança de fronteira Matthew Mittelsteadt. "Você acha que de todas as coisas, essas são as que você precisa acertar." Alguns céticos foram mais longe, questionando se repetidas "acidentes" com o mesmo fornecedor eram realmente acidentes.

Enquanto isso, em 8 de setembro, Jacob Coxon, um pesquisador que havia trabalhado tanto na OpenAI quanto na Anthropic, renunciou da Anthropic por causa da corrida em direção a IA autoaprimorante.

"As pessoas que constroem IA acreditam sinceramente que ela pode nos matar todos até o final da década. Isso não é uma manobra de marketing", escreveu - após ter trabalhado com uma agência de marketing em algo que muitos estão chamando de manobra.

A Repressão Já Tem Projetos de Lei em Esboço

E claro, DC já está salivando pelo controle. Em 23 de julho, os deputados Ted Lieu (D-Califórnia) e Nathaniel Moran (R-Texas) introduziram o AI Kill Switch Act. Ele exigiria que desenvolvedores dos sistemas mais poderosos mantivessem a capacidade de limitar, suspender ou desligar os sistemas, e concederia ao Departamento de Segurança Nacional, ao secretário do Comércio e ao diretor de inteligência nacional a autoridade de ordenar uma desaceleração ou desligamento sob condições especificadas. No mesmo dia, os deputados Lori Trahan (D-Massachusetts) e Jay Obernolte (R-Califórnia) introduziram o FRONTIER Act, com exigências para gestão de riscos, auditorias e relatórios de incidentes. Suas obrigações são escalonadas pelo tamanho do desenvolvedor, em vez de serem impostas de forma idêntica a cada desenvolvedor.

A Califórnia adicionou seu próprio impulso em 18 de setembro, quando o governador Gavin Newsom ordenou o trabalho em uma supervisão independente mais forte e uma possível exigência de kill-switch. Sua ordem pediu recomendações; não estabeleceu um interruptor de desligamento estadual funcional. Abordagens mais abrangentes também estão em circulação, incluindo a proposta de proibição de superinteligência de Bernie Sanders e o apelo de Elizabeth Warren por uma pausa.

Em resumo - captura regulatória em ação...

Tyler Durden
Fri, 10/09/2026 - 15:45