Como a IA realmente 'mataria todos os humanos'? Eis os cinco cenários mais prováveis | Toby Walsh

No início deste mês, o pesquisador de inteligência artificial Jacob Coxon demitiu-se da Anthropic após apenas quatro meses. Em um anúncio no X, ele declarou: “As pessoas que constroem IA acreditam sinceramente que ela poderia nos matar a todos até o final da década.”

Um membro sênior da equipe da Anthropic, Evan Hubinger, de fato concordou com Coxon, acrescentando que ele pessoalmente acha que a chance disso acontecer na próxima década é superior a 10%.

Compreensivelmente, essas declarações causaram repercussão. Há agora muita conversa sobre desacelerar a pesquisa de IA e aumentar o “controle humano” sobre a tecnologia.

Mas como, exatamente, a IA poderia nos matar a todos? Não faltam cenários fantásticos, e a maioria deles envolve o conceito de IA “superinteligente” – ou seja, IA que é mais capaz do que os humanos.

Eu destilei esses cenários nos cinco principais, ordenando-os aproximadamente do mais vago ao mais preciso. E eu argumentaria que a lista também está ordenada do menos ao mais provável.

1. Nunca saberemos

Os "doomsters" da IA frequentemente justificam suas preocupações por meio de um paradoxo irritante do tipo "catch-22": como podemos imaginar o que uma superinteligência poderia fazer para eliminar seres menos inteligentes como nós?

Teríamos que ser superinteligentes para prever o que uma superinteligência seria capaz de fazer. É como pedir ao seu cachorro de estimação para imaginar uma guerra termonuclear.

A boa notícia aqui é que a superinteligência ainda está, talvez, um pouco distante. Os modelos atuais de IA são muito bons em resolver problemas específicos, mas isso não é o mesmo que ser mais inteligente do que um humano em todos os domínios.

No entanto, a IA recentemente resolveu um dos sete problemas matemáticos mais desafiadores conhecidos. Aparentemente, está se aproximando de outros, o que pode deixá-lo menos otimista aqui.

2. Clipes de papel

Uma IA superinteligente seria provavelmente extraordinariamente competente em atingir seus objetivos. Mas ela poderia ser indiferente à sobrevivência humana.

Um exemplo clássico de tal indiferença vem da IA superinteligente imaginada pelo filósofo de Oxford Nick Bostrom, que foi projetada para otimizar a produção de clipes de papel. Para produzir sua forma preferida de material de escritório, ela rapidamente converte toda a matéria disponível – incluindo humanos, planetas e estrelas – em clipes de papel.

O que temos aqui é a execução perfeita de objetivos mal especificados. A IA não odeia a humanidade; ela simplesmente reconhece que somos compostos de átomos que poderiam ser melhor utilizados para clipes de papel. Não é pessoal.

A boa notícia aqui é que esse cenário confunde inteligência com poder. Uma IA superinteligente não tem necessariamente o poder de atingir seus objetivos. Transformar o planeta em fábricas de clipes de papel exigiria licenças de planejamento.

Mesmo que obtivesse as licenças, construir muitas fábricas de clipes de papel levaria a um clamor público inevitável. Grupos de interesse bloqueariam os procedimentos nos tribunais. Ativistas ambientais bloqueariam as escavadeiras.

Há muito atrito no mundo que impede até mesmo os muito inteligentes de impor sua vontade ao resto de nós. De fato, você poderia pensar nos datacenters como uma encarnação atual do cenário teórico do clipe de papel. E os humanos estão cada vez mais resistindo à entrega do planeta aos datacenters.

3. Armas biológicas

A humanidade poderia ser morta por uma IA superinteligente que criasse e liberasse uma nova e perigosa arma biológica na atmosfera. Este é, de fato, um resultado do cenário AI 2027 do AI Futures Project, uma organização sem fins lucrativos dedicada a prever os impactos da IA avançada.

Esse risco se tornou mais concreto no mês passado, quando pesquisadores da Universidade de Stanford anunciaram que usaram um modelo de linguagem genética de IA para sintetizar 16 novos vírus.

Preocupantemente, eles apenas enviaram as sequências genéticas para um laboratório de venda por correspondência e ele enviou os vírus de volta em tubos de ensaio. Todo o experimento custou no máximo algumas centenas de milhares de dólares.

A boa notícia aqui é que é notavelmente difícil matar todos com um novo vírus. Para fazer isso, você precisa de um vírus que seja muito transmissível, para que se espalhe amplamente. Mas é uma regra da biologia – vírus que se espalham facilmente são tipicamente menos fatais. Por outro lado, se um vírus é muito fatal, a transmissibilidade tende a diminuir, pois a maioria das pessoas infectadas morre antes que haja tempo de espalhar a infecção.

A Covid matou menos de 1% da humanidade. A pandemia mais mortal da história registrada foi a Peste Negra, quando a praga matou mais de um terço da população da Europa no século XIV. No entanto, mesmo a praga seria muito menos mortal hoje devido ao nosso conhecimento médico aprimorado e melhor saneamento.

4. Guerra nuclear

E se a IA entrasse na cadeia de comando e controle nuclear e iniciasse uma guerra nuclear? Chegamos perto da guerra nuclear por engano várias vezes nos últimos 50 anos.

Dizem-nos que o comando e controle nuclear está completamente desconectado da internet. Mas, como vimos em 2010, as centrífugas nucleares do Irã foram destruídas por um worm de computador chamado Stuxnet, que se acredita ter sido introduzido por um pendrive. A IA também pode fornecer inteligência falsa aos militares, o que poderia levar a ações irreparáveis.

A boa notícia aqui é que os estoques nucleares diminuíram. Mas eles ainda são suficientes, talvez, para eliminar metade de nós. E não seria pela própria explosão nuclear, mas pela fome no inverno nuclear que se seguiria.

5. Outros humanos

Talvez o risco mais provável seja que nos eliminemos. E a IA pode precipitar isso.

Imagine – e não requer muita imaginação – que a IA cause perdas massivas de empregos, polua o espaço da informação com desinformação, fracture nossa política e destrua relacionamentos humanos com companheirismo sintético falso.

A sociedade poderia facilmente se desintegrar. Lenta mas seguramente, deixaríamos de ser capazes de sustentar a vida humana em qualquer escala.

O que então tirar de todos esses cenários? Há algumas coisas com que se preocupar, com certeza. Mas não para se preocupar demais, espero.

Toby Walsh é professor de IA, líder de grupo de pesquisa na University of New South Wales. Ele é o autor de God AI: Boom or Doom? What to Expect When Machines Outsmart Us. Este artigo apareceu originalmente na Conversation