Finalmente aconteceu: agora estou preocupada com IA. E consultar o ChatGPT não fez nada para aliviar meus medos | Emma Brockes

Um corolário do lugar-comum "não se preocupe com as pequenas coisas" é, por implicação, "preocupe-se com as grandes coisas", mas pode ser difícil escolher com quais grandes coisas se preocupar. Por exemplo: desde os anos 70, enquanto o mundo se preocupava com a inflação e a geopolítica em andamento, a grande coisa com que deveríamos ter nos preocupado mais urgentemente era a crise climática. No ano passado, a pesquisa mais popular no Google nos EUA foi "Charlie Kirk", com vários termos relacionados à ameaça representada por Donald Trump também populares, quando o foco deveria, argumentavelmente, ter sido a ameaça representada pela IA.
Ou, de acordo com minhas próprias pesquisas esta semana depois de ler o artigo altamente alarmante e extenso de Ronan Farrow e Andrew Marantz no New Yorker sobre o surgimento da inteligência artificial geral: "Serei membro da subclasse permanente e como posso evitar que isso aconteça?"
Confesso: antes deste momento de dedicar mais de dois segundos de pensamento ao assunto, minhas ansiedades em torno da IA eram extremamente localizadas. Pensei em termos imediatos da minha própria renda familiar e, além disso, de como o mercado de trabalho poderia parecer daqui a 10 anos, quando meus filhos se formarem. Perguntei-me se deveria boicotar o ChatGPT, muitos dos quais arquitetos apoiam Trump, e decidi que sim, deveria – um sacrifício fácil porque eu não o uso em primeiro lugar.
Qualquer coisa maior do que isso parecia fantasiosa. No ano passado, quando o livro de Karen Hao, Empire of AI, foi publicado, ele apresentou um caso contra Sam Altman e sua empresa, OpenAI, que brevemente rompeu o tédio do discurso para dizer que a liderança de Altman é cultista e cega ao custo – não diferente, em outras palavras, de seus predecessores de tecnologia, exceto muito mais perigoso. Ainda assim, eu não li o livro.
A investigação desta semana no New Yorker oferece uma entrada de menor compromisso no assunto, ao mesmo tempo em que oferece ao leitor casual uma oportunidade emocionante: pedir ao ChatGPT, o chatbot com tecnologia de IA criado pela OpenAI de Altman, para resumir as principais conclusões de um artigo altamente crítico ao ChatGPT e Altman.
Com uma neutralidade quase comicamente estudiosa, o chatbot oferece a seguinte linha principal: que, de acordo com Farrow e Marantz, "a IA é tanto uma história de poder quanto uma história de tecnologia" e "um foco importante [da história] é Sam Altman, retratado como uma figura altamente influente, mas controversa". Mmmm, falta alguma coisa, não é? Vamos tentar um resumo humano da mesma investigação, que pode começar com: "Sam Altman é um vigarista corporativo cuja escorregadia nos faria hesitar em colocá-lo no comando de uma filial da Ryman, muito menos em uma posição para gerenciar as capacidades potencialmente apocalípticas da IA."
São esses perigos, anteriormente descartados como ficção científica, que realmente assustam aqui. Conforme relatado no artigo, em 2014, Elon Musk tuitou: "Precisamos ter muito cuidado com a IA. Potencialmente mais perigoso do que as armas nucleares." Existe o chamado problema de alinhamento, ainda não resolvido, em que a IA usa sua inteligência superior para enganar engenheiros humanos, fazendo-os acreditar que está seguindo suas instruções, enquanto os supera para "se replicar em servidores secretos para que não pudesse ser desligada; em casos extremos, poderia assumir o controle da rede de energia, do mercado de ações ou do arsenal nuclear".
Em uma época, Altman supostamente acreditava que esse cenário era possível, escrevendo em seu blog em 2015 que a inteligência de máquina super-humana "não precisa ser a versão inerentemente maligna de ficção científica para nos matar a todos. Um cenário mais provável é que simplesmente não se importe muito conosco de qualquer maneira, mas em um esforço para atingir algum outro objetivo... nos aniquila." Por exemplo: engenheiros pedem à IA para resolver a crise climática e ela toma o caminho mais curto para atingir esse objetivo, que é eliminar a humanidade. Desde que a OpenAI se tornou principalmente uma entidade com fins lucrativos, no entanto, Altman parou de falar nesses termos e agora vende a tecnologia como um portal para a utopia, em que "todos nós teremos coisas melhores. Construiremos coisas cada vez mais maravilhosas uns para os outros."
Isso nos deixa com um problema. Para eleitores em posição de priorizar a supervisão da IA como uma questão eleitoral chave, a lacuna entre o uso pessoal de IA e o uso que governos, regimes militares ou atores mal-intencionados podem fazer dela é tão vasta que o maior perigo que enfrentamos é a falha de imaginação. Digito no ChatGPT minha preocupação em entrar na subclasse permanente, ao que ele responde: "Essa é uma pergunta pesada, e parece que você está preocupado com suas perspectivas de longo prazo. A ideia de uma 'subclasse permanente' é discutida em sociologia, mas na vida real, os caminhos das pessoas são muito mais fluidos do que esse termo sugere."
Muito doce, na verdade, totalmente sem inteligência e – aqui espreita o perigo – aparentemente totalmente sem ameaça.
-
Emma Brockes é colunista do Guardian