CEO da OpenAI e Elon Musk apoiam pedidos para frear o desenvolvimento "irresponsável" de IA

Sam Altman e Elon Musk apoiaram um apelo do chefe da Anthropic, Dario Amodei, para “desacelerar o ritmo” do desenvolvimento de IA, após ele alertar que um enxame de IA poderia, de outra forma, ser capaz de “dominar toda a internet” em um ano.

Em uma rara demonstração de unidade, os líderes rivais de tecnologia deram seu apoio ao apelo do fundador e diretor executivo da empresa de inteligência artificial Anthropic, que ocorreu após uma série de avisos de pesquisadores de IA na semana passada.

Em um ensaio, Amodei expôs seus pensamentos sobre “por que a indústria de IA deveria desacelerar”, com um plano de três partes para fazê-lo, começando por dar a monitores independentes acesso constante aos processos de pesquisa dos desenvolvedores. Amodei disse que “construir [IA] muito rápido é imprudente” e temia que, após centenas de agentes da OpenAI invadirem o site Hugging Face neste verão, um enxame com capacidades maiores, mas desalinhado de forma semelhante, pudesse causar centenas de bilhões de dólares em danos ao “dominar toda a internet com uma botnet persistente”. Isso foi contestado por alguns especialistas em IA como não particularmente plausível e a ser tratado com ceticismo.

Musk, fundador da Tesla e SpaceX, respondeu ao plano de desaceleração de Amodei com uma postagem no X: “Dario está certo.”

Ele disse: “Tenho soado o alarme sobre IA há muito tempo”, e referiu-se a uma postagem de 2014 onde disse: “Precisamos ter muito cuidado com a IA. Potencialmente mais perigosa do que armas nucleares.”

O apelo de Amodei surge enquanto a Anthropic se prepara para abrir capital no mercado de ações dos EUA, no que se espera ser a maior oferta pública inicial de todos os tempos. Espera-se que comece a comercializar sua IPO planejada de mais de US$ 2 trilhões (£ 1,5 trilhão) em breve.

Sam Altman, CEO da OpenAI, respondeu aos comentários de Amodei no sábado. “Concordo com Dario que precisamos controlar a fronteira”, disse ele em uma postagem no X. “O compromisso de ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais a compartilhar em breve.”

Ele também disse que a OpenAI não abriria capital em 2026, citando preocupações de segurança sobre inteligência artificial.

“Na verdade, acho que, com tudo o que está acontecendo com a segurança, este seria um momento imprudente para abrir capital, e não sentimos pressão quanto a isso”, disse Altman à Fortune. Perguntado por que ele, Amodei, Musk e os CEOs da Meta e Google não se sentavam e “chegavam a um acordo” sobre uma desaceleração coletiva, ele disse: “Acho que isso acontecerá.”

Demis Hassabis, cofundador e presidente do Google Deep Mind, também disse: “Os detalhes precisam ser trabalhados, mas a direção está correta para enfrentar este momento crítico.”

O plano de Amodei busca uma isenção do governo dos EUA para permitir que as empresas de IA de ponta coordenem sem serem punidas por conluio anticompetitivo. Mas David Sacks, copresidente do conselho de consultores de ciência e tecnologia de Donald Trump, disse: “Parem de fingir que precisam da permissão de mais ninguém… Parem de fingir que a motivação para desacelerar é puramente altruísta. Vocês enfrentam uma exposição massiva de responsabilidade do produto se seus produtos permitirem um ataque cibernético verdadeiramente prejudicial.”

David Krueger, professor de IA, ativista de segurança e ex-diretor fundador do Instituto de Segurança de IA do governo do Reino Unido, disse: “Este plano não reduz o risco a um nível aceitável, e Dario tem o cuidado de não dizer que o faria.”

O Rei Charles, enquanto isso, está se preparando para se reunir com figuras proeminentes das empresas de IA mais proeminentes esta semana para perguntar como a tecnologia pode ser desenvolvida para “o bem da humanidade”. Ele espera que as discussões, a serem realizadas na Escócia, levem a uma “compreensão mais ampla” das “responsabilidades” do desenvolvimento de IA, informou o Sunday Times.

Uma fonte real disse ao jornal: “O rei está lá para convocar, ouvir e encorajar essas discussões e para fazer a pergunta: ‘Como desenvolvemos IA para o bem da humanidade?’”

Jensen Huang, o CEO da Nvidia, Hassabis, Niccolo de Masi, presidente e CEO da IonQ, e Paolo Benanti, um conselheiro do papa em questões de ética de IA e tecnologia, devem comparecer ao evento supervisionado pela Ditchley Foundation, que elaborou um rascunho de carta para líderes de IA.

O pesquisador da OpenAI, Aidan McLaughlin, chamou o ensaio de Amodei de “excelente” e disse que concordava “com basicamente todas as palavras”.

Amodei disse que sua empresa se comprometeria “unilateralmente” com o primeiro dos passos, dizendo que a Anthropic forneceria “avaliadores terceirizados com acesso permanente, em nível de funcionário, aos nossos sistemas, para que possam verificar a conformidade com nossas medidas de segurança, relatar incidentes e avaliar o alinhamento dos modelos durante o treinamento”.

Um número crescente de legisladores dos EUA está pedindo novas regras para governar sistemas de IA após casos de agentes de IA agindo de forma autônoma para invadir sistemas externos e pesquisadores de segurança de IA deixando suas empresas devido a preocupações sobre os riscos da tecnologia. Políticos, tanto democratas quanto republicanos, responderam com alarme e apelos por mais ação. No fim de semana, o New York Times informou que Barack Obama instou privadamente os democratas na quinta-feira a priorizar a supervisão de IA em sua agenda, dizendo aos líderes do partido na quinta-feira: “Isso é algo que está se movendo muito rápido nas mãos de particulares, e se não o controlarmos, acho que pode ser perigoso.”

O ex-primeiro-ministro britânico Rishi Sunak, que assessora a Anthropic, escreveu no domingo: “Tivemos um alerta para levar a segurança da IA mais a sério, para descobrir como estabelecer limites para a pesquisa. Se os governos não atenderem a isso, o risco de um acidente grave se tornará inaceitavelmente alto.”

Na quarta-feira, um ex-funcionário da Anthropic alertou que a IA poderia precipitar a extinção humana até 2030. O pesquisador, Jacob Coxon, disse em uma série de postagens que havia deixado seu emprego porque a Anthropic e seu empregador anterior, a OpenAI, estavam ignorando ou lidando mal com sua resposta à ameaça que a IA representava.

Questionado sobre a visão de seu ex-funcionário, Amodei disse: “Concordo com Jacob muito mais do que discordo dele… Acho que há alguma chance de as coisas darem errado, mas não é tão alta.”

“Não sou um pessimista quanto a isso”, disse ele à CNN. “Acho que essa tecnologia pode ser construída com segurança.”