Famílias processam OpenAI por falha em relatar comportamento de atirador em massa do Canadá no ChatGPT

Famílias de sete vítimas de um tiroteio em massa em uma escola secundária na Colúmbia Britânica estão processando a OpenAI e o CEO da empresa por negligência, após a falha em alertar as autoridades sobre as conversas perturbadoras do atirador com o ChatGPT.

Os processos, apresentados na quarta-feira em um tribunal federal em São Francisco, alegam que as intenções violentas do atirador, identificado como Jesse Van Rootselaar, de 18 anos, eram bem conhecidas pela OpenAI. Funcionários da empresa sinalizaram a conta do atirador oito meses antes do ataque e determinaram que ela representava "uma ameaça crível e específica de violência armada contra pessoas reais", de acordo com o processo.

As famílias alegam que os funcionários instaram Sam Altman, CEO da OpenAI, e outros líderes seniores a notificar a polícia canadense oito meses antes do ataque, mas a empresa decidiu não alertar as autoridades e desativou a conta do atirador em vez disso. Grande parte disso é baseada em relatos que funcionários da empresa contaram ao Wall Street Journal.

A decisão de não alertar a polícia levou à devastação da comunidade rural de Tumbler Ridge, alega o processo, onde em 10 de fevereiro o atirador invadiu a escola secundária com um rifle modificado e abriu fogo. Eles atiraram na primeira pessoa que encontraram em uma escada e seguiram para a biblioteca, onde mataram outras cinco pessoas e feriram mais 27. O atirador então se matou.

Antes de ir para a escola, o atirador matou sua mãe e seu irmão de 11 anos em sua casa.

As vítimas da escola variam em idade de 12 a 13 anos e incluem um assistente de ensino de 39 anos. Uma das sobreviventes, Maya Gebala, de 12 anos, foi baleada na cabeça, pescoço e bochecha. Ela está em terapia intensiva no hospital infantil de Vancouver desde o tiroteio e recebeu quatro cirurgias cerebrais. Se ela sobreviver, provavelmente terá deficiências permanentes, disseram seus advogados.

As famílias que entraram com os sete processos acusam a OpenAI e Altman de negligência, cumplicidade em tiroteio em massa, morte injusta e responsabilidade pelo produto. Seus advogados dizem que esta é a primeira onda de processos contra a empresa de IA pelo tiroteio, e cerca de duas dúzias de outros casos estão por vir.

Em um comunicado ao Guardian, a OpenAI disse: "Os eventos em Tumbler Ridge são uma tragédia. Temos uma política de tolerância zero para o uso de nossas ferramentas para auxiliar na prática de violência. Como compartilhamos com as autoridades canadenses, já fortalecemos nossas salvaguardas, incluindo a melhoria de como o ChatGPT responde a sinais de angústia, conectando pessoas com apoio local e recursos de saúde mental, fortalecendo como avaliamos e escalamos ameaças potenciais de violência, e melhorando a detecção de violadores recorrentes de políticas."

Após o Guardian entrar em contato para comentar, a OpenAI publicou um novo post no blog sobre seu "compromisso com a segurança" e como ela "protege a segurança da comunidade".

O ataque foi um dos tiroteios em massa mais mortais na história do Canadá. Após o ocorrido, surgiram perguntas na pequena comunidade sobre como isso poderia ter acontecido.

A conta do ChatGPT de Van Rootselaar foi banida oito meses antes do tiroteio, após a equipe de segurança da OpenAI sinalizá-la por conversas violentas, de acordo com o processo. No entanto, o atirador conseguiu criar uma nova rapidamente, alega o processo.

Embora a OpenAI diga que o atirador criou uma segunda conta da qual a empresa não estava ciente até depois do tiroteio, os processos dizem que a empresa fornece aos usuários instruções sobre como retornar ao ChatGPT se forem desativados, o que o atirador seguiu.

"O fato de Sam e a liderança terem revertido a decisão da equipe de segurança, e então crianças morreram, adultos morreram, a cidade inteira foi arruinada, está bem perto da definição de mal para mim", disse Jay Edelson, o advogado principal que representa os autores do processo de Tumbler Ridge.

O processo alega que a escolha de ocultar as interações do atirador com o ChatGPT das autoridades canadenses, e depois dizer ao público que o atirador voltou furtivamente para a plataforma, foi feita no interesse da "sobrevivência corporativa" e para proteger o IPO da empresa, que tem uma avaliação esperada de US$ 1 trilhão e poderia tornar Altman uma das pessoas mais ricas do mundo.

A OpenAI se recusou a compartilhar os logs entre seu chatbot e o atirador de Tumbler Ridge, disse Edelson.

No final da semana passada, Altman enviou uma carta à comunidade de Tumbler Ridge pedindo desculpas por não notificar a polícia canadense sobre o que a OpenAI sabia a respeito da ameaça potencial do atirador.

"Embora eu saiba que palavras nunca serão suficientes, acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu", escreveu Altman. "Reafirmo o compromisso que fiz com o prefeito e o primeiro-ministro de encontrar maneiras de prevenir tragédias como esta no futuro."

David Eby, o primeiro-ministro da Colúmbia Britânica, postou a carta nas redes sociais com o comentário: "O pedido de desculpas é necessário, e ainda assim grosseiramente insuficiente para a devastação causada às famílias de Tumbler Ridge."

Em 26 de fevereiro, pouco mais de duas semanas após o tiroteio, a vice-presidente de políticas globais da OpenAI, Ann O’Leary, enviou uma carta a Evan Solomon, ministro canadense de inteligência artificial e inovação digital. O’Leary escreveu que, com base no que a empresa viu quando a conta do atirador foi desativada, ela não "identificou um planejamento crível e iminente que atingisse nosso limite para encaminhar o assunto às autoridades". Essa decisão veio apesar dos avisos da equipe de segurança da OpenAI de que a conta deveria ter sido relatada.

O’Leary também detalhou as ações que a empresa planejava tomar, como fortalecer seu relacionamento com as autoridades canadenses e reforçar seu sistema para detectar usuários que são repetidamente banidos do ChatGPT, mas que subsequentemente criam novas contas.

Os processos fazem parte de uma onda de casos contra empresas de IA por alegações de que seus chatbots estão exacerbando crises de saúde mental e provocando atos violentos. Em novembro, sete reclamações foram apresentadas contra a OpenAI, culpando o ChatGPT por agir como um "coach de suicídio". O Google foi processado no mês passado depois que seu chatbot Gemini supostamente encorajou um homem de 36 anos a encenar um "acidente catastrófico" e depois se matar. O Google disse que está trabalhando para melhorar suas salvaguardas e a OpenAI disse que está revisando os documentos do processo.

Na Flórida, o procurador-geral abriu recentemente uma investigação criminal contra a OpenAI após revisar mensagens entre o ChatGPT e um atirador acusado de cometer um tiroteio em massa no campus da Universidade Estadual da Flórida – a primeira investigação criminal desse tipo contra uma empresa de tecnologia. Advogados das famílias de Tumbler Ridge dizem acreditar que seus casos podem apoiar responsabilidade criminal semelhante contra a empresa. A empresa disse à NBC News que não era responsável pelo tiroteio e respondeu às perguntas do estado.

É mais um exemplo da abordagem agora comum de usar processos para responsabilizar entidades como fabricantes e revendedores de armas e o governo federal dos EUA por suposta inação que levou a mortes e ferimentos por tiroteio.

Os sete processos de Tumbler Ridge são movidos em nome de Gebala, da família da assistente de ensino, Shannda Aviugana-Durand, e das famílias de cinco das crianças que morreram no tiroteio na escola. Essas vítimas incluem Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield e Abel Mwansa Jr. As famílias dizem que a perda é insuportável.

Os pais de Mwansa, que imigraram para o Canadá da Zâmbia há três anos, dizem que seu filho de 12 anos era um bom ouvinte que preparava o café da manhã para a irmã todas as manhãs. Um de seus amigos que sobreviveu ao tiroteio disse que as últimas palavras de Mwansa foram: "Digam aos meus pais que eu os amo muito."