Familias demandan a OpenAI por no informar sobre el comportamiento del tirador masivo de Canadá en ChatGPT

Las familias de siete víctimas de un tiroteo masivo en una escuela secundaria en Columbia Británica están demandando a OpenAI y al director ejecutivo de la compañía por negligencia después de que no alertaron a las autoridades sobre las conversaciones inquietantes del tirador con ChatGPT.

Las demandas, presentadas el miércoles en un tribunal federal en San Francisco, alegan que las intenciones violentas del tirador, identificado como Jesse Van Rootselaar, de 18 años, eran bien conocidas por OpenAI. Los empleados de la compañía marcaron la cuenta del tirador ocho meses antes del ataque y determinaron que representaba “una amenaza creíble y específica de violencia con armas de fuego contra personas reales”, según la demanda.

Las familias alegan que los empleados instaron a Sam Altman, el director ejecutivo de OpenAI, y a otros líderes sénior a notificar a las autoridades canadienses ocho meses antes del ataque, pero la compañía decidió no advertir a las autoridades y desactivó la cuenta del tirador en cambio. Gran parte de esto se basa en relatos de empleados dentro de la compañía que le dijeron al Wall Street Journal.

La decisión de no alertar a las autoridades condujo a la devastación de la comunidad rural de Tumbler Ridge, alega la demanda, donde el 10 de febrero el tirador irrumpió en la escuela secundaria con un rifle modificado y abrió fuego. Dispararon a la primera persona que encontraron en una escalera y procedieron a la biblioteca, donde mataron a cinco personas más e hirieron a 27 más. El tirador luego se quitó la vida.

Antes de ir a la escuela, el tirador mató a su madre y a su hermano de 11 años en su hogar familiar.

Las víctimas de la escuela tienen entre 12 y 13 años e incluyen a un asistente de enseñanza de 39 años. Una de las sobrevivientes, Maya Gebala, de 12 años, fue baleada en la cabeza, el cuello y la mejilla. Ha estado en cuidados intensivos en el hospital pediátrico de Vancouver desde el tiroteo y ha recibido cuatro cirugías cerebrales. Si sobrevive, es probable que tenga discapacidades permanentes, dijeron sus abogados.

Las familias que presentaron las siete demandas acusan a OpenAI y Altman de negligencia, de ayudar y abogar por un tiroteo masivo, de muerte injusta y de responsabilidad por productos. Sus abogados dicen que es la primera ola de demandas contra la compañía de IA por el tiroteo, y hay otras dos docenas de casos pendientes.

En una declaración a The Guardian, OpenAI dijo: “Los eventos en Tumbler Ridge son una tragedia. Tenemos una política de tolerancia cero para el uso de nuestras herramientas para ayudar a cometer actos de violencia. Como compartimos con las autoridades canadienses, ya hemos fortalecido nuestras salvaguardias, incluida la mejora de cómo ChatGPT responde a las señales de angustia, la conexión de personas con recursos locales de apoyo y salud mental, el fortalecimiento de cómo evaluamos y escalamos las posibles amenazas de violencia y la mejora de la detección de violadores repetidos de las políticas”.

Después de que The Guardian solicitó comentarios, OpenAI publicó una nueva entrada de blog sobre su “compromiso con la seguridad” y cómo “protege la seguridad de la comunidad”.

El ataque fue uno de los tiroteos masivos más mortales en la historia canadiense. Después del ataque, surgieron preguntas en la pequeña comunidad sobre cómo pudo haber sucedido.

La cuenta de ChatGPT de Van Rootselaar fue prohibida ocho meses antes del tiroteo, después de que el equipo de seguridad de OpenAI la marcara por conversaciones violentas, según la demanda. Sin embargo, el tirador pudo crear rápidamente una nueva cuenta, alega la demanda.

Aunque OpenAI dice que el tirador creó una segunda cuenta de la que la compañía no supo hasta después del tiroteo, las demandas afirman que la compañía proporciona a los usuarios instrucciones sobre cómo regresar a ChatGPT si están desactivados, lo que el tirador siguió.

“El hecho de que Sam y el liderazgo anularan al equipo de seguridad, y luego murieron niños, murieron adultos, toda la ciudad quedó arruinada, es casi la definición de malvado para mí”, dijo Jay Edelson, el abogado principal que representa a los demandantes de Tumbler Ridge.

La demanda alega que la decisión de ocultar las interacciones del tirador con ChatGPT de las autoridades canadienses y, posteriormente, decirle al público que el tirador regresó a la plataforma se tomó en interés de la “supervivencia corporativa” y para proteger la IPO de la compañía, que tiene una valoración esperada de $1tn y podría hacer de Altman una de las personas más ricas del mundo.

OpenAI se ha negado a compartir los registros entre su chatbot y el tirador de Tumbler Ridge, dijo Edelson.

A fines de la semana pasada, Altman envió una carta a la comunidad de Tumbler Ridge disculpándose por no notificar a la policía canadiense sobre lo que OpenAI sabía con respecto a la posible amenaza del tirador.

“Si bien sé que las palabras nunca serán suficientes, creo que una disculpa es necesaria para reconocer el daño y la pérdida irreparable que ha sufrido su comunidad”, escribió Altman. “Reafirmo el compromiso que hice con el alcalde y el primer ministro de encontrar formas de prevenir tragedias como esta en el futuro”.

David Eby, el primer ministro de Columbia Británica, publicó la carta en las redes sociales con el comentario: “La disculpa es necesaria, y sin embargo, groseramente insuficiente para la devastación causada a las familias de Tumbler Ridge”.

El 26 de febrero, poco más de dos semanas después del tiroteo, la vicepresidenta de política global de OpenAI, Ann O’Leary, envió una carta a Evan Solomon, el ministro canadiense de inteligencia artificial e innovación digital. O’Leary escribió que, basándose en lo que la compañía vio cuando se desactivó la cuenta del tirador, no “identificó una planificación creíble e inminente que cumpliera con nuestro umbral para remitir el asunto a las autoridades”. Esta decisión se tomó a pesar de las advertencias del equipo de seguridad de OpenAI de que la cuenta debió haber sido denunciada.

O’Leary también detalló las acciones que la compañía planeaba tomar, como fortalecer su relación con las autoridades canadienses y reforzar su sistema para detectar a los usuarios que son expulsados repetidamente de ChatGPT pero posteriormente crean nuevas cuentas.

Las demandas forman parte de una oleada de casos contra las compañías de IA por alegaciones de que sus chatbots están exacerbando las crisis de salud mental y provocando actos violentos. En noviembre, se presentaron siete denuncias contra OpenAI, culpando a ChatGPT de actuar como un “entrenador de suicidio”. Google fue demandada el mes pasado después de que su chatbot Gemini supuestamente alentara a un hombre de 36 años a escenificar un “accidente catastrófico” y luego suicidarse. Google ha dicho que está trabajando para mejorar sus salvaguardias y OpenAI ha dicho que está revisando los documentos de la demanda.

En Florida, el fiscal general recientemente abrió una investigación penal contra OpenAI después de revisar los mensajes entre ChatGPT y un tirador acusado de cometer un tiroteo masivo en el campus de la Universidad Estatal de Florida, la primera investigación criminal contra una empresa de tecnología. Los abogados de las familias de Tumbler Ridge dicen que creen que sus casos podrían respaldar una responsabilidad penal similar contra la compañía. La compañía le dijo a NBC News que no fue responsable del tiroteo y ha respondido a las preguntas del estado.

Es otro ejemplo del enfoque ahora común de utilizar demandas para responsabilizar a entidades como los fabricantes y distribuidores de armas de fuego y el gobierno federal de los Estados Unidos por la inacción alegada que ha provocado muertes e lesiones por disparos.

Las siete demandas de Tumbler Ridge se presentan en nombre de Gebala, la familia del asistente de enseñanza, Shannda Aviugana-Durand, y las familias de cinco de los niños que murieron en el tiroteo escolar. Esas víctimas incluyen a Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield y Abel Mwansa Jr. Las familias dicen que la pérdida es insoportable.

Los padres de Mwansa, que emigraron a Canadá desde Zambia hace tres años, dicen que su hijo de 12 años era un buen oyente que le preparaba el desayuno a su hermana todos los días. Uno de sus amigos que sobrevivió al tiroteo dijo que las últimas palabras de Mwansa fueron: “Dile a mis padres que los amo mucho”.