Des familles poursuivent OpenAI pour ne pas avoir signalé le comportement du tireur canadien sur ChatGPT

Les familles de sept victimes d'une fusillade dans un lycée de la Colombie-Britannique poursuivent OpenAI et le PDG de l'entreprise pour négligence, après que celle-ci n'a pas alerté les autorités des conversations troublantes du tireur avec ChatGPT.

Les poursuites, déposées mercredi devant un tribunal fédéral de San Francisco, allèguent que les intentions violentes du tireur, identifié comme Jesse Van Rootselaar, 18 ans, étaient bien connues d'OpenAI. Des employés de l'entreprise ont signalé le compte du tireur huit mois avant l'attaque et ont déterminé qu'il représentait « une menace crédible et spécifique de violence armée contre des personnes réelles », selon la plainte.

Les familles allèguent que les employés ont exhorté Sam Altman, PDG d'OpenAI, et d'autres dirigeants à informer les forces de l'ordre canadiennes huit mois avant l'attaque, mais que l'entreprise a décidé de ne pas avertir les autorités et a plutôt désactivé le compte du tireur. Une grande partie de ces allégations repose sur les témoignages d'employés de l'entreprise rapportés par le Wall Street Journal.

La décision de ne pas alerter les forces de l'ordre a conduit à la dévastation de la communauté rurale de Tumbler Ridge, allègue la plainte, où le 10 février, le tireur a fait irruption dans le lycée avec une carabine modifiée et a ouvert le feu. Ils ont tiré sur la première personne qu'ils ont rencontrée dans un escalier, puis se sont dirigés vers la bibliothèque, où ils ont tué cinq autres personnes et en ont blessé 27 autres. Le tireur s'est ensuite suicidé.

Avant de se rendre à l'école, le tireur a tué sa mère et son frère de 11 ans à leur domicile familial.

Les victimes de l'école sont âgées de 12 à 13 ans et comprennent une assistante pédagogique de 39 ans. L'une des survivantes, Maya Gebala, 12 ans, a été blessée à la tête, au cou et à la joue. Elle est en soins intensifs à l'hôpital pour enfants de Vancouver depuis la fusillade et a subi quatre opérations au cerveau. Si elle survit, elle aura probablement des handicaps permanents, ont déclaré ses avocats.

Les familles qui ont intenté les sept poursuites accusent OpenAI et Altman de négligence, de complicité de fusillade de masse, de mort injustifiée et de responsabilité du fait des produits défectueux. Leurs avocats affirment qu'il s'agit de la première vague de poursuites contre la société d'IA suite à la fusillade, et qu'une vingtaine d'autres affaires sont à venir.

Dans une déclaration au Guardian, OpenAI a déclaré : « Les événements de Tumbler Ridge sont une tragédie. Nous avons une politique de tolérance zéro quant à l'utilisation de nos outils pour faciliter la violence. Comme nous l'avons communiqué aux responsables canadiens, nous avons déjà renforcé nos mesures de sécurité, notamment en améliorant la façon dont ChatGPT répond aux signes de détresse, en connectant les personnes avec des ressources locales de soutien et de santé mentale, en renforçant la façon dont nous évaluons et escaladons les menaces potentielles de violence, et en améliorant la détection des contrevenants répétés à nos politiques. »

Après que le Guardian a demandé un commentaire, OpenAI a publié un nouveau billet de blog sur son « engagement envers la sécurité » et la manière dont il « protège la sécurité de la communauté ».

L'attaque a été l'une des fusillades de masse les plus meurtrières de l'histoire du Canada. Dans l'après-coup, des questions ont circulé dans la petite communauté sur la façon dont cela avait pu se produire.

Le compte ChatGPT de Van Rootselaar a été banni huit mois avant la fusillade, après que l'équipe de sécurité d'OpenAI l'a signalé pour des conversations violentes, selon la plainte. Cependant, le tireur a pu en créer rapidement un nouveau, allègue la plainte.

Bien qu'OpenAI affirme que le tireur a créé un deuxième compte dont l'entreprise n'a eu connaissance qu'après la fusillade, les poursuites affirment que l'entreprise fournit aux utilisateurs des instructions sur la manière de revenir à ChatGPT s'ils sont désactivés, ce que le tireur a suivi.

« Le fait que Sam et la direction aient outrepassé l'équipe de sécurité, et que des enfants soient morts, des adultes soient morts, que toute la ville ait été ruinée, c'est assez proche de la définition du mal pour moi », a déclaré Jay Edelson, l'avocat principal représentant les plaignants de Tumbler Ridge.

La plainte allègue que le choix de dissimuler les interactions du tireur avec ChatGPT aux autorités canadiennes, et de dire plus tard au public que le tireur était retourné sur la plateforme, a été fait dans l'intérêt de la « survie de l'entreprise » et pour protéger l'IPO de l'entreprise, dont la valorisation attendue est de 1 000 milliards de dollars et qui pourrait faire d'Altman l'une des personnes les plus riches du monde.

OpenAI a refusé de partager les journaux entre son chatbot et le tireur de Tumbler Ridge, a déclaré Edelson.

La semaine dernière, Altman a envoyé une lettre à la communauté de Tumbler Ridge pour s'excuser de ne pas avoir informé la police canadienne de ce qu'OpenAI savait concernant la menace potentielle du tireur.

« Bien que je sache que les mots ne suffiront jamais, je crois qu'une excuse est nécessaire pour reconnaître le préjudice et la perte irréparable que votre communauté a subis », a écrit Altman. « Je réaffirme l'engagement que j'ai pris auprès du maire et du premier ministre de trouver des moyens de prévenir de telles tragédies à l'avenir. »

David Eby, premier ministre de la Colombie-Britannique, a publié la lettre sur les réseaux sociaux avec le commentaire : « L'excuse est nécessaire, et pourtant grossièrement insuffisante pour la dévastation causée aux familles de Tumbler Ridge. »

Le 26 février, un peu plus de deux semaines après la fusillade, la vice-présidente de la politique mondiale d'OpenAI, Ann O'Leary, a envoyé une lettre à Evan Solomon, ministre de l'intelligence artificielle et de l'innovation numérique du Canada. O'Leary a écrit que, d'après ce que l'entreprise avait vu lorsque le compte du tireur a été désactivé, elle n'avait pas « identifié de planification crédible et imminente qui atteignait notre seuil pour référer l'affaire aux forces de l'ordre ». Cette décision a été prise malgré les avertissements de l'équipe de sécurité d'OpenAI selon lesquels le compte aurait dû être signalé.

O'Leary a également détaillé les mesures que l'entreprise prévoyait de prendre, telles que le renforcement de ses relations avec les forces de l'ordre canadiennes et l'amélioration de son système pour détecter les utilisateurs qui sont bannis à plusieurs reprises de ChatGPT mais créent ensuite de nouveaux comptes.

Les poursuites font partie d'une vague croissante d'affaires contre des entreprises d'IA concernant des allégations selon lesquelles leurs chatbots exacerbent les crises de santé mentale et provoquent des actes de violence. En novembre, sept plaintes ont été déposées contre OpenAI, accusant ChatGPT d'agir comme un « coach suicidaire ». Google a été poursuivi le mois dernier après que son chatbot Gemini aurait encouragé un homme de 36 ans à organiser un « accident catastrophique » puis à se suicider. Google a déclaré qu'il travaillait à améliorer ses mesures de sécurité et OpenAI a déclaré qu'il examinait les documents de la plainte.

En Floride, le procureur général a récemment ouvert une enquête criminelle sur OpenAI après avoir examiné les messages entre ChatGPT et un tireur accusé d'avoir commis une fusillade de masse sur le campus de la Florida State University – la première enquête criminelle de ce type contre une entreprise technologique. Les avocats des familles de Tumbler Ridge affirment qu'ils pensent que leurs cas pourraient soutenir une responsabilité pénale similaire contre l'entreprise. L'entreprise a déclaré à NBC News qu'elle n'était pas responsable de la fusillade et qu'elle avait répondu aux questions de l'État.

C'est un autre exemple de l'approche désormais courante consistant à utiliser des poursuites judiciaires pour tenir des entités telles que les fabricants et les distributeurs d'armes à feu et le gouvernement fédéral américain responsables d'une inaction présumée ayant entraîné des morts et des blessures par balle.

Les sept poursuites de Tumbler Ridge sont déposées au nom de Gebala, de la famille de l'assistante pédagogique, Shannda Aviugana-Durand, et des familles de cinq des enfants décédés dans la fusillade scolaire. Parmi ces victimes figurent Zoey Benoit, Ticaria « Tiki » Lampert, Kylie Smith, Ezekiel Schofield et Abel Mwansa Jr. Les familles déclarent que la perte est insupportable.

Les parents de Mwansa, qui ont immigré au Canada depuis la Zambie il y a trois ans, disent que leur fils de 12 ans était un bon auditeur qui préparait le petit-déjeuner de sa sœur chaque matin. L'un de ses amis qui a survécu à la fusillade a déclaré que les derniers mots de Mwansa étaient : « Dites à mes parents que je les aime tellement. »