Famiglie fanno causa a OpenAI per mancata segnalazione del comportamento del killer canadese su ChatGPT

Le famiglie di sette vittime di una sparatoria di massa in una scuola secondaria della British Columbia stanno facendo causa a OpenAI e al CEO dell'azienda per negligenza, dopo che questa non ha avvisato le autorità delle conversazioni preoccupanti del killer con ChatGPT.

Le cause legali, presentate mercoledì in un tribunale federale di San Francisco, sostengono che le intenzioni violente del killer, identificato come Jesse Van Rootselaar, 18 anni, erano ben note a OpenAI. I dipendenti dell'azienda hanno segnalato l'account del killer otto mesi prima dell'attacco e hanno stabilito che rappresentava "una minaccia credibile e specifica di violenza armata contro persone reali", secondo la causa legale.

Le famiglie sostengono che i dipendenti hanno esortato Sam Altman, CEO di OpenAI, e altri dirigenti senior a informare le forze dell'ordine canadesi otto mesi prima dell'attacco, ma l'azienda ha deciso di non avvisare le autorità e ha invece disattivato l'account del killer. Gran parte di ciò si basa su resoconti che dipendenti interni all'azienda hanno fornito al Wall Street Journal.

La decisione di non avvisare le forze dell'ordine ha portato alla devastazione della comunità rurale di Tumbler Ridge, sostiene la causa, dove il 10 febbraio il killer ha fatto irruzione nella scuola secondaria con un fucile modificato e ha aperto il fuoco. Hanno sparato alla prima persona che hanno incontrato in una tromba delle scale e si sono diretti verso la biblioteca, dove hanno ucciso altre cinque persone e ne hanno ferite altre 27. Il killer si è poi suicidato.

Prima di andare a scuola, il killer ha ucciso la madre e il fratello di 11 anni nella loro casa di famiglia.

Le vittime della scuola hanno un'età compresa tra i 12 e i 13 anni e includono un assistente didattico di 39 anni. Una delle sopravvissute, Maya Gebala, 12 anni, è stata colpita alla testa, al collo e alla guancia. È in terapia intensiva all'ospedale pediatrico di Vancouver dal giorno della sparatoria e ha subito quattro operazioni al cervello. Se sopravvive, avrà probabilmente disabilità permanenti, hanno detto i suoi avvocati.

Le famiglie che hanno intentato le sette cause legali accusano OpenAI e Altman di negligenza, favoreggiamento e istigazione a una sparatoria di massa, morte ingiusta e responsabilità del prodotto. I loro avvocati affermano che si tratta della prima ondata di cause contro la società di AI per la sparatoria, e che sono in arrivo circa altre due dozzine di casi.

In una dichiarazione al Guardian, OpenAI ha dichiarato: "Gli eventi a Tumbler Ridge sono una tragedia. Abbiamo una politica di tolleranza zero per l'uso dei nostri strumenti per assistere nella commissione di violenza. Come abbiamo comunicato ai funzionari canadesi, abbiamo già rafforzato le nostre misure di sicurezza, tra cui il miglioramento di come ChatGPT risponde ai segnali di disagio, la connessione delle persone con il supporto locale e le risorse per la salute mentale, il rafforzamento di come valutiamo e gestiamo le potenziali minacce di violenza, e il miglioramento del rilevamento dei trasgressori ripetuti delle policy."

Dopo che il Guardian ha contattato per un commento, OpenAI ha pubblicato un nuovo post sul blog sul suo "impegno per la sicurezza" e su come "protegge la sicurezza della comunità".

L'attacco è stato una delle sparatorie di massa più letali nella storia canadese. Sulla scia degli eventi, nella piccola comunità sono sorte domande su come sia potuto accadere.

L'account ChatGPT di Van Rootselaar è stato bannato otto mesi prima della sparatoria, dopo che il team di sicurezza di OpenAI lo aveva segnalato per conversazioni violente, secondo la causa legale. Tuttavia, il killer è stato in grado di crearne rapidamente uno nuovo, sostiene la causa.

Sebbene OpenAI affermi che il killer ha creato un secondo account di cui l'azienda non era a conoscenza fino a dopo la sparatoria, le cause legali affermano che l'azienda fornisce agli utenti istruzioni su come tornare a ChatGPT se vengono disattivati, cosa che il killer ha seguito.

"Il fatto che Sam e la leadership abbiano ignorato il team di sicurezza, e poi siano morti bambini, sono morti adulti, l'intera città è stata rovinata, è per me molto vicino alla definizione di malvagità", ha detto Jay Edelson, l'avvocato principale che rappresenta i querelanti di Tumbler Ridge.

La causa legale sostiene che la scelta di nascondere le interazioni del killer con ChatGPT alle autorità canadesi, e poi dire al pubblico che il killer era tornato sulla piattaforma, è stata fatta nell'interesse della "sopravvivenza aziendale" e per proteggere l'IPO dell'azienda, che ha una valutazione prevista di $1 trilione e potrebbe rendere Altman una delle persone più ricche del mondo.

OpenAI ha rifiutato di condividere i log tra il suo chatbot e il killer di Tumbler Ridge, ha detto Edelson.

Alla fine della scorsa settimana, Altman ha inviato una lettera alla comunità di Tumbler Ridge scusandosi per non aver informato la polizia canadese su ciò che OpenAI sapeva riguardo alla potenziale minaccia del killer.

"Anche se so che le parole non saranno mai sufficienti, credo che siano necessarie delle scuse per riconoscere il danno e la perdita irreversibile che la vostra comunità ha subito", ha scritto Altman. "Riaffermo l'impegno che ho preso con il sindaco e il premier per trovare modi per prevenire tragedie come questa in futuro."

David Eby, premier della British Columbia, ha pubblicato la lettera sui social media con il commento: "Le scuse sono necessarie, eppure grossolanamente insufficienti per la devastazione causata alle famiglie di Tumbler Ridge."

Il 26 febbraio, poco più di due settimane dopo la sparatoria, la vicepresidente delle politiche globali di OpenAI, Ann O'Leary, ha inviato una lettera a Evan Solomon, ministro dell'intelligenza artificiale e dell'innovazione digitale del Canada. O'Leary ha scritto che, in base a ciò che l'azienda ha visto quando l'account del killer è stato disattivato, non ha "identificato una pianificazione credibile e imminente che raggiungesse la nostra soglia per deferire la questione alle forze dell'ordine". Questa decisione è arrivata nonostante gli avvertimenti del team di sicurezza di OpenAI che l'account avrebbe dovuto essere segnalato.

O'Leary ha anche delineato le azioni che l'azienda stava pianificando di intraprendere, come il rafforzamento della loro relazione con le forze dell'ordine canadesi e il potenziamento del loro sistema per rilevare gli utenti che vengono bannati ripetutamente da ChatGPT ma che successivamente creano nuovi account.

Le cause legali fanno parte di una marea crescente di casi contro le aziende di AI per le accuse secondo cui i loro chatbot stanno esacerbando le crisi di salute mentale e provocando atti violenti. A novembre, sono state presentate sette denunce contro OpenAI, accusando ChatGPT di agire come un "coach del suicidio". Google è stata citata in giudizio il mese scorso dopo che il suo chatbot Gemini avrebbe incoraggiato un uomo di 36 anni a inscenare un "incidente catastrofico" e poi a suicidarsi. Google ha dichiarato di star lavorando per migliorare le sue misure di sicurezza e OpenAI ha affermato che sta esaminando gli atti giudiziari.

In Florida, il procuratore generale ha recentemente aperto un'indagine penale su OpenAI dopo aver esaminato i messaggi tra ChatGPT e un uomo armato accusato di aver commesso una sparatoria di massa nel campus della Florida State University – la prima indagine penale di questo tipo su un'azienda tecnologica. Gli avvocati delle famiglie di Tumbler Ridge affermano di credere che i loro casi potrebbero supportare una responsabilità penale simile contro l'azienda. L'azienda ha dichiarato a NBC News di non essere responsabile della sparatoria e di aver risposto alle domande dello stato.

È un altro esempio dell'approccio ormai comune di utilizzare le cause legali per ritenere entità come produttori e rivenditori di armi e il governo federale degli Stati Uniti responsabili di presunta inazione che ha portato a morti e feriti a seguito di sparatorie.

Le sette cause legali di Tumbler Ridge sono intentate per conto di Gebala, della famiglia dell'assistente didattico, Shannda Aviugana-Durand, e delle famiglie di cinque dei bambini morti nella sparatoria scolastica. Tra queste vittime figurano Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield e Abel Mwansa Jr. Le famiglie affermano che la perdita è insopportabile.

I genitori di Mwansa, immigrati in Canada dallo Zambia tre anni fa, dicono che il loro figlio di 12 anni era un buon ascoltatore che preparava la colazione alla sorella ogni mattina. Uno dei suoi amici sopravvissuti alla sparatoria ha detto che le ultime parole di Mwansa sono state: "Dite ai miei genitori che li amo tantissimo."