Rodziny pozywają OpenAI za niepoinformowanie o zachowaniu kanadyjskiego masowego strzelca w ChatGPT

Rodziny siedmiu ofiar masowego strzelaniny w szkole średniej w Kolumbii Brytyjskiej pozywają OpenAI i dyrektora generalnego firmy za zaniedbanie, po tym jak nie powiadomili władz o niepokojących rozmowach strzelca z ChatGPT.

Pozwy, złożone w środę w sądzie federalnym w San Francisco, zarzucają, że brutalne zamiary strzelca, zidentyfikowanego jako 18-letni Jesse Van Rootselaar, były dobrze znane OpenAI. Pracownicy firmy oznaczyli konto strzelca osiem miesięcy przed atakiem i stwierdzili, że stanowi ono „wiarygodne i konkretne zagrożenie przemocą z użyciem broni wobec prawdziwych ludzi”, zgodnie z pozwem.

Rodziny twierdzą, że pracownicy nalegali na Sama Altmana, dyrektora generalnego OpenAI, i innych starszych liderów, aby powiadomili kanadyjskie organy ścigania osiem miesięcy przed atakiem, ale firma zdecydowała się nie ostrzegać władz i zamiast tego zdezaktywowała konto strzelca. Wiele z tego opiera się na relacjach pracowników firmy, które przekazali „Wall Street Journal”.

Decyzja o niepowiadomieniu organów ścigania doprowadziła do dewastacji wiejskiej społeczności Tumbler Ridge, jak twierdzi pozew, gdzie 10 lutego strzelec wtargnął do szkoły średniej z przerobionym karabinem i otworzył ogień. Zastrzelili pierwszą napotkaną osobę na klatce schodowej, a następnie udali się do biblioteki, gdzie zabili pięć innych osób i ranili 27. Następnie strzelec popełnił samobójstwo.

Zanim udał się do szkoły, strzelec zabił swoją matkę i 11-letniego brata w ich rodzinnym domu.

Ofiary szkolne mają od 12 do 13 lat i obejmują 39-letnią asystentkę nauczyciela. Jedna z ocalałych, 12-letnia Maya Gebala, została postrzelona w głowę, szyję i policzek. Od czasu strzelaniny przebywa na oddziale intensywnej terapii w szpitalu dziecięcym w Vancouver i przeszła cztery operacje mózgu. Jeśli przeżyje, prawdopodobnie będzie miała trwałe kalectwo, powiedzieli jej prawnicy.

Rodziny, które wniosły siedem pozwów, oskarżają OpenAI i Altmana o zaniedbanie, pomocnictwo i podżeganie do masowego strzelaniny, bezprawne spowodowanie śmierci i odpowiedzialność za produkt. Ich prawnicy twierdzą, że jest to pierwsza fala pozwów przeciwko firmie AI w związku ze strzelaniną, a kolejne kilkanaście spraw jest w przygotowaniu.

W oświadczeniu dla „Guardiana” OpenAI stwierdziło: „Wydarzenia w Tumbler Ridge to tragedia. Mamy politykę zerowej tolerancji dla wykorzystywania naszych narzędzi do popełniania przemocy. Jak poinformowaliśmy kanadyjskie władze, już wzmocniliśmy nasze zabezpieczenia, w tym ulepszyliśmy sposób, w jaki ChatGPT reaguje na oznaki cierpienia, łączymy ludzi z lokalnym wsparciem i zasobami zdrowia psychicznego, wzmacniamy sposób oceny i eskalacji potencjalnych zagrożeń przemocą oraz poprawiamy wykrywanie wielokrotnych naruszeń zasad.”

Po tym, jak „Guardian” zwrócił się o komentarz, OpenAI opublikowało nowy wpis na blogu o swoim „zaangażowaniu w bezpieczeństwo” i o tym, jak „chroni bezpieczeństwo społeczności”.

Atak był jednym z najtragiczniejszych masowych strzelanin w historii Kanady. W następstwie tego wydarzenia w małej społeczności pojawiły się pytania o to, jak do tego mogło dojść.

Konto Van Rootselaara w ChatGPT zostało zablokowane osiem miesięcy przed strzelaniną, po tym jak zespół ds. bezpieczeństwa OpenAI oznaczył je jako zawierające brutalne rozmowy, zgodnie z pozwem. Jednak strzelec był w stanie szybko utworzyć nowe, jak twierdzi pozew.

Chociaż OpenAI twierdzi, że strzelec utworzył drugie konto, o którym firma nie wiedziała aż do strzelaniny, pozwy mówią, że firma dostarcza użytkownikom instrukcji, jak wrócić do ChatGPT, jeśli zostaną zdezaktywowane, czego strzelec przestrzegał.

„Fakt, że Sam i kierownictwo zignorowali zespół ds. bezpieczeństwa, a potem zginęły dzieci, zginęli dorośli, całe miasto zostało zrujnowane, jest dla mnie bliski definicji zła” – powiedział Jay Edelson, główny prawnik reprezentujący powodów z Tumbler Ridge.

Pozew zarzuca, że wybór ukrycia interakcji strzelca z ChatGPT przed kanadyjskimi władzami, a następnie poinformowanie publiczności, że strzelec ponownie zalogował się na platformę, został dokonany w interesie „przetrwania korporacyjnego” i ochrony IPO firmy, której szacowana wycena wynosi 1 bilion dolarów i która mogłaby uczynić Altmana jedną z najbogatszych osób na świecie.

OpenAI odmówiło udostępnienia logów między swoim chatbotem a strzelcem z Tumbler Ridge, powiedział Edelson.

Pod koniec ubiegłego tygodnia Altman wysłał list do społeczności Tumbler Ridge, przepraszając za niepowiadomienie kanadyjskiej policji o tym, co OpenAI wiedziało na temat potencjalnego zagrożenia ze strony strzelca.

„Chociaż wiem, że słowa nigdy nie wystarczą, wierzę, że przeprosiny są konieczne, aby uznać szkody i nieodwracalne straty, których doznała wasza społeczność” – napisał Altman. „Potwierdzam zobowiązanie, które złożyłem burmistrzowi i premierowi, aby znaleźć sposoby zapobiegania takim tragediom w przyszłości.”

David Eby, premier Kolumbii Brytyjskiej, opublikował list w mediach społecznościowych z komentarzem: „Przeprosiny są konieczne, a jednak rażąco niewystarczające w obliczu dewastacji, jaka dotknęła rodziny z Tumbler Ridge.”

26 lutego, nieco ponad dwa tygodnie po strzelaninie, wiceprezes OpenAI ds. globalnej polityki, Ann O’Leary, wysłała list do Evana Solomona, kanadyjskiego ministra ds. sztucznej inteligencji i innowacji cyfrowych. O’Leary napisała, że na podstawie tego, co firma zobaczyła po dezaktywacji konta strzelca, nie „zidentyfikowała wiarygodnych i nieuchronnych planów, które spełniałyby nasz próg do skierowania sprawy do organów ścigania”. Decyzja ta zapadła pomimo ostrzeżeń zespołu ds. bezpieczeństwa OpenAI, że konto powinno było zostać zgłoszone.

O’Leary przedstawiła również działania, które firma planowała podjąć, takie jak wzmocnienie relacji z kanadyjskimi organami ścigania i rozbudowa systemu wykrywania użytkowników, którzy są wielokrotnie banowani z ChatGPT, ale następnie tworzą nowe konta.

Pozwy są częścią fali spraw przeciwko firmom AI w związku z zarzutami, że ich chatboty zaostrzają kryzysy zdrowia psychicznego i prowokują akty przemocy. W listopadzie złożono siedem skarg przeciwko OpenAI, obwiniając ChatGPT o działanie jako „trener samobójstw”. Google został pozwany w zeszłym miesiącu po tym, jak jego chatbot Gemini rzekomo zachęcił 36-letniego mężczyznę do zaaranżowania „katastrofalnego wypadku”, a następnie popełnienia samobójstwa. Google oświadczył, że pracuje nad poprawą swoich zabezpieczeń, a OpenAI stwierdziło, że analizuje dokumenty sądowe.

Na Florydzie prokurator generalny wszczął niedawno dochodzenie karne przeciwko OpenAI po przejrzeniu wiadomości między ChatGPT a napastnikiem oskarżonym o masową strzelaninę na kampusie Florida State University – pierwsze tego rodzaju dochodzenie karne przeciwko firmie technologicznej. Prawnicy rodzin z Tumbler Ridge twierdzą, że ich sprawy mogą stanowić podstawę podobnej odpowiedzialności karnej wobec firmy. Firma powiedziała NBC News, że nie ponosi odpowiedzialności za strzelaninę i odpowiedziała na pytania stanu.

Jest to kolejny przykład powszechnego obecnie podejścia do wykorzystywania pozwów w celu pociągnięcia do odpowiedzialności podmiotów takich jak producenci i sprzedawcy broni oraz rząd federalny USA za rzekome zaniechania, które doprowadziły do śmierci i obrażeń w wyniku strzelanin.

Siedem pozwów z Tumbler Ridge zostało złożonych w imieniu Gebali, rodziny asystentki nauczyciela, Shannda Aviugana-Duranda, oraz rodzin pięciorga dzieci, które zginęły w strzelaninie w szkole. Wśród ofiar znaleźli się Zoey Benoit, Ticaria „Tiki” Lampert, Kylie Smith, Ezekiel Schofield i Abel Mwansa Jr. Rodziny mówią, że strata jest nie do zniesienia.

Rodzice Mwansy, którzy wyemigrowali do Kanady z Zambii trzy lata temu, mówią, że ich 12-letni syn był dobrym słuchaczem i codziennie rano robił śniadanie swojej siostrze. Jeden z jego przyjaciół, który przeżył strzelaninę, powiedział, że ostatnie słowa Mwansy brzmiały: „Powiedzcie moim rodzicom, że bardzo ich kocham.”