OpenAI staje w obliczu śledztwa karnego w sprawie roli ChatGPT w strzelaninie

OpenAI staje w obliczu śledztwa karnego w USA w sprawie tego, czy jego technologia ChatGPT odegrała rolę w zamordowaniu dwóch osób podczas masowej strzelaniny na Florida State University w zeszłym roku.

Prokurator Generalny Florydy James Uthmeier powiedział we wtorek, że jego biuro badało wykorzystanie chatbota sztucznej inteligencji (AI) przez mężczyznę, który rzekomo zastrzelił kilka osób na kampusie w Tallahassee.

„Nasza analiza wykazała, że konieczne jest śledztwo karne” – powiedział Uthmeier. „ChatGPT udzielił znaczących porad temu strzelcowi, zanim popełnił tak ohydne zbrodnie”.

Rzecznik OpenAI powiedział: „ChatGPT nie ponosi odpowiedzialności za tę straszną zbrodnię”.

Jest to prawdopodobnie pierwszy raz, kiedy OpenAI jest przedmiotem śledztwa karnego w sprawie wykorzystania ChatGPT przez osobę, która rzekomo następnie popełniła przestępstwo.

Rzecznik OpenAI powiedział, że firma współpracowała z władzami i „proaktywnie udostępniła” informacje o „koncie ChatGPT, które uważa się za powiązane z podejrzanym”.

OpenAI zostało współzałożone przez Sama Altmana. On i firma szybko dołączyli do najbardziej znanych nazwisk w branży technologicznej po premierze ChatGPT w 2022 roku, który jest obecnie jednym z najszerzej stosowanych narzędzi AI na świecie.

Jeśli chodzi o to, jak podejrzany, 20-letni student FSU Phoenix Ikner, który obecnie przebywa w areszcie w oczekiwaniu na proces, wchodził w interakcję z ChatGPT, rzecznik OpenAI powiedział, że chatbot „nie zachęcał ani nie promował nielegalnych lub szkodliwych działań”.

„W tym przypadku ChatGPT udzielał faktograficznych odpowiedzi na pytania, zawierając informacje, które można było znaleźć szeroko w publicznych źródłach w Internecie”.

Jednak Uthmeier powiedział, że ChatGPT „doradzał strzelcowi, jakiego rodzaju broni użyć” i jakiego rodzaju amunicji.

Powiedział, że ChatGPT doradzał również strzelcowi, „o jakiej porze dnia… i gdzie na kampusie strzelec mógł napotkać większą populację”.

„Moi prokuratorzy się tym zajęli i powiedzieli mi, że gdyby po drugiej stronie ekranu była osoba, to oskarżylibyśmy ją o morderstwo” – powiedział Uthmeier.

Dodał, że zgodnie z prawem Florydy, każdy, kto „pomaga, podżega lub doradza komuś” w próbie popełnienia lub popełnieniu przestępstwa, jest uważany za „sprawcę” przestępstwa.

Chociaż ChatGPT nie jest uważany za osobę, Uthmeier powiedział, że jego biuro musi ustalić „karną odpowiedzialność” firmy stojącej za botem, OpenAI.

Firma jest już przedmiotem pozwu w związku z innym incydentem, w którym jej chatbot mógł odegrać rolę.

Na początku tego roku 18-latek zastrzelił dziewięć osób i ranił dwie tuziny innych w Kolumbii Brytyjskiej.

OpenAI oświadczyło po incydencie, że zidentyfikowało i zablokowało konto strzelca na podstawie jego użytkowania, ale nie przekazało sprawy policji. Firma zapowiedziała, że zamierza wzmocnić swoje środki bezpieczeństwa.

Rodzice młodej dziewczyny, która została ranna w ataku, złożyli pozew przeciwko firmie.

W zeszłym roku koalicja 42 prokuratorów generalnych stanów wysłała list do 13 firm technologicznych z chatbotami AI, w tym OpenAI, Google, Meta i Anthropic.

List przedstawił ich obawy dotyczące wzrostu wykorzystania AI przez osoby, „które mogą nie zdawać sobie sprawy z zagrożeń, na jakie mogą natknąć się” i wezwał do „solidnych testów bezpieczeństwa, procedur wycofywania i jasnych ostrzeżeń dla konsumentów”.

List wspominał również o rosnącej liczbie „tragedii w całym kraju”, w tym morderstw i samobójstw, które najwyraźniej wiązały się z jakimś użyciem AI.