Сім'ї подають до суду на OpenAI через невиявлення поведінки канадського масового вбивці в ChatGPT

Сім'ї сімох жертв масового розстрілу в середній школі Британської Колумбії подають до суду на OpenAI та генерального директора компанії за недбалість після того, як вона не попередила владу про тривожні розмови стрільця з ChatGPT.

Позови, подані в середу до федерального суду в Сан-Франциско, стверджують, що насильницькі наміри стрільця, ідентифікованого як 18-річний Джессі Ван Рутслаар, були добре відомі OpenAI. Співробітники компанії позначили обліковий запис стрільця за вісім місяців до нападу і визначили, що він становить "достовірну та конкретну загрозу насильства зі зброєю проти реальних людей", згідно з позовом.

Сім'ї стверджують, що співробітники закликали Сема Альтмана, генерального директора OpenAI, та інших вищих керівників повідомити канадські правоохоронні органи за вісім місяців до нападу, але компанія вирішила не попереджати владу і натомість деактивувала обліковий запис стрільця. Значна частина цього базується на розповідях співробітників компанії, які розповіли Wall Street Journal.

Рішення не повідомляти правоохоронні органи призвело до спустошення сільської громади Тамблер-Рідж, стверджує позов, де 10 лютого стрілець увірвався до середньої школи з модифікованою гвинтівкою і відкрив вогонь. Вони застрелили першу людину, яку зустріли на сходовій клітці, і пройшли до бібліотеки, де вбили ще п'ятьох і поранили ще 27. Потім стрілець убив себе.

Перед тим, як піти до школи, стрілець убив свою матір та 11-річного брата в їхньому сімейному будинку.

Жертви школи мають вік від 12 до 13 років і включають 39-річну помічницю вчителя. Одна з постраждалих, 12-річна Майя Гебала, була поранена в голову, шию та щоку. Вона перебуває у відділенні інтенсивної терапії дитячої лікарні Ванкувера з моменту стрілянини і перенесла чотири операції на мозку. Якщо вона виживе, у неї, ймовірно, будуть постійні вади, заявили її адвокати.

Сім'ї, які подали сім позовів, звинувачують OpenAI та Альтмана у недбалості, сприянні та підбурюванні до масового розстрілу, неправомірній смерті та відповідальності за продукт. Їхні адвокати кажуть, що це перша хвиля позовів проти компанії зі штучного інтелекту щодо стрілянини, і ще близько двох десятків справ будуть подані.

У заяві для The Guardian OpenAI заявив: "Події в Тамблер-Рідж є трагедією. Ми маємо політику нульової толерантності до використання наших інструментів для сприяння насильству. Як ми повідомили канадським посадовцям, ми вже посилили наші заходи безпеки, включаючи покращення реакції ChatGPT на ознаки стресу, зв'язок людей з місцевою підтримкою та ресурсами психічного здоров'я, посилення того, як ми оцінюємо та ескалуємо потенційні загрози насильства, та покращення виявлення повторних порушників політики".

Після того, як The Guardian звернувся за коментарем, OpenAI опублікував новий допис у блозі про свою "відданість безпеці" та про те, як вона "захищає безпеку спільноти".

Напад став одним із найсмертоносніших масових розстрілів в історії Канади. Після нього в невеликій громаді виникли питання про те, як це могло статися.

Обліковий запис Ван Рутслаара в ChatGPT був заблокований за вісім місяців до стрілянини після того, як команда безпеки OpenAI позначила його через насильницькі розмови, згідно з позовом. Однак стрілець зміг швидко створити новий, стверджує позов.

Хоча OpenAI стверджує, що стрілець створив другий обліковий запис, про який компанія не знала до стрілянини, позови стверджують, що компанія надає користувачам інструкції щодо повернення до ChatGPT, якщо їх деактивують, чого стрілець і дотримувався.

"Той факт, що Сем та керівництво відхилили рекомендації команди безпеки, а потім загинули діти, загинули дорослі, все місто було зруйноване, для мене це майже визначення зла", - сказав Джей Едельсон, головний адвокат, який представляє позивачів з Тамблер-Рідж.

Позов стверджує, що вибір приховати взаємодію стрільця з ChatGPT від канадської влади, а потім заявити громадськості, що стрілець знову проник на платформу, був зроблений в інтересах "корпоративного виживання" та для захисту IPO компанії, очікувана оцінка якої становить 1 трлн доларів і може зробити Альтмана однією з найбагатших людей у світі.

OpenAI відмовився надати журнали взаємодії свого чат-бота зі стрільцем з Тамблер-Рідж, сказав Едельсон.

Наприкінці минулого тижня Альтман надіслав листа громаді Тамблер-Рідж з вибаченнями за те, що не повідомив канадську поліцію про те, що OpenAI знала щодо потенційної загрози з боку стрільця.

"Хоча я знаю, що слова ніколи не можуть бути достатніми, я вважаю, що вибачення необхідні, щоб визнати шкоду та незворотні втрати, які зазнала ваша громада", - написав Альтман. "Я підтверджую зобов'язання, яке я взяв на себе перед мером та прем'єром щодо пошуку шляхів запобігання таким трагедіям у майбутньому".

Девід Ібі, прем'єр Британської Колумбії, опублікував листа в соціальних мережах з коментарем: "Вибачення необхідні, але водночас грубо недостатні для спустошення, завданого сім'ям Тамблер-Рідж".

26 лютого, трохи більше ніж через два тижні після стрілянини, віце-президент OpenAI з глобальної політики Енн О'Лірі надіслала листа Евану Соломону, міністру штучного інтелекту та цифрових інновацій Канади. О'Лірі написала, що, виходячи з того, що компанія побачила, коли обліковий запис стрільця було деактивовано, вона "не виявила достовірного та неминучого планування, яке відповідало б нашому порогу для передачі справи до правоохоронних органів". Це рішення було прийнято, незважаючи на попередження команди безпеки OpenAI про те, що обліковий запис мав бути повідомлений.

О'Лірі також виклала дії, які компанія планувала вжити, такі як зміцнення відносин з канадськими правоохоронними органами та посилення своєї системи для виявлення користувачів, які неодноразово блокуються з ChatGPT, але згодом створюють нові облікові записи.

Позови є частиною хвилі справ проти компаній зі штучного інтелекту щодо звинувачень у тому, що їхні чат-боти посилюють кризи психічного здоров'я та провокують насильницькі дії. У листопаді було подано сім скарг проти OpenAI, звинувачуючи ChatGPT у виступанні в ролі "тренера з самогубств". Google було подано до суду минулого місяця після того, як його чат-бот Gemini нібито заохотив 36-річного чоловіка влаштувати "катастрофічний випадок" і потім убити себе. Google заявив, що працює над покращенням своїх заходів безпеки, а OpenAI заявив, що переглядає матеріали позову.

У Флориді генеральний прокурор нещодавно розпочав кримінальне розслідування щодо OpenAI після перегляду повідомлень між ChatGPT та стрільцем, обвинуваченим у скоєнні масового розстрілу в кампусі Університету штату Флорида – перше таке кримінальне розслідування щодо технологічної компанії. Адвокати сімей з Тамблер-Рідж кажуть, що вірять, що їхні справи можуть підтримати подібну кримінальну відповідальність компанії. Компанія заявила NBC News, що не несе відповідальності за стрілянину і відповіла на запитання штату.

Це ще один приклад нині поширеного підходу використання судових позовів для притягнення до відповідальності таких суб'єктів, як виробники та дилери зброї та уряд США, за передбачувану бездіяльність, яка призвела до смертей та поранень внаслідок стрілянини.

Сім позовів з Тамблер-Рідж подано від імені Гебали, сім'ї помічниці вчителя Шанди Авіугана-Дюран та сімей п'ятьох дітей, які загинули під час стрілянини в школі. Серед цих жертв – Зої Бенуа, Тікарія "Тікі" Ламперт, Кайлі Сміт, Езекіїл Шофілд та Абель Мванса-молодший. Сім'ї кажуть, що втрата нестерпна.

Батьки Мванси, які іммігрували до Канади із Замбії три роки тому, сказав, що їхній 12-річний син був добрим слухачем, який щоранку готував сніданок для своєї сестри. Один з його друзів, який пережив стрілянину, сказав, що останні слова Мванси були: "Скажіть моїм батькам, що я їх дуже люблю".