가족들, 챗GPT에서 캐나다 대량 살인범의 행동을 보고하지 않은 혐의로 OpenAI를 고소

브리티시 컬럼비아의 중등학교에서 발생한 대량 살인 사건의 7명의 희생자 가족들이 챗GPT에서 살인범의 불안한 대화 내용을 당국에 보고하지 않은 과실 혐의로 OpenAI와 CEO를 고소했습니다.

수요일에 샌프란시스코의 연방 법원에 제출된 소송은 18세 제스 반 루츠텔라르의 폭력적인 의도가 OpenAI에 잘 알려져 있었다고 주장합니다. 소송에 따르면 회사의 직원들은 공격 8개월 전에 살인범의 계정을 플래그하고 “실제 사람에 대한 총기 폭력의 신뢰할 수 있고 구체적인 위협”을 제기한다고 판단했습니다.

가족들은 직원들이 OpenAI의 CEO 샘 알트만과 다른 고위 간부들에게 공격 8개월 전에 캐나다 법 집행 기관에 통보할 것을 촉구했지만 회사는 당국에 경고하지 않고 살인범의 계정을 비활성화하기로 결정했다고 주장합니다. 이는 대부분 월스트리트 저널에 회사 내부 직원들이 제공한 내용에 근거합니다.

소송은 회사가 법 집행 기관에 통보하지 않은 결정이 텀블러 리지의 농촌 공동체를 파괴로 이끌었다고 주장합니다. 2월 10일, 살인범은 개조된 소총으로 중등학교에 난입하여 총기를 발사했습니다. 그들은 계단에서 처음 마주친 사람을 쏘고 도서관으로 가서 다른 5명을 살해하고 27명을 부상시켰습니다. 살인범은 이후 스스로 목숨을 끊었습니다.

학교에 가기 전에 살인범은 가족의 집에서 어머니와 11세 남동생을 살해했습니다.

학교 희생자들의 나이는 12세에서 13세 사이이며 39세의 보조 교사도 포함됩니다. 생존자 중 한 명인 12세 마야 게발라는 머리, 목, 뺨에 총격을 입었습니다. 그녀는 밴쿠버 어린이 병원에서 중환자실에 있으며 사격 이후 4번의 뇌 수술을 받았습니다. 그녀의 변호사들은 그녀가 살아남더라도 영구적인 장애를 겪을 가능성이 높다고 말했습니다.

7건의 소송을 제기한 가족들은 OpenAI와 알트만을 과실, 대량 살인 방조, wrongful death, 제품 책임 혐의로 고소합니다. 그들의 변호사들은 이것이 사격과 관련하여 AI 회사에 대한 첫 번째 소송 물결이며, 앞으로 두 더즌 이상의 사건이 있을 것이라고 말합니다.

가디언에 발표한 성명에서 OpenAI는 다음과 같이 말했습니다. "텀블러 리지의 사건은 비극입니다. 우리는 우리의 도구를 사용하여 폭력을 저지르는 것을 용납하지 않습니다. 캐나다 당국에 공유했듯이, 우리는 이미 경계를 강화했으며 챗GPT가 고통의 징후에 어떻게 반응하는지 개선하고, 지역 지원 및 정신 건강 자원에 사람들을 연결하고, 잠재적인 폭력 위협을 평가하고 확대하는 방법을 강화하고, 반복적인 정책 위반자를 감지하는 방법을 개선했습니다.”

가디언이 의견을 구한 후 OpenAI는 "안전 약속"과 "지역 사회 안전 보호"에 대한 새로운 블로그 게시물을 발표했습니다.

이 공격은 캐나다 역사상 가장 치명적인 대량 살인 사건 중 하나였습니다. 사건 이후, 작은 공동체에서는 어떻게 이런 일이 일어날 수 있었는지에 대한 질문이 제기되었습니다.

반 루츠텔라르의 챗GPT 계정은 OpenAI의 안전 팀이 폭력적인 대화로 플래그를 지정한 후 사격 8개월 전에 금지되었습니다. 그러나 소송에 따르면 살인범은 빠르게 새 계정을 만들 수 있었습니다.

OpenAI는 살인범이 회사가 사격 이후에 알게 된 두 번째 계정을 만들었다고 말하지만, 소송은 살인범이 비활성화되면 챗GPT로 돌아가는 방법에 대한 지침을 사용자에게 제공한다고 주장합니다.

"샘과 리더십 팀이 안전 팀을 무시하고, 그 결과 아이들이 죽고, 어른들이 죽고, 온 마을이 파괴된 사실은 제게 거의 악의의 정의에 가깝습니다."라고 Tumbler Ridge 원고를 대표하는 수석 변호사 제이 에델슨이 말했습니다.

소송은 캐나다 당국에 챗GPT와의 살인범의 상호 작용을 숨기고 나중에 살인범이 플랫폼에 다시 침입했다는 사실을 대중에게 알리는 결정이 "기업 생존"을 위해 이루어졌으며 회사의 IPO를 보호하기 위한 것이라고 주장합니다. 예상 평가액은 1조 달러에 달하며 알트만이 세계에서 가장 부유한 사람 중 한 명이 될 수 있습니다.

OpenAI는 텀블러 리지 살인범과의 챗봇 간의 로그를 공유하지 않았다고 에델슨은 말했습니다.

지난주 늦게 알트만은 텀블러 리지 공동체에 보낸 서신에서 OpenAI가 살인범의 잠재적 위협에 대해 캐나다 경찰에 통보하지 않은 것에 대해 사과했습니다.

"말이 결코 충분하지 않다는 것을 알지만, 귀하의 공동체가 겪은 피해와 돌이킬 수 없는 손실을 인정하기 위해 사과가 필요하다고 생각합니다."라고 알트만은 썼습니다. "저는 시장과 총리에게 약속한 미래의 비극을 예방할 방법을 찾는 약속을 재확인합니다."

브리티시 컬럼비아 총리 데이비드 이비는 소셜 미디어에 서신을 게시하며 "사과는 필요하지만 텀블러 리지의 가족들에게 가해진 파괴에 비하면 매우 부족합니다."라는 의견을 덧붙였습니다.

2월 26일, 사격 발생 2주가 넘은 시점에 OpenAI의 글로벌 정책 부사장인 앤 오리어리는 캐나다의 인공지능 및 디지털 혁신 장관인 이반 솔로몬에게 서신을 보냈습니다. 오리어리는 회사가 살인범의 계정이 비활성화될 때 본 내용에 따르면 "법 집행 기관에 사건을 의뢰할 만한 신뢰할 수 있고 임박한 계획을 식별하지 못했습니다."라고 썼습니다. 이러한 결정은 OpenAI의 안전 팀의 경고에도 불구하고 이루어졌습니다.

오리어리는 또한 회사가 캐나다 법 집행 기관과의 관계를 강화하고 챗GPT에서 반복적으로 금지된 사용자를 감지하는 시스템을 강화하는 것과 같은 계획 중인 조치를 설명했습니다.

이 소송은 챗봇이 정신 건강 위기를 악화시키고 폭력적인 행위를 조장한다는 주장에 따라 AI 회사에 대한 일련의 소송의 일부입니다. 지난 11월, OpenAI에 대한 7건의 소송이 제기되어 ChatGPT가 "자살 코치" 역할을 했다고 비난했습니다. 구글은 지난달 36세 남성이 "파괴적인 사고"를 연출하고 스스로 목숨을 끊도록 장려한 챗봇 제미니가 있다고 주장한 후 소송을 당했습니다. 구글은 안전 장치를 개선하기 위해 노력하고 있다고 말했으며 OpenAI는 소송의 제출물을 검토하고 있다고 말했습니다.

플로리다에서 법률 총장은 챗GPT와 대학교 캠퍼스에서 대량 살인을 저지른 혐의로 기소된 총기 소지자가 주고받은 메시지를 검토한 후 OpenAI에 대한 형사 조사를 개시했습니다. 이는 기술 회사에 대한 최초의 형사 조사입니다. 텀블러 리지 가족의 변호사들은 그들의 사건이 회사에 대한 유사한 형사 책임을 뒷받침할 수 있다고 믿고 있습니다. 회사는 NBC News에 책임이 없으며 주에서 제기한 질문에 답변했다고 말했습니다.

이는 총기 제조업체 및 판매자, 미국 연방 정부와 같은 기관이 총격 사망 및 부상으로 이어지는 것으로 의심되는 불활용으로 인해 책임을 져야 한다는 주장에 따라 소송을 통해 책임을 묻는 보편적인 접근 방식의 또 다른 예입니다.

텀블러 리지 소송은 게발라, 보조 교사 Shannda Aviugana-Durand, 그리고 학교 총격에서 사망한 5명의 어린이 가족을 대신하여 제기되었습니다. 그 희생자들에는 Zoey Benoit, Ticaria "Tiki" Lampert, Kylie Smith, Ezekiel Schofield, Abel Mwansa Jr.가 포함됩니다. 가족들은 손실이 감당할 수 없다고 말합니다.

잠비아에서 3년 전 캐나다로 이민 온 Mwansa의 부모님은 12세 아들이 좋은 청취자였으며 매일 아침 여동생에게 아침 식사를 준비해 주었다고 말했습니다. 총격에서 살아남은 친구 중 한 명은 Mwansa의 마지막 말이 "엄마 아빠에게 내가 정말 사랑한다고 말해 줘."라고 말했다고 말했습니다.