Các gia đình kiện OpenAI vì không báo cáo hành vi của kẻ xả súng ở Canada trên ChatGPT

Các gia đình của bảy nạn nhân trong một vụ xả súng hàng loạt tại một trường trung học ở British Columbia đang kiện OpenAI và CEO của công ty vì sơ suất sau khi công ty này không cảnh báo chính quyền về các cuộc trò chuyện đáng lo ngại của kẻ xả súng với ChatGPT.

Các vụ kiện, được đệ trình vào thứ Tư tại một tòa án liên bang ở San Francisco, cáo buộc rằng ý định bạo lực của kẻ xả súng, được xác định là Jesse Van Rootselaar, 18 tuổi, đã được OpenAI biết rõ. Nhân viên của công ty đã gắn cờ tài khoản của kẻ xả súng tám tháng trước vụ tấn công và xác định rằng nó gây ra "mối đe dọa đáng tin cậy và cụ thể về bạo lực súng đạn đối với người thật", theo vụ kiện.

Các gia đình cáo buộc rằng các nhân viên đã thúc giục Sam Altman, CEO của OpenAI, và các lãnh đạo cấp cao khác thông báo cho cơ quan thực thi pháp luật Canada tám tháng trước vụ tấn công, nhưng công ty đã quyết định không cảnh báo chính quyền và thay vào đó vô hiệu hóa tài khoản của kẻ xả súng. Phần lớn thông tin này dựa trên lời kể của các nhân viên trong công ty nói với tờ Wall Street Journal.

Quyết định không cảnh báo cơ quan thực thi pháp luật đã dẫn đến sự tàn phá của cộng đồng nông thôn Tumbler Ridge, vụ kiện cáo buộc, nơi vào ngày 10 tháng 2, kẻ xả súng đã xông vào trường trung học với một khẩu súng trường đã được sửa đổi và bắt đầu xả súng. Họ đã bắn người đầu tiên họ gặp ở cầu thang, và tiếp tục đến thư viện, nơi họ giết chết năm người khác và làm bị thương 27 người nữa. Sau đó, kẻ xả súng đã tự sát.

Trước khi đến trường, kẻ xả súng đã giết mẹ và em trai 11 tuổi của mình tại nhà riêng.

Các nạn nhân ở trường có độ tuổi từ 12 đến 13 và bao gồm một trợ giảng 39 tuổi. Một trong những người sống sót, Maya Gebala, 12 tuổi, bị bắn vào đầu, cổ và má. Cô đã ở trong phòng chăm sóc đặc biệt tại bệnh viện nhi ở Vancouver kể từ vụ xả súng và đã trải qua bốn ca phẫu thuật não. Nếu cô ấy sống sót, cô ấy có khả năng sẽ bị khuyết tật vĩnh viễn, các luật sư của cô cho biết.

Các gia đình đệ đơn bảy vụ kiện cáo buộc OpenAI và Altman sơ suất, tiếp tay và đồng lõa trong một vụ xả súng hàng loạt, cái chết oan uổng và trách nhiệm sản phẩm. Các luật sư của họ cho biết đây là làn sóng kiện tụng đầu tiên chống lại công ty AI về vụ xả súng, và khoảng hai chục vụ kiện nữa sắp tới.

Trong một tuyên bố với The Guardian, OpenAI cho biết: "Các sự kiện ở Tumbler Ridge là một bi kịch. Chúng tôi có chính sách không khoan nhượng đối với việc sử dụng công cụ của chúng tôi để hỗ trợ thực hiện bạo lực. Như chúng tôi đã chia sẻ với các quan chức Canada, chúng tôi đã tăng cường các biện pháp bảo vệ của mình, bao gồm cải thiện cách ChatGPT phản ứng với các dấu hiệu đau khổ, kết nối mọi người với các nguồn hỗ trợ và sức khỏe tâm thần tại địa phương, tăng cường cách chúng tôi đánh giá và leo thang các mối đe dọa bạo lực tiềm ẩn, và cải thiện việc phát hiện những người vi phạm chính sách lặp đi lặp lại."

Sau khi The Guardian liên hệ để xin bình luận, OpenAI đã đăng một bài đăng trên blog mới về "cam kết về an toàn" và cách họ "bảo vệ an toàn cộng đồng".

Vụ tấn công là một trong những vụ xả súng hàng loạt chết chóc nhất trong lịch sử Canada. Sau đó, những câu hỏi xoay quanh cộng đồng nhỏ về cách nó có thể xảy ra.

Tài khoản ChatGPT của Van Rootselaar đã bị cấm tám tháng trước vụ xả súng, sau khi đội an toàn của OpenAI gắn cờ nó vì các cuộc trò chuyện bạo lực, theo vụ kiện. Tuy nhiên, kẻ xả súng đã có thể nhanh chóng tạo một tài khoản mới, vụ kiện cáo buộc.

Mặc dù OpenAI nói rằng kẻ xả súng đã tạo một tài khoản thứ hai mà công ty không hề hay biết cho đến sau vụ xả súng, các vụ kiện cho biết công ty cung cấp cho người dùng hướng dẫn cách quay lại ChatGPT nếu họ bị vô hiệu hóa, điều mà kẻ xả súng đã làm theo.

"Việc Sam và ban lãnh đạo đã bác bỏ đội an toàn, và sau đó trẻ em chết, người lớn chết, cả thị trấn bị hủy hoại, đối với tôi gần như là định nghĩa của cái ác," Jay Edelson, luật sư trưởng đại diện cho các nguyên đơn ở Tumbler Ridge, nói.

Vụ kiện cáo buộc rằng quyết định che giấu các tương tác của kẻ xả súng với ChatGPT khỏi chính quyền Canada, và sau đó nói với công chúng rằng kẻ xả súng đã lén quay lại nền tảng, được đưa ra vì lợi ích của "sự tồn tại của công ty" và để bảo vệ đợt IPO của công ty, dự kiến ​​có định giá 1 nghìn tỷ đô la và có thể khiến Altman trở thành một trong những người giàu nhất thế giới.

OpenAI đã từ chối chia sẻ nhật ký giữa chatbot của họ và kẻ xả súng ở Tumbler Ridge, Edelson nói.

Cuối tuần trước, Altman đã gửi một lá thư tới cộng đồng Tumbler Ridge xin lỗi vì đã không thông báo cho cảnh sát Canada về những gì OpenAI biết liên quan đến mối đe dọa tiềm tàng của kẻ xả súng.

"Mặc dù tôi biết lời nói không bao giờ là đủ, tôi tin rằng lời xin lỗi là cần thiết để thừa nhận tổn thất và mất mát không thể khắc phục mà cộng đồng của bạn đã phải gánh chịu," Altman viết. "Tôi tái khẳng định cam kết của mình với thị trưởng và thủ hiến về việc tìm cách ngăn chặn những thảm kịch như thế này trong tương lai."

David Eby, thủ hiến British Columbia, đã đăng lá thư lên mạng xã hội kèm theo bình luận: "Lời xin lỗi là cần thiết, nhưng vẫn còn quá thiếu sót đối với sự tàn phá đã gây ra cho các gia đình ở Tumbler Ridge."

Vào ngày 26 tháng 2, hơn hai tuần sau vụ xả súng, phó chủ tịch chính sách toàn cầu của OpenAI, Ann O’Leary, đã gửi một lá thư cho Evan Solomon, bộ trưởng trí tuệ nhân tạo và đổi mới kỹ thuật số của Canada. O’Leary viết rằng dựa trên những gì công ty nhìn thấy khi tài khoản của kẻ xả súng bị vô hiệu hóa, họ đã không "xác định được kế hoạch đáng tin cậy và sắp xảy ra đáp ứng ngưỡng của chúng tôi để chuyển vụ việc cho cơ quan thực thi pháp luật". Quyết định này được đưa ra bất chấp cảnh báo từ đội an toàn của OpenAI rằng tài khoản đó lẽ ra phải được báo cáo.

O’Leary cũng nêu rõ các hành động mà công ty dự định thực hiện, chẳng hạn như tăng cường mối quan hệ của họ với cơ quan thực thi pháp luật Canada và củng cố hệ thống của họ để phát hiện những người dùng bị cấm lặp đi lặp lại khỏi ChatGPT nhưng sau đó tạo tài khoản mới.

Các vụ kiện là một phần của làn sóng các vụ kiện chống lại các công ty AI về cáo buộc rằng các chatbot của họ đang làm trầm trọng thêm các cuộc khủng hoảng sức khỏe tâm thần và kích động các hành vi bạo lực. Vào tháng 11, bảy đơn khiếu nại đã được đệ trình chống lại OpenAI, đổ lỗi cho ChatGPT vì đã đóng vai trò là "huấn luyện viên tự sát". Google đã bị kiện vào tháng trước sau khi chatbot Gemini của họ bị cáo buộc khuyến khích một người đàn ông 36 tuổi dàn dựng một "tai nạn thảm khốc" và sau đó tự sát. Google cho biết họ đang nỗ lực cải thiện các biện pháp bảo vệ và OpenAI cho biết họ đang xem xét các hồ sơ vụ kiện.

Ở Florida, tổng chưởng lý gần đây đã mở một cuộc điều tra hình sự đối với OpenAI sau khi xem xét các tin nhắn giữa ChatGPT và một tay súng bị buộc tội thực hiện một vụ xả súng hàng loạt tại khuôn viên Đại học Bang Florida – cuộc điều tra hình sự đầu tiên như vậy đối với một công ty công nghệ. Các luật sư của các gia đình ở Tumbler Ridge cho biết họ tin rằng các vụ kiện của họ có thể hỗ trợ trách nhiệm hình sự tương tự đối với công ty. Công ty nói với NBC News rằng họ không chịu trách nhiệm về vụ xả súng và đã trả lời các câu hỏi của tiểu bang.

Đây là một ví dụ khác về cách tiếp cận phổ biến hiện nay là sử dụng các vụ kiện để buộc các tổ chức như nhà sản xuất súng, đại lý và chính phủ liên bang Hoa Kỳ phải chịu trách nhiệm về hành động bị cáo buộc là không hành động đã dẫn đến tử vong và thương tích do xả súng.

Bảy vụ kiện ở Tumbler Ridge được đệ trình thay mặt cho Gebala, gia đình của trợ giảng Shannda Aviugana-Durand, và gia đình của năm đứa trẻ đã chết trong vụ xả súng ở trường. Những nạn nhân đó bao gồm Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield và Abel Mwansa Jr. Các gia đình nói rằng sự mất mát là không thể chịu đựng được.

Cha mẹ của Mwansa, những người nhập cư đến Canada từ Zambia ba năm trước, nói rằng con trai 12 tuổi của họ là một người biết lắng nghe và đã làm bữa sáng cho chị gái mỗi sáng. Một trong những người bạn của cậu bé sống sót sau vụ xả súng nói rằng lời cuối cùng của Mwansa là: "Hãy nói với bố mẹ rằng con yêu họ rất nhiều."