Aileler, ChatGPT'deki Kanada toplu silahlı saldırganının davranışını bildirmemesinden dolayı OpenAI'ye dava açtı

Britanya Kolumbiyası'ndaki bir ortaokuldaki toplu silahlı saldırının yedi kurbanının aileleri, OpenAI ve şirketin CEO'sunu, saldırganın ChatGPT ile olan rahatsız edici konuşmalarını yetkililere bildirmekte ihmalkar davrandığı gerekçesiyle ihmalle suçluyor.

Çarşamba günü San Francisco'daki federal bir mahkemede açılan davalar, 18 yaşındaki Jesse Van Rootselaar olduğu belirlenen saldırganın şiddet içeren niyetlerinin OpenAI tarafından bilindiğini iddia ediyor. Davaya göre, şirketteki çalışanlar saldırıdan sekiz ay önce saldırganın hesabını işaretlemiş ve bunun "gerçek insanlara yönelik silahlı şiddet tehdidi oluşturduğunu" belirlemişti.

Aileler, çalışanların OpenAI CEO'su Sam Altman ve diğer üst düzey yöneticileri saldırıdan sekiz ay önce Kanada kolluk kuvvetlerini bilgilendirmeye teşvik ettiğini, ancak şirketin yetkilileri uyarmamaya karar verip bunun yerine saldırganın hesabını devre dışı bıraktığını iddia ediyor. Bunların büyük bir kısmı, şirketteki çalışanların Wall Street Journal'a verdiği bilgilere dayanıyor.

Davaya göre, kolluk kuvvetlerini uyarmama kararı, 10 Şubat'ta saldırganın modifiye edilmiş bir tüfekle ortaokula dalarak ateş açtığı Tumbler Ridge'in kırsal topluluğunun yıkımına yol açtı. Karşılaştıkları ilk kişiyi bir merdiven boşluğunda vurdular ve kütüphaneye giderek orada beş kişiyi öldürüp 27 kişiyi daha yaraladılar. Ardından saldırgan intihar etti.

Okula gitmeden önce saldırgan, aile evinde annesini ve 11 yaşındaki kardeşini öldürdü.

Okul kurbanlarının yaşları 12 ila 13 arasında değişiyor ve 39 yaşında bir öğretim asistanı da bulunuyor. Hayatta kalanlardan 12 yaşındaki Maya Gebala, başından, boynundan ve yanağından vuruldu. Saldırıdan bu yana Vancouver'daki çocuk hastanesinde yoğun bakımda ve dört beyin ameliyatı geçirdi. Avukatları, hayatta kalırsa muhtemelen kalıcı engelleri olacağını söyledi.

Yedi davayı açan aileler, OpenAI ve Altman'ı ihmal, toplu silahlı saldırıya yardım ve yataklık, haksız ölüm ve ürün sorumluluğu ile suçluyor. Avukatları, bunun AI şirketine yönelik silahlı saldırıyla ilgili ilk dava dalgası olduğunu ve yaklaşık iki düzine daha davanın geleceğini söylüyor.

Guardian'a yaptığı açıklamada OpenAI, "Tumbler Ridge'deki olaylar bir trajedidir. Araçlarımızı şiddet eylemlerine yardımcı olmak için kullanmaya sıfır tolerans politikamız var. Kanadalı yetkililere bildirdiğimiz gibi, güvenlik önlemlerimizi zaten güçlendirdik, bunlara ChatGPT'nin sıkıntı belirtilerine nasıl tepki verdiğini iyileştirme, insanları yerel destek ve ruh sağlığı kaynaklarıyla buluşturma, potansiyel şiddet tehditlerini değerlendirme ve yükseltme şeklimizi güçlendirme ve tekrar eden politika ihlalcilerini tespit etmeyi iyileştirme dahildir." dedi.

Guardian'ın yorum talebine yanıt vermesinin ardından OpenAI, "güvenliğe bağlılığı" ve "topluluk güvenliğini nasıl koruduğu" hakkında yeni bir blog yazısı yayınladı.

Saldırı, Kanada tarihindeki en ölümcül toplu silahlı saldırılardan biriydi. Sonrasında, küçük toplulukta bunun nasıl olabileceğine dair sorular dolaştı.

Davaya göre, Van Rootselaar'ın ChatGPT hesabı, OpenAI'nin güvenlik ekibinin şiddet içeren konuşmalar nedeniyle hesabı işaretlemesinden sekiz ay önce yasaklanmıştı. Ancak davaya göre, saldırgan hızla yeni bir hesap oluşturmayı başardı.

OpenAI, saldırganın saldırıdan sonra şirketin farkına vardığı ikinci bir hesap oluşturduğunu söylese de, davalar şirketin kullanıcılara devre dışı bırakılmaları halinde ChatGPT'ye nasıl geri döneceklerine dair talimatlar verdiğini ve saldırganın da bunlara uyduğunu belirtiyor.

Tumbler Ridge davacılarını temsil eden baş avukat Jay Edelson, "Sam ve liderliğin güvenlik ekibini devre dışı bırakması ve ardından çocukların ölmesi, yetişkinlerin ölmesi, tüm kasabanın mahvolması benim için kötülüğün tanımına oldukça yakın" dedi.

Dava, saldırganın ChatGPT ile olan etkileşimlerini Kanada yetkililerinden gizleme ve daha sonra kamuoyuna saldırganın platforma geri sızdığını söyleme kararının "kurumsal hayatta kalma" ve 1 trilyon dolarlık tahmini değeriyle Altman'ı dünyanın en zengin insanlarından biri yapabilecek halka arzını koruma amacıyla alındığını iddia ediyor.

Edelson, OpenAI'nin sohbet robotu ile Tumbler Ridge saldırganı arasındaki günlükleri paylaşmayı reddettiğini söyledi.

Geçen haftanın sonlarında Altman, OpenAI'nin saldırganın potansiyel tehdidiyle ilgili bildikleri hakkında Kanada polisini bilgilendirmediği için Tumbler Ridge topluluğundan özür dileyen bir mektup gönderdi.

Altman, "Kelimelerin asla yeterli olamayacağını bilsem de, topluluğunuzun yaşadığı zararı ve geri dönüşü olmayan kaybı kabul etmek için bir özrün gerekli olduğuna inanıyorum" diye yazdı. "Belediye başkanına ve başbakana gelecekte bu tür trajedileri önlemenin yollarını bulma konusundaki taahhüdümü yeniden teyit ediyorum."

Britanya Kolumbiyası Başbakanı David Eby, mektubu sosyal medyada şu yorumla paylaştı: "Özür gerekli, ancak Tumbler Ridge ailelerine verilen yıkım için son derece yetersiz."

26 Şubat'ta, saldırıdan iki haftadan biraz fazla bir süre sonra, OpenAI'nin küresel politika başkan yardımcısı Ann O'Leary, Kanada yapay zeka ve dijital inovasyon bakanı Evan Solomon'a bir mektup gönderdi. O'Leary, şirketin saldırganın hesabı devre dışı bırakıldığında gördüklerine dayanarak, "kolluk kuvvetlerine sevk edilmemiz gereken güvenilir ve acil planlama tespit etmediğini" yazdı. Bu karar, OpenAI'nin güvenlik ekibinden hesabın bildirilmesi gerektiği yönündeki uyarılara rağmen geldi.

O'Leary ayrıca şirketin planladığı eylemleri de sıraladı; bunlar arasında Kanada kolluk kuvvetleriyle ilişkilerini güçlendirmek ve ChatGPT'den tekrar tekrar yasaklanan ancak daha sonra yeni hesaplar açan kullanıcıları tespit etmek için sistemini güçlendirmek yer alıyordu.

Davalar, sohbet robotlarının ruh sağlığı krizlerini şiddetlendirdiği ve şiddet eylemlerini kışkırttığı iddiaları üzerine AI şirketlerine karşı açılan davalar dalgasının bir parçası. Kasım ayında, OpenAI'ye karşı ChatGPT'nin "intihar koçu" olarak hareket etmekle suçlayan yedi şikayet dosyalandı. Google geçen ay, Gemini sohbet robotunun 36 yaşındaki bir adamı "felaket bir kaza" düzenlemeye ve ardından kendini öldürmeye teşvik ettiği iddia edildikten sonra dava edildi. Google, güvenlik önlemlerini iyileştirmek için çalıştığını ve OpenAI'nin dava dosyalarını incelediğini söyledi.

Florida'da, başsavcı yakın zamanda Florida Eyalet Üniversitesi kampüsünde toplu silahlı saldırı ile suçlanan bir silahlı saldırgan ile ChatGPT arasındaki mesajları inceledikten sonra OpenAI hakkında cezai soruşturma başlattı - bir teknoloji şirketine yönelik ilk bu tür cezai soruşturma. Tumbler Ridge ailelerinin avukatları, davalarının şirket aleyhine benzer cezai sorumluluğu destekleyebileceğine inanıyor. Şirket NBC News'e saldırıdan sorumlu olmadığını ve eyaletin sorularını yanıtladığını söyledi.

Bu, silah üreticileri ve satıcıları ile ABD federal hükümeti gibi kuruluşları, silahlı ölümlere ve yaralanmalara yol açan iddia edilen eylemsizliklerinden sorumlu tutmak için davaların kullanılmasının artık yaygınlaşan yaklaşımının bir başka örneğidir.

Yedi Tumbler Ridge davası, Gebala, öğretim asistanı Shannda Aviugana-Durand'ın ailesi ve okul saldırısında ölen çocuklardan beşinin aileleri adına açıldı. Bu kurbanlar arasında Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield ve Abel Mwansa Jr. yer alıyor. Aileler, kaybın dayanılmaz olduğunu söylüyor.

Üç yıl önce Zambiya'dan Kanada'ya göç eden Mwansa'nın ailesi, 12 yaşındaki oğlunun iyi bir dinleyici olduğunu ve her sabah kız kardeşine kahvaltı hazırladığını söylüyor. Saldırıdan kurtulan arkadaşlarından biri, Mwansa'nın son sözlerinin "Anneme onu çok sevdiğimi söyleyin" olduğunu söyledi.