ครอบครัวฟ้อง OpenAI กรณีไม่รายงานพฤติกรรมของมือปืนชาวแคนาดาบน ChatGPT

ครอบครัวของเหยื่อเจ็ดรายจากเหตุกราดยิงในโรงเรียนมัธยมแห่งหนึ่งในบริติชโคลัมเบีย กำลังฟ้องร้อง OpenAI และ CEO ของบริษัทในข้อหาประมาทเลินเล่อ หลังจากที่ไม่สามารถแจ้งเตือนเจ้าหน้าที่เกี่ยวกับบทสนทนาที่น่ากังวลของผู้ก่อเหตุกับ ChatGPT ได้

การฟ้องร้องซึ่งยื่นฟ้องเมื่อวันพุธในศาลรัฐบาลกลางในซานฟรานซิสโก อ้างว่าเจตนาที่รุนแรงของผู้ก่อเหตุ ซึ่งระบุชื่อว่า Jesse Van Rootselaar อายุ 18 ปี เป็นที่ทราบกันดีอยู่แล้วสำหรับ OpenAI พนักงานของบริษัทได้แจ้งเตือนบัญชีของผู้ก่อเหตุแปดเดือนก่อนการโจมตี และตัดสินว่าบัญชีดังกล่าวเป็น "ภัยคุกคามที่น่าเชื่อถือและเฉพาะเจาะจงต่อความรุนแรงด้วยอาวุธปืนต่อผู้คนจริง" ตามคำฟ้อง

ครอบครัวอ้างว่าพนักงานได้เร่งเร้าให้ Sam Altman CEO ของ OpenAI และผู้นำระดับสูงคนอื่นๆ แจ้งหน่วยงานบังคับใช้กฎหมายของแคนาดาแปดเดือนก่อนการโจมตี แต่บริษัทตัดสินใจที่จะไม่เตือนเจ้าหน้าที่และปิดใช้งานบัญชีของผู้ก่อเหตุแทน ส่วนใหญ่ของเรื่องนี้อิงจากคำบอกเล่าของพนักงานภายในบริษัทที่บอกกับ Wall Street Journal

การตัดสินใจที่จะไม่แจ้งเตือนหน่วยงานบังคับใช้กฎหมายนำไปสู่ความหายนะของชุมชนชนบท Tumbler Ridge ตามคำฟ้อง ซึ่งเมื่อวันที่ 10 กุมภาพันธ์ ผู้ก่อเหตุได้บุกเข้าไปในโรงเรียนมัธยมด้วยปืนไรเฟิลดัดแปลงและเปิดฉากยิง พวกเขายิงบุคคลแรกที่พบในบันได และมุ่งหน้าไปยังห้องสมุด ซึ่งพวกเขาได้สังหารอีกห้าคนและบาดเจ็บอีก 27 คน จากนั้นผู้ก่อเหตุได้ปลิดชีพตนเอง

ก่อนที่จะไปโรงเรียน ผู้ก่อเหตุได้สังหารแม่และน้องชายวัย 11 ปีของตนเองที่บ้านพักของครอบครัว

เหยื่อในโรงเรียนมีอายุตั้งแต่ 12 ถึง 13 ปี และรวมถึงผู้ช่วยสอนวัย 39 ปี หนึ่งในผู้รอดชีวิต Maya Gebala วัย 12 ปี ถูกยิงที่ศีรษะ คอ และแก้ม เธออยู่ในหอผู้ป่วยหนักที่โรงพยาบาลเด็กในแวนคูเวอร์ตั้งแต่เกิดเหตุกราดยิง และได้รับการผ่าตัดสมองสี่ครั้ง หากเธอรอดชีวิต เธออาจมีความพิการถาวร ทนายความของเธอกล่าว

ครอบครัวที่ยื่นฟ้องคดีเจ็ดคดีกล่าวหา OpenAI และ Altman ว่าประมาทเลินเล่อ ช่วยเหลือและสนับสนุนการกราดยิง ทำให้เสียชีวิตโดยมิชอบ และความรับผิดต่อผลิตภัณฑ์ ทนายความของพวกเขากล่าวว่านี่เป็นคลื่นลูกแรกของการฟ้องร้องบริษัท AI เกี่ยวกับการกราดยิง และจะมีคดีอีกประมาณสองโหลตามมา

ในการแถลงการณ์ต่อ The Guardian, OpenAI กล่าวว่า: "เหตุการณ์ที่ Tumbler Ridge เป็นโศกนาฏกรรม เรามีนโยบายไม่ยอมรับการใช้เครื่องมือของเราเพื่อช่วยเหลือในการก่ออาชญากรรมความรุนแรง ดังที่เราได้แจ้งต่อเจ้าหน้าที่แคนาดา เราได้เสริมความแข็งแกร่งให้กับมาตรการรักษาความปลอดภัยของเราแล้ว รวมถึงการปรับปรุงวิธีการตอบสนองของ ChatGPT ต่อสัญญาณความทุกข์ การเชื่อมโยงผู้คนกับทรัพยากรสนับสนุนและสุขภาพจิตในท้องถิ่น การเสริมความแข็งแกร่งในการประเมินและยกระดับภัยคุกคามความรุนแรงที่อาจเกิดขึ้น และการปรับปรุงการตรวจจับผู้ละเมิดนโยบายซ้ำๆ"

หลังจาก The Guardian ติดต่อขอความคิดเห็น OpenAI ได้เผยแพร่โพสต์บล็อกใหม่เกี่ยวกับ "ความมุ่งมั่นด้านความปลอดภัย" และ "การปกป้องความปลอดภัยของชุมชน"

การโจมตีครั้งนี้เป็นหนึ่งในเหตุกราดยิงที่ร้ายแรงที่สุดในประวัติศาสตร์แคนาดา ในภายหลัง ชุมชนเล็กๆ เต็มไปด้วยคำถามว่าเหตุใดจึงเกิดขึ้น

บัญชี ChatGPT ของ Van Rootselaar ถูกแบนแปดเดือนก่อนการกราดยิง หลังจากที่ทีมความปลอดภัยของ OpenAI แจ้งเตือนเกี่ยวกับบทสนทนาที่รุนแรง ตามคำฟ้อง อย่างไรก็ตาม ผู้ก่อเหตุสามารถสร้างบัญชีใหม่ได้อย่างรวดเร็ว การฟ้องร้องอ้าง

แม้ว่า OpenAI จะกล่าวว่าผู้ก่อเหตุสร้างบัญชีที่สองซึ่งบริษัทไม่ทราบจนกระทั่งหลังการกราดยิง แต่การฟ้องร้องกล่าวว่าบริษัทได้ให้คำแนะนำแก่ผู้ใช้เกี่ยวกับวิธีการกลับไปใช้ ChatGPT หากบัญชีถูกปิดใช้งาน ซึ่งผู้ก่อเหตุได้ปฏิบัติตาม

"ข้อเท็จจริงที่ว่า Sam และฝ่ายบริหารได้ลบล้างทีมความปลอดภัย และจากนั้นเด็กๆ ก็เสียชีวิต ผู้ใหญ่ก็เสียชีวิต ทั้งเมืองก็พังทลาย ถือว่าใกล้เคียงกับคำจำกัดความของความชั่วร้ายสำหรับฉัน" Jay Edelson ทนายความหลักที่ตัวแทนของโจทก์ใน Tumbler Ridge กล่าว

การฟ้องร้องอ้างว่าการเลือกที่จะปกปิดการโต้ตอบของผู้ก่อเหตุกับ ChatGPT จากเจ้าหน้าที่แคนาดา และต่อมาบอกสาธารณะว่าผู้ก่อเหตุแอบกลับเข้ามาในแพลตฟอร์ม ถูกทำขึ้นเพื่อ "ความอยู่รอดขององค์กร" และเพื่อปกป้อง IPO ของบริษัท ซึ่งมีมูลค่าประเมิน 1 ล้านล้านดอลลาร์ และอาจทำให้ Altman เป็นหนึ่งในบุคคลที่ร่ำรวยที่สุดในโลก

OpenAI ปฏิเสธที่จะแบ่งปันบันทึกระหว่างแชทบอทกับผู้ก่อเหตุใน Tumbler Ridge Edelson กล่าว

เมื่อปลายสัปดาห์ที่แล้ว Altman ได้ส่งจดหมายถึงชุมชน Tumbler Ridge เพื่อขอโทษที่ไม่แจ้งตำรวจแคนาดาเกี่ยวกับสิ่งที่ OpenAI ทราบเกี่ยวกับภัยคุกคามที่อาจเกิดขึ้นจากผู้ก่อเหตุ

"แม้ว่าฉันจะรู้ว่าคำพูดไม่สามารถเพียงพอได้ แต่ฉันเชื่อว่าคำขอโทษเป็นสิ่งจำเป็นเพื่อรับทราบถึงความเสียหายและการสูญเสียที่ไม่อาจย้อนกลับได้ที่ชุมชนของคุณได้รับ" Altman เขียน "ฉันขอยืนยันความมุ่งมั่นที่ฉันได้ให้ไว้กับนายกเทศมนตรีและนายกรัฐมนตรีในการหาวิธีป้องกันโศกนาฏกรรมเช่นนี้ในอนาคต"

David Eby นายกรัฐมนตรีบริติชโคลัมเบีย โพสต์จดหมายดังกล่าวบนโซเชียลมีเดียพร้อมความคิดเห็นว่า: "คำขอโทษเป็นสิ่งจำเป็น แต่ก็ยังไม่เพียงพออย่างยิ่งต่อความหายนะที่เกิดขึ้นกับครอบครัวใน Tumbler Ridge"

เมื่อวันที่ 26 กุมภาพันธ์ ไม่ถึงสองสัปดาห์หลังจากการกราดยิง Ann O'Leary รองประธานฝ่ายนโยบายระดับโลกของ OpenAI ได้ส่งจดหมายถึง Evan Solomon รัฐมนตรีว่าการกระทรวงปัญญาประดิษฐ์และนวัตกรรมดิจิทัลของแคนาดา O'Leary เขียนว่า จากสิ่งที่บริษัทเห็นเมื่อบัญชีของผู้ก่อเหตุถูกปิดใช้งาน บริษัท "ไม่ได้ระบุถึงการวางแผนที่น่าเชื่อถือและใกล้จะเกิดขึ้นซึ่งตรงตามเกณฑ์ของเราในการส่งเรื่องไปยังหน่วยงานบังคับใช้กฎหมาย" การตัดสินใจนี้เกิดขึ้นแม้จะมีคำเตือนจากทีมความปลอดภัยของ OpenAI ว่าควรมีการรายงานบัญชีดังกล่าว

O'Leary ยังได้แจกแจงมาตรการที่บริษัทวางแผนจะดำเนินการ เช่น การเสริมสร้างความสัมพันธ์กับหน่วยงานบังคับใช้กฎหมายของแคนาดา และการเพิ่มประสิทธิภาพระบบเพื่อตรวจจับผู้ใช้ที่ถูกแบนซ้ำๆ จาก ChatGPT แต่ต่อมาสร้างบัญชีใหม่

การฟ้องร้องเหล่านี้เป็นส่วนหนึ่งของคดีที่เพิ่มขึ้นต่อบริษัท AI เกี่ยวกับข้อกล่าวหาว่าแชทบอทของพวกเขากำลังทำให้วิกฤตสุขภาพจิตเลวร้ายลงและกระตุ้นให้เกิดการกระทำที่รุนแรง ในเดือนพฤศจิกายน มีการร้องเรียนเจ็ดฉบับยื่นฟ้อง OpenAI โดยกล่าวหาว่า ChatGPT ทำหน้าที่เป็น "โค้ชฆ่าตัวตาย" Google ถูกฟ้องเมื่อเดือนที่แล้วหลังจากแชทบอท Gemini ถูกกล่าวหาว่ายุยงให้ชายวัย 36 ปีวางแผน "อุบัติเหตุร้ายแรง" และจากนั้นก็ฆ่าตัวตาย Google กล่าวว่ากำลังทำงานเพื่อปรับปรุงมาตรการรักษาความปลอดภัย และ OpenAI กล่าวว่ากำลังทบทวนเอกสารการฟ้องร้อง

ในฟลอริดา อัยการสูงสุดเพิ่งเปิดการสอบสวนคดีอาญาต่อ OpenAI หลังจากตรวจสอบข้อความระหว่าง ChatGPT และมือปืนที่ถูกกล่าวหาว่าก่อเหตุกราดยิงในมหาวิทยาลัยแห่งรัฐฟลอริดา ซึ่งเป็นการสอบสวนคดีอาญาครั้งแรกต่อบริษัทเทคโนโลยี ทนายความของครอบครัวใน Tumbler Ridge กล่าวว่าพวกเขาเชื่อว่าคดีของพวกเขาอาจสนับสนุนความรับผิดทางอาญาที่คล้ายคลึงกันต่อบริษัท บริษัทกล่าวกับ NBC News ว่าตนเองไม่มีความรับผิดชอบต่อการกราดยิง และได้ตอบคำถามของรัฐแล้ว

นี่เป็นอีกตัวอย่างหนึ่งของแนวทางที่ใช้กันทั่วไปในปัจจุบันในการใช้การฟ้องร้องเพื่อเอาผิดกับหน่วยงานต่างๆ เช่น ผู้ผลิตปืนและตัวแทนจำหน่าย และรัฐบาลกลางสหรัฐฯ สำหรับการเพิกเฉยที่ถูกกล่าวหาซึ่งนำไปสู่การเสียชีวิตและบาดเจ็บจากการกราดยิง

การฟ้องร้องเจ็ดคดีใน Tumbler Ridge ยื่นฟ้องในนามของ Gebala, ครอบครัวของผู้ช่วยสอน Shannda Aviugana-Durand และครอบครัวของเด็กห้าคนที่เสียชีวิตในการกราดยิงในโรงเรียน เหยื่อเหล่านั้นรวมถึง Zoey Benoit, Ticaria “Tiki” Lampert, Kylie Smith, Ezekiel Schofield และ Abel Mwansa Jr. ครอบครัวกล่าวว่าการสูญเสียนั้นไม่อาจทนทานได้

พ่อแม่ของ Mwansa ซึ่งอพยพมาแคนาดาจากแซมเบียเมื่อสามปีก่อน กล่าวว่าลูกชายวัย 12 ปีของพวกเขาเป็นผู้ฟังที่ดีที่ทำอาหารเช้าให้น้องสาวทุกเช้า เพื่อนคนหนึ่งของเขาที่รอดชีวิตจากการกราดยิงกล่าวว่าคำพูดสุดท้ายของ Mwansa คือ: "บอกพ่อแม่ของฉันว่าฉันรักพวกเขามาก"