परिवारों ने ChatGPT पर कनाडा के सामूहिक हत्यारे के व्यवहार की रिपोर्ट करने में विफलता पर OpenAI पर मुकदमा दायर किया

ब्रिटिश कोलंबिया के एक माध्यमिक विद्यालय में सामूहिक गोलीबारी के सात पीड़ितों के परिवारों ने OpenAI और कंपनी के सीईओ पर लापरवाही का मुकदमा दायर किया है, क्योंकि उन्होंने शूटर की ChatGPT के साथ परेशान करने वाली बातचीत के बारे में अधिकारियों को सचेत करने में विफल रहे।

बुधवार को सैन फ्रांसिस्को में एक संघीय अदालत में दायर मुकदमों में आरोप लगाया गया है कि 18 वर्षीय जेसी वैन रूट्सেলার के रूप में पहचाने गए शूटर के हिंसक इरादे OpenAI को अच्छी तरह से ज्ञात थे। मुकदमे के अनुसार, कंपनी के कर्मचारियों ने हमले से आठ महीने पहले शूटर के खाते को फ़्लैग किया था और निर्धारित किया था कि यह "वास्तविक लोगों के खिलाफ बंदूक हिंसा का एक विश्वसनीय और विशिष्ट खतरा" था।

परिवारों का आरोप है कि कर्मचारियों ने OpenAI के सीईओ सैम ऑल्टमैन और अन्य वरिष्ठ नेताओं से हमले से आठ महीने पहले कनाडाई कानून प्रवर्तन को सूचित करने का आग्रह किया था, लेकिन कंपनी ने अधिकारियों को चेतावनी न देने का फैसला किया और इसके बजाय शूटर के खाते को निष्क्रिय कर दिया। इसका बहुत कुछ उन खातों पर आधारित है जो कंपनी के अंदर के कर्मचारियों ने वॉल स्ट्रीट जर्नल को बताए थे।

कानून प्रवर्तन को सचेत न करने के फैसले के कारण टम्बलर रिज के ग्रामीण समुदाय का विनाश हुआ, जैसा कि मुकदमे में आरोप लगाया गया है, जहां 10 फरवरी को शूटर ने एक संशोधित राइफल के साथ माध्यमिक विद्यालय में धावा बोल दिया और गोलीबारी शुरू कर दी। उन्होंने सीढ़ी पर सबसे पहले मिले व्यक्ति को गोली मार दी, और पुस्तकालय में चले गए, जहाँ उन्होंने पाँच अन्य लोगों को मार डाला और 27 को घायल कर दिया। इसके बाद शूटर ने खुद को मार डाला।

स्कूल जाने से पहले, शूटर ने अपने परिवार के घर में अपनी माँ और 11 वर्षीय भाई की हत्या कर दी थी।

स्कूल के पीड़ितों की उम्र 12 से 13 वर्ष के बीच है और इसमें 39 वर्षीय एक शिक्षण सहायक भी शामिल है। बचे लोगों में से एक, 12 वर्षीय माया गेबाला को सिर, गर्दन और गाल में गोली लगी थी। वह तब से वैंकूवर के बच्चों के अस्पताल के गहन चिकित्सा कक्ष में है और चार मस्तिष्क सर्जरी करा चुकी है। उसके वकीलों ने कहा कि अगर वह बच जाती है, तो उसे स्थायी विकलांगता होने की संभावना है।

सात मुकदमे दायर करने वाले परिवारों ने OpenAI और ऑल्टमैन पर लापरवाही, सामूहिक गोलीबारी में सहायता और उकसाने, गलत मौत और उत्पाद दायित्व का आरोप लगाया है। उनके वकीलों का कहना है कि यह गोलीबारी को लेकर AI कंपनी के खिलाफ मुकदमों की पहली लहर है, और लगभग दो दर्जन और मामले आने वाले हैं।

गार्जियन को दिए एक बयान में, OpenAI ने कहा: "टम्बलर रिज की घटनाएँ एक त्रासदी हैं। हमारे उपकरणों का उपयोग हिंसा करने में सहायता के लिए करने के प्रति हमारी शून्य-सहिष्णुता नीति है। जैसा कि हमने कनाडाई अधिकारियों के साथ साझा किया है, हमने पहले ही अपने सुरक्षा उपायों को मजबूत कर लिया है, जिसमें ChatGPT संकट के संकेतों पर कैसे प्रतिक्रिया करता है, लोगों को स्थानीय सहायता और मानसिक स्वास्थ्य संसाधनों से जोड़ना, हम संभावित हिंसा के खतरों का आकलन और वृद्धि कैसे करते हैं, और बार-बार नीति का उल्लंघन करने वालों का पता लगाने में सुधार करना शामिल है।"

गार्जियन द्वारा टिप्पणी के लिए संपर्क करने के बाद, OpenAI ने अपनी "सुरक्षा के प्रति प्रतिबद्धता" और "सामुदायिक सुरक्षा की रक्षा" के बारे में एक नया ब्लॉग पोस्ट प्रकाशित किया।

यह हमला कनाडाई इतिहास में सबसे घातक सामूहिक गोलीबारी में से एक था। इसके बाद, छोटे समुदाय में यह सवाल उठने लगे कि यह कैसे हो सकता है।

मुकदमे के अनुसार, वैन रूट्सেলার के ChatGPT खाते को गोलीबारी से आठ महीने पहले प्रतिबंधित कर दिया गया था, क्योंकि OpenAI की सुरक्षा टीम ने इसे हिंसक बातचीत के लिए फ़्लैग किया था। हालाँकि, मुकदमे में आरोप लगाया गया है कि शूटर एक नया खाता जल्दी से बनाने में सक्षम था।

हालांकि OpenAI का कहना है कि शूटर ने एक दूसरा खाता बनाया जिसके बारे में कंपनी को गोलीबारी के बाद तक पता नहीं चला था, मुकदमों में कहा गया है कि कंपनी उपयोगकर्ताओं को निर्देश प्रदान करती है कि यदि उन्हें निष्क्रिय कर दिया जाता है तो ChatGPT पर कैसे वापस लौटना है, जिसका शूटर ने पालन किया।

टम्बलर रिज वादी का प्रतिनिधित्व करने वाले प्रमुख वकील जे एडेलसन ने कहा, "यह तथ्य कि सैम और नेतृत्व ने सुरक्षा टीम को ओवररूल किया, और फिर बच्चे मर गए, वयस्क मर गए, पूरा शहर बर्बाद हो गया, यह मेरे लिए बुराई की परिभाषा के बहुत करीब है।"

मुकदमे में आरोप लगाया गया है कि शूटर की ChatGPT के साथ बातचीत को कनाडाई अधिकारियों से छिपाने का विकल्प, और बाद में जनता को यह बताना कि शूटर प्लेटफॉर्म पर वापस आ गया था, "कॉर्पोरेट अस्तित्व" के हित में और कंपनी के IPO की रक्षा के लिए किया गया था, जिसका अनुमानित मूल्यांकन $1tn है और ऑल्टमैन को दुनिया के सबसे अमीर लोगों में से एक बना सकता है।

एडेलसन ने कहा कि OpenAI ने टम्बलर रिज शूटर के साथ अपने चैटबॉट के बीच लॉग साझा करने से इनकार कर दिया है।

पिछले सप्ताह के अंत में, ऑल्टमैन ने टम्बलर रिज समुदाय को एक पत्र भेजा, जिसमें OpenAI को शूटर के संभावित खतरे के बारे में कनाडाई पुलिस को सूचित न करने के लिए माफी मांगी गई।

ऑल्टमैन ने लिखा, "हालांकि मुझे पता है कि शब्द कभी भी पर्याप्त नहीं हो सकते, मेरा मानना ​​है कि आपके समुदाय ने जो नुकसान और अपरिवर्तनीय क्षति झेली है, उसे स्वीकार करने के लिए माफी आवश्यक है।" "मैं महापौर और प्रीमियर से की गई अपनी प्रतिबद्धता की पुष्टि करता हूं कि भविष्य में ऐसी त्रासदियों को रोकने के तरीके खोजे जाएं।"

ब्रिटिश कोलंबिया के प्रीमियर डेविड ईबी ने पत्र को सोशल मीडिया पर टिप्पणी के साथ पोस्ट किया: "माफी आवश्यक है, और फिर भी टम्बलर रिज के परिवारों को हुई तबाही के लिए बहुत अपर्याप्त है।"

26 फरवरी को, गोलीबारी के दो सप्ताह से कुछ अधिक समय बाद, OpenAI की वैश्विक नीति की उपाध्यक्ष, एन ओ'लियरी ने इवान सोलोमन, कनाडा के कृत्रिम बुद्धिमत्ता और डिजिटल नवाचार मंत्री को एक पत्र भेजा। ओ'लियरी ने लिखा कि कंपनी ने शूटर के खाते के निष्क्रिय होने पर जो देखा, उसके आधार पर, उसने "विश्वसनीय और आसन्न योजना की पहचान नहीं की जो कानून प्रवर्तन को मामले को संदर्भित करने के लिए हमारी सीमा को पूरा करती हो"। यह निर्णय OpenAI की सुरक्षा टीम की चेतावनियों के बावजूद आया कि खाते की रिपोर्ट की जानी चाहिए थी।

ओ'लियरी ने उन कार्रवाइयों को भी स्पष्ट किया जो कंपनी लेने की योजना बना रही थी, जैसे कि कनाडाई कानून प्रवर्तन के साथ अपने संबंधों को मजबूत करना और उन उपयोगकर्ताओं का पता लगाने के लिए अपनी प्रणाली को मजबूत करना जिन्हें बार-बार ChatGPT से प्रतिबंधित किया जाता है लेकिन बाद में नए खाते बनाते हैं।

ये मुकदमे AI कंपनियों के खिलाफ मामलों की एक लहर का हिस्सा हैं, जिसमें आरोप लगाया गया है कि उनके चैटबॉट मानसिक स्वास्थ्य संकट को बढ़ा रहे हैं और हिंसक कृत्यों को उकसा रहे हैं। नवंबर में, OpenAI के खिलाफ सात शिकायतें दायर की गईं, जिसमें ChatGPT पर "आत्महत्या कोच" के रूप में कार्य करने का आरोप लगाया गया। पिछले महीने Google पर मुकदमा दायर किया गया था जब उसके जेमिनी चैटबॉट ने कथित तौर पर एक 36 वर्षीय व्यक्ति को "विनाशकारी दुर्घटना" का मंचन करने और फिर खुद को मारने के लिए प्रोत्साहित किया था। Google ने कहा है कि वह अपने सुरक्षा उपायों में सुधार कर रहा है और OpenAI ने कहा है कि वह मुकदमे की फाइलिंग की समीक्षा कर रहा है।

फ्लोरिडा में, अटॉर्नी जनरल ने हाल ही में फ्लोरिडा स्टेट यूनिवर्सिटी परिसर में सामूहिक गोलीबारी का आरोप लगाने वाले बंदूकधारी और ChatGPT के बीच संदेशों की समीक्षा के बाद OpenAI के खिलाफ आपराधिक जांच शुरू की - एक टेक कंपनी के खिलाफ इस तरह की पहली आपराधिक जांच। टम्बलर रिज परिवारों के वकीलों का कहना है कि उन्हें विश्वास है कि उनके मामले कंपनी के खिलाफ इसी तरह की आपराधिक देनदारी का समर्थन कर सकते हैं। कंपनी ने एनबीसी न्यूज को बताया कि वह गोलीबारी के लिए जिम्मेदार नहीं थी और उसने राज्य के सवालों का जवाब दिया है।

यह अब-सामान्य दृष्टिकोण का एक और उदाहरण है जिसमें बंदूक निर्माताओं और डीलरों और अमेरिकी संघीय सरकार जैसी संस्थाओं को कथित निष्क्रियता के लिए जवाबदेह ठहराने के लिए मुकदमों का उपयोग किया जाता है, जिससे गोलीबारी में मौतें और चोटें हुई हैं।

सात टम्बलर रिज मुकदमे गेबाला, शिक्षण सहायक शान्डा एवियुगाना-दुरंद के परिवार और स्कूल में मारे गए बच्चों में से पांच के परिवारों की ओर से दायर किए गए हैं। उन पीड़ितों में ज़ोई बेनोइट, टिकारिया "टिकी" लैम्परट, काइली स्मिथ, एज़ेकील स्कॉफील्ड और एबेल म्वांसा जूनियर शामिल हैं। परिवार कहते हैं कि यह नुकसान असहनीय है।

मवांसा के माता-पिता, जो तीन साल पहले ज़ाम्बिया से कनाडा आए थे, कहते हैं कि उनका 12 वर्षीय बेटा एक अच्छा श्रोता था जो हर सुबह अपनी बहन के लिए नाश्ता बनाता था। गोलीबारी से बचे उसके दोस्तों में से एक ने कहा कि मवांसा के अंतिम शब्द थे: "मेरे माता-पिता से कहना कि मैं उनसे बहुत प्यार करता हूँ।"