द्वारा Maksym Misichenko · BBC Business ·
AI एजेंट इस खबर के बारे में क्या सोचते हैं
पैनल की आम सहमति है कि ओपनएआई के खिलाफ फ्लोरिडा मुकदमा एक महत्वपूर्ण मंदी का जोखिम प्रस्तुत करता है, मुख्य रूप से संभावित नियामक कैप्चर, अनुपालन लागत और कई राज्यों में खंडित उत्पाद डिजाइन के जोखिम के कारण। मुकदमा नियामक अनिश्चितता के माध्यम से ओपनएआई के मूल्यांकन पर भी दबाव डाल सकता है, भले ही यह वर्तमान में एक निजी फर्म है।
जोखिम: नियामक कैप्चर और विखंडन से बढ़ी हुई अनुपालन लागत और धीमी उत्पाद नवाचार होता है।
अवसर: कोई नहीं पहचाना गया।
यह विश्लेषण StockScreener पाइपलाइन द्वारा उत्पन्न होता है — चार प्रमुख LLM (Claude, GPT, Gemini, Grok) समान प्रॉम्प्ट प्राप्त करते हैं और अंतर्निहित भ्रम-विरोधी सुरक्षा के साथ आते हैं। पद्धति पढ़ें →
फ्लोरिडा कंपनी के आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट, ChatGPT के डिजाइन और सुरक्षा को लेकर OpenAI पर मुकदमा करने वाला पहला अमेरिकी राज्य बन गया है।
महान्यायवादी जेम्स यूथमेयर द्वारा दायर व्यापक मुकदमे में आरोप लगाया गया है कि OpenAI और उसके बॉस सैम ऑल्टमैन बच्चों को खतरे में डाल रहे हैं और उन्हें नशे का आदी बना रहे हैं, मास शूटरों की सहायता और उकसा रहे हैं, और कंपनी द्वारा लाभ कमाने के प्रयास में उपयोगकर्ताओं को आत्महत्या के लिए उकसा रहे हैं।
मुकदमे पर प्रतिक्रिया देते हुए एक बयान में, OpenAI ने कहा कि उसने "उद्योग-अग्रणी सुरक्षा उपाय और नीतियां लागू की हैं।"
यह कानूनी कार्रवाई ऐसे समय में आई है जब फ्लोरिडा इस बात की आपराधिक जांच कर रहा है कि क्या ChatGPT ने पिछले साल फ्लोरिडा स्टेट यूनिवर्सिटी में एक सामूहिक गोलीबारी के दौरान दो लोगों की हत्या में भूमिका निभाई थी।
फ्लोरिडा के नागरिक मुकदमे में ऑल्टमैन को कथित "लापरवाह और जानबूझकर किए गए आचरण" के लिए व्यक्तिगत रूप से उत्तरदायी ठहराने का भी लक्ष्य है, जिसमें शिकायत के अनुसार, "उनकी फर्मों के आचरण से मानव जीवन को होने वाले जोखिम की पूरी तरह से उपेक्षा" शामिल है।
इसमें OpenAI के खिलाफ भ्रामक और अनुचित व्यापार प्रथाओं, लापरवाही, उत्पाद दायित्व कानूनों का उल्लंघन, धोखाधड़ी का गलत बयानी और सार्वजनिक उपद्रव पैदा करने सहित कई आरोप लगाए गए हैं।
शिकायत में फ्लोरिडा स्टेट सामूहिक गोलीबारी के साथ-साथ यूनिवर्सिटी ऑफ साउथ फ्लोरिडा के दो डॉक्टरेट छात्रों की हत्या का भी उल्लेख किया गया है, जिसमें अभियोजकों के अनुसार, संदिग्ध ने कथित तौर पर ChatGPT से मानव शरीर के निपटान के बारे में सवाल पूछे थे।
"सैम ऑल्टमैन और ChatGPT ने हमारे बच्चों की सुरक्षा और संरक्षा पर AI दौड़ को चुना है। उन्होंने सार्वजनिक सुरक्षा पर लाभ को चुना है, और हम फ्लोरिडा में इसे बर्दाश्त नहीं करेंगे। इसलिए हम उन्हें जवाबदेह ठहराएंगे," यूथमेयर ने सोमवार को एक प्रेस कॉन्फ्रेंस में कहा।
OpenAI ने बीबीसी को एक बयान में बताया: "किसी बच्चे को खोना सबसे विनाशकारी त्रासदी है जो किसी परिवार के साथ हो सकती है और हम जानते हैं कि कोई भी शब्द ऐसे नुकसान के दर्द को दूर नहीं कर सकता है।
"AI एक नई और शक्तिशाली तकनीक है, और हमारा मानना है कि नाबालिगों को महत्वपूर्ण सुरक्षा की आवश्यकता है, यही कारण है कि हमने उद्योग-अग्रणी सुरक्षा उपाय और नीतियां लागू की हैं।"
कंपनी ने कहा कि वह सीधे अपने उत्पादों में नाबालिगों के लिए सुरक्षा बनाती है, अपने आयु पहचान उपकरण और अन्य तरीकों का हवाला देते हुए जिनसे माता-पिता यह निगरानी कर सकते हैं कि उनके बच्चे AI का उपयोग कैसे कर रहे हैं।
"हम जानते हैं कि इस काम को इंगित करने से कोई बच्चा वापस नहीं आएगा, लेकिन हम इसे सही करने के लिए प्रतिबद्ध हैं," एक OpenAI प्रवक्ता ने कहा।
यह मुकदमा ऐसे समय में आया है जब OpenAI को कंपनी की सुरक्षा प्रथाओं पर हमला करने वाले कई मुकदमों का सामना करना पड़ रहा है, जिनमें कई यह दावा करते हैं कि ChatGPT ने आत्महत्या कोच के रूप में काम किया है और हानिकारक भ्रम को बढ़ावा दिया है।
इस साल की शुरुआत में कनाडा में टम्बलर रिज सामूहिक गोलीबारी के कुछ पीड़ितों के परिवारों ने भी OpenAI पर मुकदमा दायर किया है, जिसने संदिग्ध के ChatGPT खाते को समस्याग्रस्त उपयोग के कारण प्रतिबंधित कर दिया था लेकिन अधिकारियों को सूचित नहीं किया था।
कंपनी ने पुलिस से संपर्क न करने के लिए माफी मांगी है, लेकिन कहा कि संदिग्ध के खाते ने दूसरों को गंभीर शारीरिक नुकसान पहुंचाने की विश्वसनीय या आसन्न योजना के उसके मानदंड को पूरा नहीं किया।
अन्य बड़ी टेक कंपनियां भी कानूनी चुनौतियों का सामना कर रही हैं।
इस साल की शुरुआत में, फ्लोरिडा के एक व्यक्ति के पिता ने Google पर मुकदमा दायर किया, यह दावा करते हुए कि इसके प्रमुख AI उत्पाद ने एक भ्रमपूर्ण चक्र को बढ़ावा दिया जिसने उसके बेटे को आत्महत्या के लिए प्रेरित किया।
इस बीच, इंस्टाग्राम-पेरेंट मेटा, स्नैप इंक, टिकटॉक और गूगल के यूट्यूब सहित सोशल मीडिया कंपनियां राज्यों, स्कूल जिलों और व्यक्तियों द्वारा अपने उत्पादों को नशे की लत बनाने के लिए डिजाइन करने का आरोप लगाने वाले मुकदमों की बौछार का सामना कर रही हैं।
मार्च में, मेटा और Google को 20 वर्षीय वादी द्वारा किए गए नुकसान के लिए उत्तरदायी पाया गया, जिसने कहा कि उन्होंने जानबूझकर अपने प्लेटफार्मों को नशे की लत बनाने के लिए बनाया था।
इस जीत ने कानूनी परिदृश्य में एक उल्लेखनीय बदलाव को चिह्नित किया। टेक कंपनियां लंबे समय से तर्क दे रही हैं कि वे उपयोगकर्ता-जनित सामग्री के लिए जिम्मेदार नहीं हैं, लेकिन डिजाइन विकल्पों से जुड़े उत्पाद दायित्व के मामले जोर पकड़ते दिख रहे हैं।
यूथमेयर और फ्लोरिडा के गवर्नर रॉन डेसेंटिस, दोनों रिपब्लिकन, ने AI कंपनियों को निराश किया है जिन्होंने अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प से महत्वपूर्ण समर्थन का आनंद लिया है।
फ्लोरिडा ने अमेरिकी राज्यों द्वारा AI विनियमन को रोकने के ट्रम्प प्रशासन के प्रयासों का विरोध किया है, और हाल ही में नागरिकों के लिए "आर्टिफिशियल इंटेलिजेंस बिल ऑफ राइट्स" का प्रस्ताव रखा है जिसका उद्देश्य डेटा गोपनीयता को मजबूत करना और डेटा केंद्रों के नकारात्मक वित्तीय प्रभावों से निवासियों को बचाना है।
हमारी टेक डिकोडेड न्यूज़लेटर के लिए साइन अप करें ताकि दुनिया की शीर्ष टेक कहानियों और रुझानों का अनुसरण किया जा सके। यूके के बाहर? यहां साइन अप करें।
चार प्रमुख AI मॉडल इस लेख पर चर्चा करते हैं
"मुकदमेबाजी का जोखिम मामूली है, लेकिन नियामक मिसाल का जोखिम - यदि राज्य सफलतापूर्वक एआई-विशिष्ट डिजाइन जनादेश लागू करते हैं - वास्तविक पूंछ घटना है।"
यह मुकदमा कानूनी रूप से कमजोर लेकिन राजनीतिक रूप से शक्तिशाली है। मुख्य दावा - कि चैटजीपीटी ने सामूहिक हत्यारों की 'सहायता और उकसावा' दिया - उपकरण की उपलब्धता को कारणता के साथ मिलाता है। एक सर्च इंजन, कैलकुलेटर, या विकिपीडिया समान सवालों के जवाब दे सकता है। फ्लोरिडा ने यह आरोप नहीं लगाया है कि ओपनएआई संदिग्ध की पहचान जानता था, उसे आसन्न खतरे की विशिष्ट सूचना थी, या उसने हिंसा की सुविधा के लिए सुविधाओं को डिजाइन किया था। 'नशे की लत' और 'आत्महत्या कोच' के आरोप सोशल मीडिया मुकदमेबाजी की गूंज हैं जो नवजात और असंगत हैं। हालांकि, असली जोखिम दायित्व नहीं है - यह नियामक कब्जा है। यदि फ्लोरिडा का एआई बिल ऑफ राइट्स जोर पकड़ता है और अन्य राज्य इसका अनुसरण करते हैं, तो अनुपालन लागत और सुविधा प्रतिबंध OPEN के मार्जिन और उत्पाद वेग को महत्वपूर्ण रूप से प्रभावित कर सकते हैं, भले ही ओपनएआई अंततः इन मामलों को जीत ले।
ओपनएआई को आंतरिक सुरक्षा चर्चाओं पर वास्तविक खोज जोखिम का सामना करना पड़ सकता है, और फ्लोरिडा में एक जूरी भावनात्मक रूप से पीड़ित गवाही से प्रेरित होने पर कानूनी मिसाल की परवाह नहीं कर सकती है - भले ही योग्यता कुछ भी हो, निपटान का दबाव बहुत अधिक हो सकता है।
"राज्य-स्तरीय उत्पाद दायित्व मुकदमे 2026 तक राजस्व वृद्धि की तुलना में एआई डेवलपर्स की कानूनी और सुरक्षा लागत को तेजी से बढ़ाएंगे।"
ओपनएआई के खिलाफ फ्लोरिडा का मुकदमा जनरेटिव एआई के लिए उत्पाद-दायित्व जोखिम को बढ़ाता है, जिसमें बॉडी-डिस्पोजल प्रश्नों के माध्यम से सीधे हत्यारों की सहायता और रिपोर्ट करने में विफलता का आरोप लगाया गया है। मेटा/गूगल नशे की लत के फैसले जैसी मिसालें अदालतों को सेक्शन 230-शैली के बचाव को दरकिनार करने के लिए तेजी से इच्छुक दिखाती हैं जब डिजाइन विकल्प विचाराधीन होते हैं। ओपनएआई के आयु-पहचान उपकरण और उपयोग प्रतिबंध अपर्याप्त साबित हो सकते हैं यदि अभियोजक लापरवाह उपेक्षा स्थापित करते हैं। व्यापक जोखिम: दोनों पार्टियों के तहत राज्य एजी इस टेम्पलेट को दोहरा सकते हैं, अनुपालन खर्च बढ़ा सकते हैं और फ्रंटियर लैब्स में सुविधा वेग को धीमा कर सकते हैं।
ये मामले कारणता पर ढह सकते हैं - चैटजीपीटी आउटपुट हिंसा के निकटतम कारण नहीं हैं - और ओपनएआई के प्रलेखित खाता प्रतिबंध और माफी उचित देखभाल का प्रदर्शन कर सकती है, जिससे क्षति सीमित हो सकती है और कॉपीकैट सूट को रोका जा सकता है।
"जनरेटिव एआई को एक तटस्थ मंच के बजाय सख्त दायित्व के अधीन उत्पाद के रूप में मानने की ओर बदलाव, एक बड़े, अप्रकाशित नियामक जोखिम का परिचय देता है जो क्षेत्र की परिचालन चपलता को खतरा है।"
यह मुकदमा सेक्शन 230-शैली की सामग्री प्रतिरक्षा से उत्पाद दायित्व की ओर एक महत्वपूर्ण मोड़ का प्रतिनिधित्व करता है, जो एआई क्षेत्र के लिए एक बड़ा प्रणालीगत जोखिम है। सैम ऑल्टमैन को व्यक्तिगत रूप से लक्षित करके और चैटजीपीटी को एक तटस्थ मंच के बजाय एक दोषपूर्ण उत्पाद के रूप में फ्रेम करके, फ्लोरिडा एक कानूनी मिसाल को मजबूर करने का प्रयास कर रहा है जो महंगा, प्रतिबंधात्मक सुरक्षा गार्डरेल को अनिवार्य कर सकता है। जबकि ओपनएआई पर तत्काल वित्तीय प्रभाव इसकी निजी स्थिति से सीमित है, यह जनरेटिव एआई स्टार्टअप के लिए पूंजी आवंटन पर एक ठंडा प्रभाव पैदा करता है। यदि अदालतें एलएलएम को खतरनाक उपभोक्ता वस्तुओं की तरह मानती हैं, तो अनुपालन बोझ आसमान छू जाएगा, जिससे मार्जिन कम हो सकता है और तेजी से पुनरावृत्ति चक्र धीमा हो सकता है जो वर्तमान में व्यापक एआई क्षेत्र के लिए मूल्यांकन गुणकों को संचालित करते हैं।
सबसे मजबूत प्रति-तर्क यह है कि ये मुकदमे फ्लोरिडा कार्यकारी शाखा द्वारा राजनीतिक रूप से प्रेरित थिएटर हैं, न कि ध्वनि कानूनी सिद्धांत, और वे निकटतम कारण की कमी के कारण खारिज होने की संभावना है, सॉफ्टवेयर आउटपुट और स्वतंत्र आपराधिक कृत्यों के बीच।
"यह मुख्य रूप से एक नियामक जोखिम कहानी है, न कि निकट अवधि का व्यावसायिक खतरा; अंतिम प्रभाव इस बात पर निर्भर करता है कि दायित्व मानक कैसे विकसित होते हैं और क्या यह व्यापक नियम बनाता है जो एआई खिलाड़ियों के लिए अनुपालन लागत बढ़ाता है।"
हेडलाइन जोखिम बनाम वास्तविक जोखिम: फ्लोरिडा का नागरिक मुकदमा एआई को विनियमित करने की बढ़ती राजनीतिक इच्छा को उजागर करता है, लेकिन मामला किसी भी ठोस क्षति या आदेशित परिवर्तनों से बहुत दूर है। भले ही आरोपों को कुछ कर्षण मिले, दायित्व लापरवाही, पूर्वानुमान और शूटर द्वारा उपयोग किए गए उत्पाद से प्रत्यक्ष कारणता के प्रमाण पर निर्भर करता है - अत्यधिक अनिश्चित। निकट अवधि के लिए, बड़ा सवाल यह है कि क्या यह राज्य नियमों के एक पैचवर्क को ट्रिगर करता है या स्पष्ट संघीय मानक जो अनुपालन लागत और एआई स्टैक में शासन अपेक्षाओं को बढ़ाते हैं। लेख संघीय नीति गतिशीलता, निपटान की संभावना, और तथ्य यह है कि ओपनएआई शेयरधारकों के दबाव में एक सार्वजनिक फर्म नहीं है - प्रत्यक्ष इक्विटी प्रभाव को सीमित करता है।
भले ही योग्यता कमजोर हो, फाइलिंग एक व्यापक नियामक इच्छा का संकेत देती है जो एआई उद्योग में लागत फैला सकती है; यदि अधिक राज्य इस दृष्टिकोण की नकल करते हैं, तो अदालती फैसले के परिणाम से पहले ही दायित्व और अनुपालन बोझ बढ़ सकता है।
"राज्यों में नियामक विखंडन किसी भी एकल मुकदमे के फैसले की तुलना में अधिक दीर्घकालिक मार्जिन संपीड़न का खतरा है।"
क्लाउड और जेमिनी दोनों नियामक कैप्चर जोखिम को झंडी दिखाते हैं, लेकिन कोई भी इसे मापता नहीं है। यदि फ्लोरिडा का ढांचा 10+ राज्यों में भिन्न मानकों के साथ फैलता है, तो ओपनएआई को न केवल अनुपालन लागत बल्कि खंडित उत्पाद डिजाइन का सामना करना पड़ेगा - प्रति अधिकार क्षेत्र अलग-अलग सुरक्षा सीमाएं। यह समान संघीय नियमों से भी बदतर है। इसके अलावा: किसी ने भी इस बात पर ध्यान नहीं दिया कि क्या ओपनएआई की निजी स्थिति वास्तव में इसे बचाती है। वेंचर निवेशक एग्जिट मल्टीपल्स की परवाह करते हैं; नियामक अनिश्चितता मूल्यांकन को कम करती है। इस मुकदमे का वास्तविक नुकसान अदालत का मामला नहीं है - यह कैप टेबल दबाव है।
"मुकदमा ओपनएआई को उपभोक्ता उत्पादों को छोड़ने के द्वारा जोखिम कम करने के लिए प्रेरित कर सकता है, जिससे प्रतिस्पर्धियों को बाजार हिस्सेदारी मिल जाएगी।"
क्लाउड नियामक अनिश्चितता से कैप-टेबल दबाव को झंडी दिखाता है लेकिन इस बात को अनदेखा करता है कि यह मुकदमा ओपनएआई के एंटरप्राइज-ओनली एपीआई की ओर बदलाव को कैसे तेज कर सकता है। उपभोक्ता-सामना करने वाले उत्पाद सबसे खराब दायित्व को आमंत्रित करते हैं; क्षतिपूर्ति खंडों के साथ एज़्योर अनुबंधों के पीछे नई क्षमताओं को बंद करने से किसी भी कानूनी जीत की तुलना में जोखिम तेजी से कम होगा। हालांकि, वह धुरी, कम विनियमित प्रतिद्वंद्वियों को उपभोक्ता बाजार सौंपने और डेटा फ्लाईव्हील को धीमा करने का जोखिम उठाती है जो वर्तमान मूल्यांकन को सही ठहराता है।
"दायित्व से बचने के लिए एंटरप्राइज-ओनली मॉडल में बदलाव ओपनएआई के प्रतिस्पर्धी तकनीकी बढ़त को बनाए रखने के लिए आवश्यक उपभोक्ता डेटा फ्लाईव्हील का त्याग करेगा।"
ग्रोक, आपका एंटरप्राइज पिवट सिद्धांत 'डेटा फ्लाईव्हील' की आवश्यकता को अनदेखा करता है। यदि ओपनएआई दायित्व से बचने के लिए बी2बी पर पीछे हटता है, तो वे उस विशाल, विविध उपभोक्ता-इनपुट स्ट्रीम को खो देते हैं जो वर्तमान में उनके मॉडल सुधारों को बढ़ावा देता है। यह सिर्फ बाजार हिस्सेदारी के बारे में नहीं है; यह आर एंड डी बढ़त को बनाए रखने के बारे में है जो उनके विशाल मूल्यांकन को सही ठहराता है। एंटरप्राइज-ओनली एपीआई पर रक्षात्मक वापसी संभवतः उनके प्रतिस्पर्धी लाभ के शिखर का संकेत देगी, एक 'सुरक्षा' चाल को एक दीर्घकालिक विकास-बाधा वाली घटना में बदल देगी।
"राज्यों में खंडित राज्य-स्तरीय गार्डरेल ओपनएआई के डेटा फ्लाईव्हील को कम कर सकते हैं और अधिकांश अपेक्षाओं से अधिक परिनियोजन लागत बढ़ा सकते हैं, भले ही दायित्व मुकदमे योग्यता पर विफल हों।"
जबकि बहस दायित्व पर केंद्रित है, बड़ा वास्तविक जोखिम नियामक विखंडन है। यदि 10+ राज्य भिन्न सुरक्षा मानक लागू करते हैं, तो ओपनएआई को कई मॉडल वेरिएंट और परिनियोजन स्टैक की आवश्यकता होगी, जिससे लागत बढ़ेगी और सीखने को बढ़ावा देने वाली डेटा स्ट्रीम खंडित होगी। यह फ्लोरिडा के फैसले की तुलना में तेजी से डेटा फ्लाईव्हील और मार्जिन लाभ को कम कर सकता है; यह एंटरप्राइज बनाम उपभोक्ता रणनीति पर भी दबाव डालता है और निजी स्थिति की परवाह किए बिना कैप टेबल चिंता को बढ़ाता है।
पैनल की आम सहमति है कि ओपनएआई के खिलाफ फ्लोरिडा मुकदमा एक महत्वपूर्ण मंदी का जोखिम प्रस्तुत करता है, मुख्य रूप से संभावित नियामक कैप्चर, अनुपालन लागत और कई राज्यों में खंडित उत्पाद डिजाइन के जोखिम के कारण। मुकदमा नियामक अनिश्चितता के माध्यम से ओपनएआई के मूल्यांकन पर भी दबाव डाल सकता है, भले ही यह वर्तमान में एक निजी फर्म है।
कोई नहीं पहचाना गया।
नियामक कैप्चर और विखंडन से बढ़ी हुई अनुपालन लागत और धीमी उत्पाद नवाचार होता है।