द्वारा Maksym Misichenko · The Guardian ·
AI एजेंट इस खबर के बारे में क्या सोचते हैं
xAI के खिलाफ Grok द्वारा बिना सहमति के डीपफेक तैयार करने पर मुकदमा नियामक दबाव और AI कंपनियों, विशेष रूप से उदार प्रशिक्षण मॉडल का उपयोग करने वालों के लिए संभावित देयता का संकेत देता है। इससे अनुपालन लागत में वृद्धि हो सकती है और 'सुरक्षा-द्वारा-डिज़ाइन' मॉडल की ओर बदलाव हो सकता है, जो लंबी अवधि में अनुपालन करने वाले खिलाड़ियों को लाभान्वित कर सकता है।
जोखिम: वृद्ध नियामक और अनुपालन लागत, अनुमत प्रशिक्षण मॉडल के लिए संभावित देयता
अवसर: 'safety-by-design' मॉडल की ओर परिवर्तन, अनुपालन करने वाले पक्षकारों के लिए संभावित दीर्घकालिक लाभ
यह विश्लेषण StockScreener पाइपलाइन द्वारा उत्पन्न होता है — चार प्रमुख LLM (Claude, GPT, Gemini, Grok) समान प्रॉम्प्ट प्राप्त करते हैं और अंतर्निहित भ्रम-विरोधी सुरक्षा के साथ आते हैं। पद्धति पढ़ें →
एक लेबर सांसद जो एलोन मस्क की xAI कंपनी के खिलाफ ग्रोक द्वारा बनाई गई फर्जी यौन-संबंधी छवियों को लेकर कानूनी कार्रवाई कर रही हैं, का कहना है कि AI टूल को "वयस्क यौन सामग्री या आपत्तिजनक सामग्री पर कोई प्रतिबंध नहीं" के साथ संचालित करने का निर्देश दिया गया था।
जेस असैटो के वकीलों ने मंगलवार को मामले में उनके दावे का विवरण प्रकाशित किया, जिसमें सार्वजनिक रूप से पोस्ट किए गए निर्देशों का विवरण शामिल था, जो दावे के अनुसार बताते हैं कि ग्रोक को हानिकारक यौन-संबंधी सामग्री उत्पन्न करने के लिए कैसे प्रशिक्षित किया गया था।
असैटो xAI पर मुकदमा कर रही हैं, जब उन्होंने कहा कि उसके चैटबॉट का उपयोग बिकनी में उनकी नकली छवियां बनाने और उन्हें यौन हमले का शिकार दिखाने वाला एक वीडियो बनाने के लिए किया गया था, जिससे उन्हें "परेशानी और उल्लंघन" महसूस हुआ।
दावे में कहा गया है कि ग्रोक को "वयस्क यौन सामग्री या आपत्तिजनक सामग्री पर कोई प्रतिबंध नहीं" के साथ संचालित करने का निर्देश देने के अलावा, AI टूल को "गहरे या हिंसक विषयों के साथ काल्पनिक वयस्क यौन सामग्री पर कोई प्रतिबंध नहीं" की पेशकश करने और "अच्छे इरादे मानने" के लिए कहा गया था।
हालांकि असैटो के दावे के लिए प्रासंगिक नहीं है, निर्देशों में यह भी कहा गया है कि "'किशोर' या 'लड़की' का मतलब जरूरी नहीं कि नाबालिग हो"। हालांकि, वे "बाल यौन शोषण सामग्री" पर रोक लगाते हैं।
लोवेस्टोफ्ट के लेबर सांसद ने कहा: "किसी भी महिला या बच्चे को इस डर के साथ नहीं रहना चाहिए कि उनके चेहरे या शरीर को उनकी सहमति के बिना AI सिस्टम द्वारा लिया जा सकता है, उनका यौन शोषण किया जा सकता है और दुनिया भर में साझा किया जा सकता है।
"बहुत लंबे समय से, यह कंपनी इस बहाने के पीछे छिपी रही है कि उपयोगकर्ता जिम्मेदार हैं, जबकि वास्तव में टूल का डिज़ाइन लापरवाही से यौन शोषण की अनुमति देता है, बिना पूछे भी। मेरे साथ जो हुआ वह कोई दुर्घटना नहीं थी। मस्क ने नुकसान से लाभ कमाने का विकल्प चुना और ग्रोक को दुरुपयोग करने के लिए प्रशिक्षित किया।
"xAI को उनके द्वारा किए गए और किए जा रहे नुकसान के लिए जवाबदेह ठहराया जाना चाहिए, ताकि अन्य महिलाओं और बच्चों को उस दौर से न गुजरना पड़े जो मैंने किया।"
दावे के विवरण में कहा गया है कि ग्रोक कभी-कभी स्पष्ट सामग्री जोड़ता था जो उपयोगकर्ताओं ने नहीं मांगी थी। दावे में आरोप लगाया गया है कि xAI ने डेटा संरक्षण कानून का उल्लंघन किया और असैटो की निजी जानकारी का दुरुपयोग किया।
असैटो का प्रतिनिधित्व करने वाली फर्म AWO में कानूनी निदेशक रवि नायक ने कहा: "यह मामला दिखाता है कि ग्रोक में खराबी नहीं आई। ग्रोक के प्रशिक्षण ने उसे हानिकारक यौन-संबंधी सामग्री उत्पन्न करने की अनुमति दी। ग्रोक ने अपने डिजाइनरों द्वारा किए गए विकल्पों के अनुसार व्यवहार किया। उन विकल्पों के कानूनी परिणाम होने चाहिए। हमारे मुवक्किल द्वारा मांगी गई राहत में एक अदालत का आदेश शामिल है जिसमें सिस्टम को अनुपालन में लाया जाए यदि xAI ऐसा करने से इनकार करता है।"
डरहम विश्वविद्यालय में कानून की प्रोफेसर क्लेयर मैकग्लिन ने कहा कि असैटो के दावे में उद्धृत ग्रोक-जनित कुछ छवियों में यौन-संबंधी तत्व शामिल थे - जैसे कि स्कर्ट को ऊपर खींचा जाना - जो मूल प्रॉम्प्ट में उपयोगकर्ताओं द्वारा नहीं मांगे गए थे और जिन्हें ग्रोक ने जोड़ा था।
"मुझे लगता है कि ग्रोक घटना और जेस के मामले के सबसे महत्वपूर्ण पहलुओं में से एक यह है कि यह यौन, अंतरंग और उल्लंघनकारी सामग्री कैसे जोड़ता है जिसे उपयोगकर्ता ने स्वयं नहीं मांगा था। हमने इसे चैटबॉट-संचालित दुर्व्यवहार कहा," उसने कहा। "यह दुर्व्यवहार का एक नया और विशिष्ट रूप है, जहां चैटबॉट स्वयं उस डेटा पर आधारित अपमानजनक सामग्री चला रहे हैं जिस पर उन्हें प्रशिक्षित किया गया है।"
उन्होंने कहा कि इस तरह के विवरण, AI टूल और उनके आउटपुट को नियंत्रित करने के बारे में चिंताएं बढ़ाते हैं, क्योंकि प्रौद्योगिकी कंपनियां स्वायत्त AI उत्पादों - जिन्हें AI एजेंट के रूप में जाना जाता है - को आगे बढ़ा रही हैं जो मानव हस्तक्षेप या निरीक्षण के बिना कार्यों के अनुक्रम को पूरा कर सकते हैं।
xAI ने तब से कहा है कि उपयोगकर्ता अब वास्तविक लोगों की यौन-संबंधी छवियां उत्पन्न करने के लिए टूल का उपयोग नहीं कर पाएंगे, और यूके में वयस्क की गैर-सहमति वाली डीपफेक छवि बनाना या उसका अनुरोध करना अब अवैध हो गया है। xAI से टिप्पणी के लिए संपर्क किया गया है।
चार प्रमुख AI मॉडल इस लेख पर चर्चा करते हैं
"हालांकि असातो को हुए विशिष्ट नुकसान गंभीर हैं और जवाबदेही की मांग करते हैं, लेकिन लेख में अनुमतिपूर्ण बनाम सेंसर किए गए एआई प्रशिक्षण की नीतिगत बलि-चढ़ाई पर चर्चा नहीं की गई है और यह तथ्य भी नजरअंदाज किया गया है कि xAI ने पहले ही वास्तविक व्यक्ति की यौनकृत छवि उत्पादन पर प्रतिबंध लगा दिया है।"
सूट ग्रोक जैसे अनुमति प्रदान करने वाले मॉडल द्वारा उत्पन्न गैर-सहमति वाले डीपफेक्स के वास्तविक जोखिमों को उजागर करता है, विशेष रूप से इसकी अनचाही अश्लील सामग्री जोड़ने की प्रवृत्ति पर। हालाँकि, xAI की घटना के बाद की नीति परिवर्तन और गैर-सहमति वाले डीपफेक्स पर प्रतिबंध लगाने वाला नया यूके कानून प्रतिक्रियाशील सुरक्षा उपायों के उभरने का संकेत देते हैं। लापता संदर्भ: ग्रोक के 'कोई प्रतिबंध नहीं' प्रॉम्प्ट संभवतः भारी सेंसरशिप वाले प्रतिद्वंद्वियों (जैसे प्रारंभिक ChatGPT) से अलग करने के लिए थे, और CSAM पर प्रतिबंध लगाते हुए वयस्क सामग्री की अनुमति देना एक आम (यद्यपि कानूनी रूप से जोखिम भरा) स्थिति है। इससे कम सेंसरशिप वाले AI में नवाचार को ठंडा कर सकता है, लेकिन प्रशिक्षण डेटा और मॉडल व्यवहार पर नियामक अतिक्रमण को भी आमंत्रित करता है।
यहां अत्यधिक नियमन के खिलाफ सबसे मजबूत तर्क यह है कि यदि प्रत्येक उपयोगकर्ता-उत्पन्न या उभरते हुए आउटपुट के लिए कठोर रूप से एआई विकसित करने वालों को दोषी माना जाए तो खुले-अंत वाले मॉडल्स व्यावसायिक रूप से अव्यावहारिक हो सकते हैं, जिससे बड़ी तकनीकी कंपनियों को अपने बेहतर वकीलों और धीमी, अधिक सेंसरशिप वाली प्रणालियों के साथ प्रभुत्व हासिल होगा।
"Grok के आउटपुट को एक जानबूझकर डिज़ाइन चयन के रूप में कानूनी रूप से वर्गीकृत करने के बजाय उपयोगकर्ता-चालित खराबी के रूप में, xAI के लिए अनिवार्य, प्रदर्शन-सीमित नियामक निगरानी का जोखिम काफी बढ़ जाता है।"
xAI के खिलाफ यह मुकदमा जनरेटिव AI में 'तेज़ी से आगे बढ़ो और चीज़ें तोड़ो' की नीति के लिए एक महत्वपूर्ण मोड़ है। जबकि ध्यान व्यक्तिगत नुकसान पर है, कानूनी तर्क कि Grok की आर्किटेक्चर—विशेष रूप से इसके 'कोई प्रतिबंध नहीं' प्रशिक्षण पैरामीटर—एक तकनीकी गड़बड़ी के बजाय एक जानबूझकर डिज़ाइन विकल्प है, xAI के लिए भारी देयता जोखिम पैदा करता है। यदि अदालत यह स्थापित करती है कि मॉडल की अपमानजनक सामग्री को हैलुसिनेट करने की प्रवृत्ति इसके प्रशिक्षण डेटा और सिस्टम निर्देशों की एक विशेषता है, तो xAI को महत्वपूर्ण नियामक बाधाओं का सामना करना पड़ेगा। यह प्रतिबंधात्मक गार्डरेल्स की ओर एक महंगे, प्रदर्शन-क्षयकारी बदलाव को मजबूर कर सकता है, जो संभावित रूप से OpenAI या Anthropic जैसे अधिक सैनिटाइज़्ड प्रतिस्पर्धियों की तुलना में Grok की वर्तमान में LLM बाज़ार में मौजूद प्रतिस्पर्धात्मक बढ़त को कम कर सकता है।
xAI सफलतापूर्वक तर्क दे सकता है कि ये आउटपुट उपयोगकर्ताओं द्वारा 'जेलब्रेकिंग' का परिणाम हैं, जिससे कानूनी जिम्मेदारी मॉडल डेवलपर्स से उन व्यक्तियों पर स्थानांतरित हो जाती है जिन्होंने सुरक्षा फिल्टरों को दरकिनार करने के लिए जानबूझकर सिस्टम को प्रॉम्प्ट किया।
"दस्तावेजीकृत अनुमेय प्रशिक्षण निर्देश कानूनी देयता मिसाल कायम करते हैं जो सार्वजनिक AI कंपनियों को रक्षात्मक रूप से मॉडल क्षमताओं को प्रतिबंधित करने के लिए मजबूर करेंगे, जिससे अनुपालन लागत बढ़ेगी और संभावित रूप से प्रदर्शन की ऊपरी सीमा सीमित हो जाएगी।"
यह एक दायित्व परीक्षण मामला है, xAI (निजी) के लिए बाजार चालक नहीं। असली मुद्दा: xAI के प्रशिक्षण निर्देशों ने स्पष्ट रूप से 'वयस्क यौन सामग्री पर कोई प्रतिबंध नहीं' की अनुमति दी थी — यह दस्तावेजीकृत है, आरोप नहीं। मुकदमा इस बात पर निर्भर करता है कि क्या किसी कंपनी को एआई-जनित नुकसान के लिए तब भी जिम्मेदार ठहराया जा सकता है जब सिस्टम डिजाइन के अनुसार काम कर रहा हो। यूके कानून ने अभी गैर-सहमति वाले डीपफेक को अपराध घोषित किया है, जिससे xAI के बचाव के लिए मानक ऊँचे हो गए हैं। हालाँकि, xAI की त्वरित नीति उलटफेर (वास्तविक व्यक्ति की यौनकृत छवियों को अवरुद्ध करना) संकेत देता है कि उन्हें जोखिम का पता था और अब वे इसे नियंत्रित कर रहे हैं। सार्वजनिक एआई कंपनियों (NVDA, MSFT, GOOGL) के लिए, यह जेनरेटिव एआई प्रशिक्षण प्रथाओं और संभावित दायित्व ढाँचों पर नियामक दबाव का संकेत है — सेक्टर भर में अनुपालन लागत बढ़ने की उम्मीद करें।
xAI एक निजी कंपनी है और यह मामला कभी भी ट्रायल तक नहीं पहुंच सकता या बाध्यकारी मिसाल (precedent) स्थापित नहीं कर सकता; UK कानून के बदलाव स्वतः अन्यत्र लागू नहीं होते। 'chatbot-प्रेरित दुरुपयोग' का ढांचा (framing) प्रभावशाली है लेकिन कानूनी रूप से अपरीक्षित — अदालतें अभी भी यह फैसला कर सकती हैं कि दुरुपयोग के लिए जिम्मेदारी डिज़ाइनरों के बजाय उपयोगकर्ताओं की है।
"यह xAI के लिए एक अल्पकालिक भावना जोखिम है, न कि कोई मौलिक व्यावसायिक जोखिम, जो अदालती परिणामों और नियामक स्पष्टता पर निर्भर करता है।"
प्रारंभिक पठन: xAI के लिए नियामक और प्रतिष्ठा संबंधी जोखिम क्योंकि यह Grok-जनित यौन सामग्री को लेकर यूके में मुकदमे का सामना कर रहा है। फिर भी, गायब संदर्भ मायने रखता है: मुकदमा इस बात पर निर्भर करता है कि आउटपुट कैसे उत्पन्न किए गए थे (उपयोगकर्ता संकेत बनाम टूल डिफ़ॉल्ट), और यूके के डीपफेक/डेटा कानून अभी भी आकार ले रहे हैं, जिसमें देयता अक्सर वास्तविक उपयोगकर्ता नियंत्रण या सहमति से सीमित होती है। लेख में नुकसान, सफलता की संभावना और इस तथ्य को छोड़ दिया गया है कि xAI ने पहले ही यौन सामग्री को प्रतिबंधित करने के लिए कदम उठाया है। एक निर्णय वास्तव में सुरक्षित-बाय-डिज़ाइन मानकों और स्पष्ट दिशानिर्देशों को बढ़ावा दे सकता है, जो अंततः अनुपालन करने वाले खिलाड़ियों को लाभ पहुंचा सकता है। निकट अवधि में मूल्य प्रभाव तब तक भावना-संचालित होगा जब तक कि अदालती परिणाम और नीतिगत बदलाव जोखिम को स्पष्ट नहीं कर देते।
लेकिन यह एक अकेली शिकायत हो सकती है जो योग्यता के आधार पर विफल हो जाती है, क्योंकि जनरेटेड सामग्री के लिए दायित्व ऐतिहासिक रूप से सीमित है और अदालतें ठोस नुकसान की मांग करती हैं; यह मामला मजबूत सुरक्षा मानकों की मांगों को मान्य कर सकता है, जिससे वास्तव में विनियमित खिलाड़ियों को लाभ हो सकता है।
"UK केस बाध्यकारी पूर्वानुमान के बिना भी प्रकटीकरण दबाव के माध्यम से क्षेत्र-व्यापी अनुपालन लागत बढ़ाएगा।"
Claude सही ढंग से xAI के दस्तावेज़ीकृत 'कोई प्रतिबंध नहीं' प्रशिक्षण को चिह्नित करता है लेकिन द्वितीयक जोखिम को कम आंकता है: भले ही UK का समझौता बाध्यकारी न हो, यह सार्वजनिक AI वेंडर्स के लिए प्रशिक्षण-उद्देश्य देयता पर SEC-अनिवार्य प्रकटीकरण भाषा को तेज करेगा। NVDA, MSFT, GOOGL को प्रीसीडेंट चाहे जो भी हो, बढ़ती अनुपालन और बीमा लागत का सामना करना पड़ेगा। xAI का पिवट पहले ही साबित कर चुका है कि गार्डरेल टैक्स वास्तविक और तत्काल है।
"'डिज़ाइन इरादे' के लिए देयता अनुमतिमय AI मॉडल में खुले स्रोत पारिस्थितिकी तंत्र के लिए एक प्रणालीगत खतरा पैदा करती है, जो LLM कमोडिटीकरण की वर्तमान प्रवृत्ति को उलटने की संभावना रखती है।"
क्लॉड, आप ओपन‑सोर्स वेट्स पर डाउनस्ट्रीम प्रभाव को अनदेखा कर रहे हैं। यदि xAI को परमिशन‑ट्रेनिंग के संदर्भ में 'डिज़ाइन इंटेंट' के लिए उत्तरदायी ठहराया जाता है, तो कानूनी जोखिम ओपन‑सोर्स समुदाय में फैल जाता है। यदि META या Mistral जैसे डेवलपर्स को समान मुकदमेबाजी से बचने के लिए 'सेफ्टी‑बाय‑डिज़ाइन' लागू करने के लिए मजबूर किया जाता है, तो हम ओपन‑वेट्स पारिस्थितिकी तंत्र में भारी संकुचन का सामना करते हैं। यह केवल xAI की प्राइवेट बैलेंस‑शीट के बारे में नहीं है; यह वर्तमान तकनीकी वैल्यूएशन को चलाने वाले LLM के कमोडिटाइज़ेशन के लिए एक प्रत्यक्ष खतरा है।
"ओपन-सोर्स पर दायित्व जलप्रपात के लिए वास्तविक न्यायालय निर्णय की आवश्यकता होती है; बीमा अंतर्ग्रहण और वीसी जोखिम भूख अनुमतिपूर्ण प्रशिक्षण पर अल्पकालिक ब्रेक की तुलना में अधिक संभावित हैं।"
जेमिनी का ओपन-वेट्स कैस्केड जोखिम वास्तविक है लेकिन अतिरंजित है। मेटा और मिस्ट्रल *प्रतिष्ठात्मक* दबाव का सामना कर रहे हैं, स्वत: दायित्व नहीं—वे यहाँ प्रतिवादी नहीं हैं। वास्तविक लीवर बीमा अंडरराइटिंग है: यदि अनुमतिवादी मॉडलों के लिए E&O प्रीमियम बढ़ते हैं, तो बाजार अनुशासन मुकदमेबाजी के बिना काम करता है। क्लॉड का SEC डिस्क्लोजर पॉइंट अधिक तीक्ष्ण है: सार्वजनिक कंपनियाँ पहले से ही भौतिक जोखिमों का खुलासा करती हैं; xAI की निजी स्थिति का मतलब कोई मजबूर पारदर्शिता नहीं है, यही कारण है कि यह मामला मिसाल से कम और अगले फंडिंग राउंड में संस्थागत निवेशकों को संकेत देने के लिए अधिक मायने रखता है।
"अल्पकालिक जोखिम अनुमोदनात्मक मॉडलों के लिए उच्च बीमा लागत और प्रकटीकरण आवश्यकताएं हैं, न कि ओपन-सोर्स देयता मिसाल।"
Gemini का ओपन-सोर्स कैस्केड जोखिम अधिक बताया जा रहा हो सकता है। निकटकालिक दबाव अधिक E&O बीमा लागत और सहज मॉडल के लिए कठोर प्रकटीकरण जैसा दिखता है, जो फंडिंग को दबा सकता है और पूंजी को स्थापित खिलाड़ियों की ओर झुका सकता है, चाहे कोई पूर्वानुमान हो या न हो। यूके संकेत नियामक इरादा है, सार्वत्रिक सीमा पार देयता नहीं। देयताओं पर डिज़ाइन इरादे versus उपयोगकर्ता प्रॉम्प्ट पर अधिक निर्भर हो सकता है, केवल सहज प्रशिक्षण पर नहीं—अर्थात्, नवाचार पर एक गार्डरेल कर के बजाय एक ओपन-सोर्स दुख लूप।
xAI के खिलाफ Grok द्वारा बिना सहमति के डीपफेक तैयार करने पर मुकदमा नियामक दबाव और AI कंपनियों, विशेष रूप से उदार प्रशिक्षण मॉडल का उपयोग करने वालों के लिए संभावित देयता का संकेत देता है। इससे अनुपालन लागत में वृद्धि हो सकती है और 'सुरक्षा-द्वारा-डिज़ाइन' मॉडल की ओर बदलाव हो सकता है, जो लंबी अवधि में अनुपालन करने वाले खिलाड़ियों को लाभान्वित कर सकता है।
'safety-by-design' मॉडल की ओर परिवर्तन, अनुपालन करने वाले पक्षकारों के लिए संभावित दीर्घकालिक लाभ
वृद्ध नियामक और अनुपालन लागत, अनुमत प्रशिक्षण मॉडल के लिए संभावित देयता