एलन मस्क के xAI के खिलाफ मुकदमा: Grok ने 3 नाबालिगों की यौनिकृत डीपफेक तस्वीरें बनाईं

<ul>
<li>एलन मस्क के xAI के खिलाफ एक मुकदमा में आरोप है कि Grok चैटबॉट ने तीन नाबालिगों की यौनिकृत तस्वीरें बनाईं।</li>
<li>शिकायत में xAI पर "वास्तविक लोगों के यौन शोषण" से लाभ उठाने का आरोप लगाया गया है।</li>
<li>Grok इस साल की शुरुआत में व्यापक प्रतिक्रिया का सामना करने के बाद यौनिकृत तस्वीरें उत्पन्न करने के लिए उपयोग किया गया था।</li>
</ul>
<p>एलन मस्क के <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">xAI</a> के खिलाफ एक नया मुकदमा दायर किया गया है, जिसमें आरोप है कि इसके प्रमुख चैटबॉट, <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a> का उपयोग तीन नाबालिगों की यौनिकृत डीपफेक छवियों को बनाने के लिए किया गया था - शिकायत में कहा गया है कि यह सामग्री बाल यौन शोषण सामग्री के बराबर है।</p>
<p>कैलिफ़ोर्निया संघीय अदालत में सोमवार को दायर किया गया प्रस्तावित वर्ग कार्रवाई, AI स्टार्टअप पर "वास्तविक लोगों, जिनमें बच्चे भी शामिल हैं, के यौन शोषण से लाभ" उठाने का आरोप लगाती है।</p>
<p>"AI बनाने, विपणन और बेचने वाली लगभग सभी कंपनियों ने इस तरह के उपकरण के खतरों को पहचाना और ऐसे उद्योग-मानक गार्डरेल लागू करने का विकल्प चुना जो उनके उत्पादों के उपयोग को एक बेहद खतरनाक समूह द्वारा रोकने के लिए करेंगे: बाल यौन शिकारी। xAI ने ऐसा नहीं किया," मुकदमे में कहा गया है।</p>
<p>मस्क और xAI के प्रतिनिधियों ने तुरंत बिजनेस इनसाइडर की टिप्पणी के अनुरोध का जवाब नहीं दिया।</p>
<p>मस्क ने पहले जनवरी में X पर एक पोस्ट में कहा था कि उन्हें Grok द्वारा उत्पन्न किसी भी नग्न नाबालिग की छवियों के बारे में जानकारी नहीं है। बिल्कुल शून्य।</p>
<p>उन्होंने लिखा, "जब छवियों को उत्पन्न करने के लिए कहा जाता है, तो यह अवैध कुछ भी उत्पन्न करने से इनकार कर देगा, क्योंकि Grok के लिए संचालन सिद्धांत किसी दिए गए देश या राज्य के कानूनों का पालन करना है।"</p>
<p>उन्होंने कहा, "ऐसे समय आ सकते हैं जब Grok प्रॉम्प्ट की प्रतिकूल हैकिंग से कुछ अप्रत्याशित हो जाए। यदि ऐसा होता है, तो हम तुरंत बग को ठीक कर देंगे।"</p>
<p>xAI के खिलाफ मुकदमा कहता है कि टेनेसी के वादी "xAI के जानबूझकर उत्पादन, कब्जे और AI-जनित बाल यौन शोषण सामग्री के वितरण के तीन नाबालिग पीड़ितों में से हैं" जो उन्हें दर्शाती हैं।</p>
<p>वादी, जिन्हें अदालत के कागजात में केवल जेन डो 1, जेन डो 2 और जेन डो 3 के रूप में पहचाना गया है, का आरोप है कि xAI के AI टूल का उपयोग उनकी नग्न छवियों और वीडियो बनाने के लिए किया गया था। जेन डो 1, एक हालिया वयस्क, कथित घटनाओं के समय नाबालिग थे, जबकि दो अन्य वादी अभी भी नाबालिग हैं, मुकदमे में कहा गया है।</p>
<p>दिसंबर 2025 में, जेन डो 1 को एक अज्ञात इंस्टाग्राम खाते से एक संदेश प्राप्त हुआ जिसमें चेतावनी दी गई थी कि "पिक्स" उनकी तस्वीरें किसी ऐसे व्यक्ति द्वारा उत्पन्न की गई हैं जिसे वे जानते हैं और समूह-चैट प्लेटफॉर्म Discord पर फैला दिया गया है।</p>
<p>"संदेशों की एक श्रृंखला के माध्यम से, अज्ञात उपयोगकर्ता ने समझाया कि अपराधी ने उनकी और अन्य नाबालिग महिलाओं की छवि और वीडियो फ़ाइलों का एक फ़ोल्डर Discord पर अपलोड कर दिया है," मुकदमे में कहा गया है।</p>
<p>अज्ञात उपयोगकर्ता ने जेन डो 1 को उनकी और अन्य नाबालिग लड़कियों की कई यौनिकृत AI-जनित छवियों और वीडियो भेजने के लिए जारी रखा, मुकदमे में कहा गया है।</p>
<p>"इन फ़ाइलों में से कम से कम पांच, एक वीडियो और चार छवियां, उन्हें परिचित सेटिंग्स में उनकी वास्तविक चेहरा और शरीर को दर्शाती हैं, लेकिन यौन रूप से स्पष्ट मुद्राओं में बदल दी गई हैं," मुकदमे में कहा गया है। "छवियों में उनके पूरे शरीर, बिना किसी कपड़े के, दिखाई दे रहे थे। वीडियो में उन्हें पूरी तरह से नग्न होने तक उतारते हुए दिखाया गया था।"</p>
<p>जेन डो 1 ने छवियों में अन्य नाबालिगों और उनके परिवारों को सतर्क किया, और टेनेसी में एक आपराधिक जांच शुरू की गई, मुकदमे में कहा गया है। इसने जोड़ा कि स्थानीय पुलिस ने दिसंबर 2025 में मामले के संबंध में एक संदिग्ध को गिरफ्तार कर लिया।</p>
<p>पिछले महीने, जेन डो 2 को जांच के माध्यम से पता चला कि उनकी छवियों में से कम से कम दो का उपयोग xAI के टूल का उपयोग करके यौन रूप से स्पष्ट AI-जनित सामग्री का उत्पादन करने के लिए किया गया था, मुकदमे में कहा गया है।</p>
<p>स्थानीय कानून प्रवर्तन ने लड़की और उसकी मां को बताया कि नीली बिकिनी में समुद्र तट पर लड़की की एक तस्वीर "बिना किसी कपड़े के दर्शाने के लिए बदल दी गई थी," मुकदमे में कहा गया है।</p>
<p>अधिकारियों ने जेन डो 3 को भी सूचित किया कि संदिग्ध के फोन से बरामद AI-जनित छवियों में से एक "पूरी तरह से नग्न दर्शाने के लिए बदल दी गई थी," मुकदमे में कहा गया है।</p>
<p>वादी के वकील Vanessa Baehr-Jones ने बिजनेस इनसाइडर को बताया कि उनके ग्राहकों ने "एक बुरा सपना" झेला है।</p>
<p>"उनकी CSAM छवियां और वीडियो जब वे नाबालिग थे तब उन्हें हमेशा के लिए इंटरनेट पर इन बाल यौन शिकारियों की अंधेरी दुनिया में हैं," Baehr-Jones ने कहा। "उससे होने वाला नुकसान तीव्र है।"</p>
<p>वकील ने कहा कि उन्हें उम्मीद है कि मुकदमा xAI को "जवाबदेह" बनाएगा और "सबसे महत्वपूर्ण बात, यह किसी भी अन्य पीड़ित के साथ कभी नहीं होना चाहिए।"</p>
<p>मुकदमे में अज्ञात क्षति की मांग की गई है और xAI पर बाल पोर्नोग्राफी का उत्पादन करने के इरादे से, बाल पोर्नोग्राफी का वितरण और बाल पोर्नोग्राफी का कब्ज़ा करने सहित अन्य दावों के अलावा आरोप लगाया गया है।</p>
<p>वादी के वकील के एक अन्य वकील, Annika Martin ने कहा, "हमारे कानूनी प्रणाली में, पैसा वह तरीका है जिससे हम निगमों को उन नुकसानों के लिए भुगतान करने के लिए मजबूर करते हैं जो उन्होंने किए हैं। क्योंकि निगम लाभ-seeking संस्थाएं हैं, उनके निर्णय लेने को प्रभावित करने का एकमात्र तरीका है कि उन्हें अपने वॉलेट में चोट पहुंचे।"</p>
<p>इस साल की शुरुआत में, <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">xAI का Grok व्यापक प्रतिक्रिया का सामना करना पड़ा</a> जब AI छवि जनरेटर का उपयोग वास्तविक लोगों की यौनिकृत छवियों को गैर-सहमति से बनाने के लिए किया गया था।</p>
<p>जवाब में, X, सोशल मीडिया साइट जिसे मस्क ने मार्च में xAI को बेच दिया था, ने कहा कि Grok अब <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">वास्तविक लोगों की यौनिकृत या खुलासा करने वाले कपड़ों में AI छवियों को उत्पन्न करने में सक्षम नहीं होगा।</a></p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">एशले सेंट क्लैर</a>, जिसने 2024 में एलन मस्क के एक बेटे को जन्म दिया, ने जनवरी में xAI पर मुकदमा दायर किया, जिसमें आरोप लगाया गया था कि Grok ने उपयोगकर्ताओं के अनुरोध पर उसकी यौन रूप से स्पष्ट डीपफेक उत्पन्न किए।</p>
<p>फ्रांसीसी अधिकारियों भी यौनिकृत डीपफेक के लिए Grok की जांच कर रहे हैं।</p>