किशोरों ने मस्क के xAI पर उन पर पोर्नोग्राफिक छवियों के कारण मुकदमा किया

<h1>किशोरों ने मस्क के xAI पर उन पर पोर्नोग्राफिक छवियों के कारण मुकदमा किया</h1>
<p>एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी उन किशोरों से मुकदमा कर रही है जो दावा करते हैं कि कंपनी ने उनकी सहमति के बिना यौन स्पष्ट छवियों के निर्माण की अनुमति देकर बाल पोर्नोग्राफी को सुविधाजनक बनाया।</p>
<p>xAI के खिलाफ मुकदमा सोमवार को कैलिफोर्निया के एक संघीय अदालत में तीन युवा महिलाओं द्वारा दायर किया गया, जिनकी छवियों और वीडियो को उनकी जानकारी के बिना एक Grok उपयोगकर्ता द्वारा नग्न या अन्यथा स्पष्ट रूप से यौन तरीके से दिखाने के लिए बदल दिया गया था।</p>
<p>Grok एक चैटबॉट है जिसे xAI द्वारा विकसित किया गया है और Musk के सोशल मीडिया प्लेटफॉर्म X पर होस्ट किया गया है। xAI ने अपनी मूल कंपनी के माध्यम से किए गए टिप्पणी के अनुरोध का जवाब नहीं दिया।</p>
<p>यह कानूनी कार्रवाई पिछले साल नए Grok सुविधाओं की विवादास्पद रिलीज के बाद हुई है जिसे X ने "स्पाइसी" मोड कहा था।</p>
<p>युवा महिलाओं के वकील ने कहा कि Grok की छवियों और वीडियो को बदलने की क्षमता xAI द्वारा चैटबॉट और X के उपयोग को चलाने के एकमात्र उद्देश्य से बनाई और जारी की गई थी।</p>
<p>उन्होंने युवा महिलाओं की छवियों को बदलने के तरीके की तुलना "एक गुड़िया को अंधेरे कलाओं के माध्यम से जीवन में लाया गया" से की।</p>
<p>शिकायत में कहा गया है, "xAI—और इसके संस्थापक एलन मस्क— ने एक व्यावसायिक अवसर देखा। उन्हें पता था कि Grok इस तरह के परिणाम उत्पन्न कर सकता है, जिसमें बच्चों की छवियों और वीडियो का उपयोग करके भी शामिल है, और फिर भी इसे सार्वजनिक रूप से जारी कर दिया।"</p>
<p>युवा महिलाएं अज्ञात क्षति की तलाश कर रही हैं, साथ ही Grok को इस तरह की छवियां बनाने से रोकने के लिए तत्काल आदेश भी मांग रही हैं।</p>
<p>युवा महिलाओं के वकील ने अपनी शिकायत में कहा, "उनकी जिंदगी गोपनीयता, गरिमा और व्यक्तिगत सुरक्षा के विनाशकारी नुकसान से तबाह हो गई है।"</p>
<p>मुकदमे के पीछे दो किशोर 18 वर्ष से कम उम्र के हैं, लेकिन तीनों अपनी गोपनीयता की रक्षा के लिए सार्वजनिक रूप से अपने नाम वापस रख रहे हैं।</p>
<p>एक युवा वादी ने कहा कि उसे एक गुमनाम संदेश मिलने के बाद छवियों के बारे में पता चला, जिसमें उसे छवियों और वीडियो की ओर इशारा किया गया था, जिसमें उसकी हाई स्कूल की वर्ष पुस्तक की तस्वीर भी शामिल थी, जिसे यौन स्पष्ट कार्यों और पूर्ण नग्नता में दिखाने के लिए बदल दिया गया था।</p>
<p>सामग्री को एक Discord सर्वर पर साझा किया जा रहा था, उस प्लेटफ़ॉर्म पर एक निजी चैट स्पेस, और इसमें Grok का उपयोग करके भी बदले गए कम से कम 18 अन्य महिलाओं की समान छवियों को शामिल किया गया था, जो नाबालिग थीं, शिकायत के अनुसार।</p>
<p>xAI पर मुकदमा करने वाली अन्य दो महिलाओं को भी ऑनलाइन उनकी नकली यौन स्पष्ट छवियों का पता चला, जो Grok के माध्यम से बनाई गई थीं।</p>
<p>Grok को 2023 में मस्क के xAI द्वारा लॉन्च किया गया था। कंपनी, X के साथ, अब मस्क की SpaceX कंपनी का हिस्सा है, जिसने <a href="https://www.bbc.com/news/articles/cq6vnrye06po">पिछले महीने xAI का अधिग्रहण कर लिया</a>।</p>
<p>पिछले साल, xAI ने Grok Imagine या "स्पाइसी मोड" नामक एक सुविधा जारी की, जिसमें Grok उपयोगकर्ताओं को नकली छवियों को अधिक यौन प्रकृति में बनाने के लिए प्रेरित करने की अनुमति मिली।</p>
<p>मोड ने ऑनलाइन उनकी छवियों का उपयोग करके वास्तविक लोगों की "अंडरड्रेसिंग" भी की, जिसमें <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">टेलर स्विफ्ट</a> से लेकर अधिक <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">सामान्य उपयोगकर्ताओं</a> तक शामिल हैं।</p>
<p>कम से दो सप्ताह में, Grok ने लाखों यौन छवियों का निर्माण किया, जिसमें 20,000 से अधिक बच्चों की छवियां शामिल हैं, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">छवियों के नमूने</a> के अनुसार डिजिटल घृणा का मुकाबला करने के लिए केंद्र द्वारा किया गया।</p>
<p>मस्क ने शुरू में नकली यौन सामग्री बनाने की Grok की क्षमता को कम करके आंका, जनवरी में कहा कि उसे "Grok द्वारा उत्पन्न नग्न नाबालिग छवियों के बारे में कोई जानकारी नहीं है। बिल्कुल शून्य," और सुविधा के उपयोगकर्ताओं को दोषी ठहराया।</p>
<p>मस्क ने <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">X पर लिखा</a>, "बेशक, Grok स्वतः ही छवियों को उत्पन्न नहीं करता है, यह केवल उपयोगकर्ता अनुरोधों के अनुसार ऐसा करता है।"</p>
<p>हालांकि, इस साल ऑनलाइन दुर्व्यवहार जारी रहने के कारण, यूके वॉचडॉग <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">यूरोपीय आयोग</a> और <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">कैलिफोर्निया</a> ने प्रत्येक वास्तविक लोगों, विशेष रूप से बच्चों की यौन छवियों को बनाने की सुविधा की क्षमता में जांच शुरू की।</p>
<p>मध्य जनवरी तक, <a href="https://www.bbc.com/news/articles/c98p4214577o">X ने कहा</a> कि वह "तकनीकी उपायों" को लागू करेगा ताकि Grok की तस्वीरों में लोगों को उतारने की क्षमता को रोका जा सके। </p>
<p>अंततः, नए मुकदमे में उल्लिखित Discord सर्वर के पीछे के अपराधी को गिरफ्तार कर लिया गया। उसका नाम मुकदमे में नहीं लिया गया है, लेकिन एक अलग पुलिस जांच का हिस्सा है।</p>
<p>उस जांच में पता चला कि उसके पास नाबालिगों की सैकड़ों AI-जनरेटेड और बदली हुई यौन शोषण छवियों थे, जिन्हें मैसेजिंग प्लेटफॉर्म टेलीग्राम और फाइल-शेयरिंग प्लेटफॉर्म मेगा पर कारोबार किया गया था, शिकायत के अनुसार।</p>