Elon Musk'ın xAI'sine karşı açılan davada Grok'un 3 küçük çocuğun cinsel içerikli deepfake'lerini oluşturduğu iddia edildi

<ul>
<li>Elon Musk'ın xAI'sine karşı açılan davada Grok sohbet robotunun üç küçük çocuğun cinsel içerikli görüntüleri oluşturduğu iddia edildi.</li>
<li>Dava, xAI'nin "gerçek insanların cinsel istismarı"ndan kar elde etmekle suçlanıyor.</li>
<li>Grok, daha önce cinsel içerikli görüntüler oluşturmak için kullanıldıktan sonra büyük tepki çekti.</li>
</ul>
<p>Elon Musk'ın <a href="https://www.businessinsider.com/elon-musk-xai-leadership-style-big-year-grok-ipo-spacex-2026-2">xAI</a>'sine karşı açılan yeni davada, amiral gemisi sohbet robotu <a href="https://www.businessinsider.com/grok-still-makes-sexualized-ai-images-real-people-app-2026-1">Grok</a>'un üç küçük çocuğun cinsel içerikli deepfake görüntüleri oluşturmak için kullanıldığı iddia ediliyor; davanın bu içeriğin çocuk cinsel istismarı materyali oluşturduğunu söylediği belirtiliyor.</p>
<p>Pazartesi günü Kaliforniya federal mahkemesinde açılan öngörülen grup davası, yapay zeka startup'ının "gerçek insanların, çocukların da dahil olduğu cinsel istismarlarından kar elde etmek"le suçlanıyor.</p>
<p>"Yapay zeka oluşturma, pazarlama ve satma işi yapan hemen hemen tüm şirketler, böyle bir aracın tehlikelerini fark etti ve ürünlerinin son derece tehlikeli bir grup olan çocuk cinsel istismarcıları tarafından kullanılmasını önleyecek endüstri standardı güvenlik önlemleri uygulamayı seçti. XAI bunu yapmadı" diyor dava dilekçesi.</p>
<p>Musk ve xAI'den yetkililer, Business Insider'ın yorum talebine derhal yanıt vermedi.</p>
<p>Musk daha önce X'teki Ocak ayındaki bir gönderide, "Grok tarafından oluşturulan herhangi bir çıplak küçük çocuk görüntüsü hakkında bilgim yok. Tamamen sıfır" demişti.</p>
<p>Grok, kullanıcı istemlerine göre görüntüler oluşturuyor, diye yazdı.</p>
<p>Musk, "Görüntü oluşturulması istendiğinde, Grok'un çalışma prensibi herhangi bir ülkenin veya eyaletin yasalarına uymak olduğundan yasa dışı hiçbir şey üretmeyi reddedecektir. Grok istemlerinin düşmanca hacklenmesiyle beklenmedik bir şey olduğunda zamanlar olabilir. Bu olursa, hatayı hemen düzeltiriz" dedi.</p>
<p>xAI'ye karşı açılan davada, Tennessee'li davacıların "xAI'nin bilerek üretmesi, bulundurması ve dağıtması sonucu ortaya çıkan yapay zeka tarafından oluşturulan çocuk cinsel istismarı materyalinin üç mağduru" olduğu belirtiliyor.</p>
<p>Mahkeme belgelerinde yalnızca Jane Doe 1, Jane Doe 2 ve Jane Doe 3 olarak tanımlanan davacılar, xAI'nin yapay zeka araçlarının kendilerinin çıplak görüntüleri ve videoları oluşturmak için kullanıldığını iddia ediyor.</p>
<p>Jane Doe 1, 2025 Aralık ayında, bir tanıdığının kendisini ve diğer küçük kızları Discord grup sohbet platformunda yayınladığı bir klasördeki görüntü ve video dosyalarını yüklediğini uyararak bir anonim Instagram hesabından bir mesaj aldı.</p>
<p>Dava dilekçesine göre, anonim kullanıcı, bir dizi mesajda, failin bir klasör dolusu görüntü ve video dosyasını kendisini ve diğer küçük kızları içeren Discord'a yüklediğini açıkladı.</p>
<p>Dava dilekçesine göre, anonim kullanıcı daha sonra Jane Doe 1'e kendisi ve diğer küçük kızların cinsel içerikli yapay zeka tarafından oluşturulmuş görüntüleri ve videoları gönderdi.</p>
<p>Dava dilekçesine göre, "Bu dosyalardan en az beşi, bir video ve dört görüntü, kendisinin tanıdığı ortamlarda yüzü ve vücuduyla gösteriliyordu, ancak cinsel açıdan açık pozlara dönüştürülmüştü. Görüntüler, herhangi bir giysi olmadan tüm vücudunu gösteriyordu. Video, tamamen soyuluncaya kadar soyunmasını gösteriyordu."</p>
<p>Jane Doe 1, görüntülerin yer aldığı diğer küçük çocukları ve ailelerini uyardı ve Tennessee'de bir ceza soruşturması açıldı, diye belirtiliyor davada. Davaya göre, yerel polis 2025 Aralık ayında davayla bağlantılı olarak bir şüpheliyi tutukladı.</p>
<p>Geçtiğimiz ay, Jane Doe 2'nin soruşturma sırasında en az iki görüntüsünün de xAI'nin araçlarını kullanarak cinsel açıdan açık yapay zeka tarafından oluşturulmuş içerik üretmek için kullanıldığını öğrendiği belirtiliyor.</p>
<p>Dava dilekçesine göre, yerel kolluk kuvvetleri kız ve annesine, mavi bir bikini giydiği plajdaki bir görüntünün "herhangi bir giysi olmadan onu tasvir edecek şekilde değiştirildiğini" bildirdi.</p>
<p>Yetkililer ayrıca Jane Doe 3'e, şüphelinin telefonundan kurtarılan yapay zeka tarafından oluşturulmuş görüntüler arasında "tamamen çıplak onu tasvir edecek şekilde değiştirilmiş" bir görüntünün de bulunduğunu bildirdi, diye belirtiliyor davada.</p>
<p>Davacıların avukatlarından Vanessa Baehr-Jones, Business Insider'a müvekkillerinin "bir kabus yaşadığını" söyledi.</p>
<p>"Çocukluklarında çekilen CSAM görüntüleri ve videoları artık internetteki çocuk cinsel istismarcılarının karanlık dünyalarında sonsuza dek var" dedi Baehr-Jones. "Bundan kaynaklanan zarar kesindir."</p>
<p>Avukat, davanın xAI'ye "hesap vereceğini" ve "en önemlisi, bunun başka hiçbir mağdura asla yaşanmaması gerektiğini" umduğunu söyledi.</p>
<p>Dava, açıklanmayan zararlar talep ediyor ve xAI'yi çocuk pornografyasının üretimiyle ilgili, çocuk pornografyasının dağıtılmasıyla ilgili ve çocuk pornografyasının bulundurmasıyla ilgili suçlamalar da dahil olmak üzere diğer iddialarla suçluyor.</p>
<p>Davacıların başka bir avukatı Annika Martin, "Hukuk sistemimizde para, şirketlerin neden olduğu zararlar için ödeme yapmalarını sağlamanın bir yoludur. Şirketler kâr amaçlı kuruluşlar olduğundan, onları cebinden vurmak karar alma süreçlerini etkilemenin tek yoludur" dedi.</p>
<p>Daha önce <a href="https://www.businessinsider.com/elon-musk-grok-remove-clothes-ai-images-women-minors-backlash-2026-1">xAI'nin Grok'u, yapay zeka görüntü oluşturucusunun gerçek insanların cinsel içerikli görüntülerini oluşturmak için kullanılması</a> üzerine büyük tepkilere yol açmıştı.</p>
<p>Yanıt olarak, Musk'ın xAI'ye sattığı sosyal medya sitesi X, Grok'un artık <a href="https://www.businessinsider.com/grok-stops-users-making-sexualized-ai-images-backlash-xai-musk-2026-1">gerçek insanların cinsel içerikli veya ifşa edici giysilerdeki yapay zeka görüntülerini oluşturmasına izin vermeyeceğini</a> söyledi.</p>
<p><a href="https://www.businessinsider.com/twitter-ad-revenue-scheme-creator-influencer-personalities-elon-musk-money-2023-7">Ashley St. Clair</a>, Elon Musk'ın 2024 yılında doğurduğu oğullardan biri olan, Ocak ayında xAI'ye karşı dava açarak Grok'un kullanıcıların isteği üzerine kendisinin cinsel açıdan açık deepfake'lerini oluşturduğunu iddia etti.</p>
<p>Fransız yetkililer de cinsel içerikli deepfake'ler nedeniyle Grok hakkında soruşturma yürütüyor.</p>