Gençler, Grok'un pornografik görüntüleri nedeniyle Musk'ın xAI'sine dava açtı

<h1>Gençler, Grok'un pornografik görüntüleri nedeniyle Musk'ın xAI'sine dava açtı</h1>
<p>Elon Musk'ın yapay zeka şirketi, şirketlerin kendilerinden cinsel açıktaki görüntülerin oluşturulmasına izin vererek çocuk pornografisini kolaylaştırdığını iddia eden gençlerin açtığı davayla karşı karşıya.</p>
<p>xAI'a karşı dava, görüntü ve videolarının bir Grok kullanıcısı tarafından bilgileri olmadan çıplak veya diğer aşırı derecede cinsel yollarla göstermek için değiştirildiği üç genç kadının açtığı davayla Pazartesi günü Kaliforniya federal mahkemesinde açıldı.</p>
<p>Grok, xAI tarafından geliştirilen ve Musk'ın sosyal medya platformu X'te barındırılan bir sohbet robotudur. xAI, ebeveyn şirketi aracılığıyla yapılan yorum talebine yanıt vermedi.</p>
<p>Yasal işlem, geçen yılki tartışmalı yeni Grok özelliklerinin yayınlanmasının ardından yaşanan sonuçlardan biridir ki X bunları "baharatlı" mod olarak nitelendirdi.</p>
<p>Genç kadınların avukatları, Grok'un görüntü ve videoları değiştirebilme yeteneğinin xAI tarafından chatbot ve X'in kullanımını artırmak amacıyla oluşturulduğunu ve yayınlandığını söyledi.</p>
<p>Görüntülerin genç kadınlar üzerinde nasıl değiştirildiğini "karanlık sanatlar yoluyla hayata getirilen bir kukla"ya bennettiler.</p>
<p>“xAI—ve kurucusu Elon Musk— bir iş fırsatı gördü" diyor dava dilekçesi. "Grok'un bu tür sonuçlar üretebileceğini, çocukların görüntü ve videolarını kullanarak bile bildiler ve buna rağmen yayınladılar.”</p>
<p>Genç kadınlar, belirlenmemiş zararların yanı sıra Grok'un bu tür görüntüleri oluşturmasını engelleyen derhal bir kararname talep ediyor.</p>
<p>“Yaşamları, gizlilik, onur ve kişisel güvenlik kaybının yıkıcı bir sonucuyla paramparça oldu" diyor genç kadınların avukatları dava dilekçelerinde.</p>
<p>Davada yer alan gençlerden ikisi 18 yaşın altında, ancak üçü de gizliliklerini korumak için isimlerini kamuoyundan esir tutuyor.</p>
<p>Davada yer alan gençlerden biri, Instagram'da kendisine görüntüler ve videolar, lise yıllık fotoğrafı da dahil olmak üzere onu cinsel açıktaki eylemlerde ve tam çıplaklıkta gösteren görüntülere işaret eden anonim bir mesaj aldıktan sonra görüntüleri öğrendiğini söyledi.</p>
<p>Materyal, o platformdaki özel bir sohbet alanı olan Discord sunucusunda paylaşılıyordu ve Grok kullanılarak da değiştirilmiş en az 18 diğer kadın, yani küçüklerin de benzer görüntüleri içeriyordu, dava dilekçesine göre.</p>
<p>xAI'ya dava açan diğer iki kadın da Grok kullanılarak oluşturulduğu tespit edilen sahte cinsel açıktaki görüntüleri internette buldu.</p>
<p>Grok, Musk'ın xAI tarafından 2023'te başlatıldı. Şirket, X ile birlikte şimdi Musk'ın SpaceX şirketinin bir parçasıdır ve <a href="https://www.bbc.com/news/articles/cq6vnrye06po">geçtiğimiz ay xAI'ı devraldı</a>.</p>
<p>Geçen yıl, xAI Grok kullanıcılarının sahte, daha cinsel nitelikteki görüntüler oluşturmasına olanak tanıyan özelliklerle Grok Imagine veya "baharatlı mod" olarak adlandırdığı bir şey yayınladı.</p>
<p>Mod, <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a>'ten daha <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">ortalamanın üzerindeki kullanıcılar</a>a kadar çevrimiçi görüntülerini kullanarak gerçek kişileri "soymayı" bile gerçekleştirdi.</p>
<p>Daha kısa sürede Grok milyonlarca cinsel açıktaki görüntü oluşturdu, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">Dijital Nefretle Mücadele Merkezi tarafından yürütülen görüntülerin bir örneğine göre</a> 20.000'den fazlası çocukları içeriyordu.</p>
<p>Musk başlangıçta Grok'un sahte cinsel açıktaki içerik oluşturma yeteneğini küçümsedi, Ocak ayında "Grok tarafından oluşturulan herhangi bir çıplak küçüklerin bulunduğunu bilmiyorum. Tamamen sıfır" dedi ve özelliğin kullanıcılarına suçu yükledi.</p>
<p>Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">X'te yazdı</a>: "Açıkçası Grok kendiliğinden görüntüler oluşturmaz, yalnızca kullanıcı isteklerine göre yapar."</p>
<p>Ancak bu yıl çevrimiçi taciz devam ettiğinde, İngiltere gözetimcisi <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Avrupa Komisyonu</a> ve <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">Kaliforniya</a>, özellikle çocukları içeren gerçek kişilerin cinsel açıktaki görüntülerini oluşturma yeteneğiyle ilgili soruşturmalar başlattı.</p>
<p>Orta Ocak itibarıyla <a href="https://www.bbc.com/news/articles/c98p4214577o">X,</a> Grok'un fotoğraflardaki kişileri "soymasına" engel olacak "teknolojik önlemler" uygulayacağını söyledi.</p>
<p>Sonunda, yeni davada adı geçen Discord sunucusunun arkasındaki fail tutuklandı. Davada adı geçmeyen ancak ayrı bir polis soruşturmasının parçasıdır.</p>
<p>O soruşturma, yüzlerce yapay zeka tarafından oluşturulan ve değiştirilen küçüklerin cinsel istismarı görüntülerinin Telegram mesajlaşma platformunda ve Mega dosya paylaşım platformunda takas edildiğini ortaya çıkardı, dava dilekçesine göre.</p>