Baltimore, Grok deepfake porn konusunda dava açan ilk ABD şehri oldu, Musk'ın xAI'ına yönelik yasal baskı artıyor

Elon Musk'ın xAI'ına yönelik davalar birikiyor ve Baltimore, Grok görüntü oluşturucusuyla ilgili sorunlar nedeniyle şirkete dava açan ilk büyük ABD şehri oldu.
Baltimore Belediye Başkanı Brandon Scott, CNBC'ye gönderdiği e-posta açıklamasında, Grok'taki deepfake'lerin "kurbanlar için travmatik, ömür boyu süren sonuçları" olduğunu söyledi.
Scott, "Çocukların cinsel istismarını mümkün kılan teknoloji şirketlerinden bahsediyoruz. Şehrimiz buna izin vererek öylece durmayacak; bu mahremiyete, onura ve kamu güvenliğine bir tehdittir ve sorumlular hesap vermelidir." diye yazdı.
Geçen ayki birleşmenin ardından SpaceX'in bir parçası olan xAI, Grok'un rıza dışı kadın ve çocukların görsellerine dayalı sözde deepfake porno üretimini toplu olarak yapmasına izin vermesinin ardından birkaç ülkede düzenleyici soruşturmalarla karşı karşıya. Geçen hafta, Tennessee'deki üç genç adına avukatlar, Grok'un onları cinsel içerikli ve aşağılayıcı senaryolarda tasvir eden içerikler üretmesinin ardından xAI'a karşı toplu dava açılması önerisinde bulundu.
24 Mart'ta bir devre mahkemesinde açılan son davada, Baltimore belediye başkanı ve şehir meclisi, xAI'ı şehrin tüketici koruma yasalarını ihlal etmekle ve Grok ile eski adıyla Twitter olan X'i kullanıcılar için genel olarak güvenli olarak pazarlamakla yanıltıcı ve haksız ticaret uygulamalarıyla meşgul olmakla suçladı.
Şikayette, Grok kullanıcılarını başkalarının fotoğraflarını çekip çıplak hale getirmeye teşvik eden bir "onu bikinili yap" trendine atıfta bulunuluyor. SpaceX'in kontrolünü elinde bulunduran ve aynı zamanda Tesla'nın CEO'su olan Musk da bu trende katılarak, kendisini tanga bikinili gösteren Grok ile oluşturulmuş bir görsel paylaştı.
Baltimore şikayetindeki avukatlar, "Musk'ın gönderisi, gerçek kişilerin cinsel içerikli veya açık edici düzenlemelerini oluşturma konusundaki Grok'un yeteneğinin kamuya açık bir onay işlevi gördü ve kullanıcılara Grok'un bu kullanımlarının kabul edilebilir, esprili ve teşvik edildiğini bildirdi. Hem x.AI hem de X'in sahibi ve ana halk yüzü olan Musk'tan gelen gönderi, rıza dışı cinsel görüntüler oluşturmak için kullanılan görüntü düzenleme yeteneğinin pazarlaması ve tanıtımı olarak işlev gördü."
Şehir, "mevcut yasal cezaların azami miktarını" talep ediyor, ancak şikayetinde belirli bir miktar belirtmedi. Ayrıca, Musk'ın şirketini, araştırmacıların rıza dışı samimi görüntüler (NCII) ve çocuk cinsel istismarı materyali (CSAM) olarak adlandırdığı şeylerin oluşturulmasını engellemek için X ve Grok'ta değişiklikler yapmaya zorlamak için "ihtiyati tedbir" talep ediyor.
Baltimore, mahkemenin X ve xAI'dan "Baltimore sakinlerinin hedef alınmasını ve sömürülmesini durdurmasını", "sömürücü platform tasarımlarını iyileştirmesini" ve pazarlamalarını revize etmesini emretmesini istiyor.
SpaceX ve xAI yetkilileri yorum taleplerine hemen yanıt vermedi.
Salı günü yayınlanan bir raporda, Birleşik Krallık merkezli bir hayır kurumu olan Internet Watch Foundation, kızların ezici çoğunlukla CSAM'ın hedefi olmaya devam ettiğini ve 2025 yılında kuruluş tarafından değerlendirilen yasa dışı yapay zeka tarafından üretilen cinsel içerikli görsellerin %97'sinin hedefi olduğunu belirtti.
İZLEYİN: SpaceX'in xAI'ı satın alma anlaşması