Балтимор став першим містом США, яке подало позов щодо порнографії з діпфейками Grok, оскільки юридичний тиск на xAI Маска посилюється

Позови проти xAI Ілона Маска накопичуються, причому Балтимор став першим великим містом США, яке подало скаргу проти компанії щодо проблем з її генератором зображень Grok.
Мер Балтимора Брендон Скотт заявив у заяві, надісланій CNBC електронною поштою, що діпфейки на Grok "мають травматичні, довічні наслідки для жертв".
"Ми говоримо про технологічні компанії, які сприяють сексуальному насильству над дітьми", - написав Скотт. "Наше місто не буде стояти осторонь і дозволяти цьому тривати; це загроза приватності, гідності та громадській безпеці, і відповідальні повинні бути притягнуті до відповідальності".
xAI, яка зараз є частиною SpaceX після злиття минулого місяця, стикається з регуляторними розслідуваннями в кількох країнах після того, як Grok дозволив масове створення так званої порнографії з діпфейками на основі зображень жінок і дітей, які не давали згоди. Минулого тижня адвокати, що представляють трьох підлітків у Теннессі, подали запропонований колективний позов проти xAI після того, як Grok створив контент, що зображує їх у сексуалізованих і принизливих сценаріях.
У найновішому позові, поданому до окружного суду 24 березня, мер і міська рада Балтимора звинуватили xAI у порушенні законів міста про захист прав споживачів та у вчиненні обманних і недобросовісних торгових практик, зокрема шляхом маркетингу Grok та X, раніше відомого як Twitter, як загалом безпечних для користувачів.
Скаргу згадує тренд "постав її в бікіні", який заохочував користувачів Grok робити фотографії інших і оголювати їх. Маск, який контролює SpaceX і є також генеральним директором Tesla, брав участь у тренді, поділившись зображенням, створеним за допомогою Grok, що зображує його в бікіні.
"Пост Маска функціонував як публічне схвалення здатності Grok генерувати сексуалізовані або відверті редагування реальних людей, і він сигналізував користувачам, що таке використання Grok було прийнятним, гумористичним і заохочувалося", - написали адвокати в скарзі Балтимора. "Походячи від власника та головного публічного обличчя як x.AI, так і X, пост Маска функціонував як маркетинг та просування саме тієї можливості редагування зображень, яка використовувалася для створення несанкціонованих сексуальних зображень".
Місто прагне отримати "максимальну суму передбачених законом штрафів", але не вказало конкретну суму у своїй скарзі. Воно також просить "судову заборону", щоб змусити компанію Маска внести зміни до X та Grok, щоб обмежити створення того, що дослідники називають інтимними зображеннями без згоди (NCII) та матеріалами, що зображують сексуальне насильство над дітьми (CSAM).
Балтимор хоче, щоб суд наказав X та xAI "припинити цілеспрямування та експлуатацію мешканців Балтимора", "реформувати свій експлуататорський дизайн платформи" та переглянути свій маркетинг.
Керівники SpaceX та xAI не відразу відреагували на запит про коментар.
У звіті, опублікованому у вівторок, Internet Watch Foundation, благодійна організація з Великої Британії, заявила, що дівчата залишаються переважною мішенню CSAM і були мішенню 97% незаконних зображень сексуалізованого характеру, створених ШІ, оцінених організацією у 2025 році.
ДИВІТЬСЯ: Угода SpaceX про придбання xAI