Підлітки подають позов на xAI Маска через порнографічні зображення Grok з їхньою участю

<h1>Підлітки подають позов на xAI Маска через порнографічні зображення Grok з їхньою участю</h1>
<p>Компанія з штучного інтелекту Ілона Маска стикається з позовом від підлітків, які стверджують, що компанія сприяла дитячій порнографії, дозволяючи створювати сексуально відверті зображення їхніх осіб.</p>
<p>Позов проти xAI було подано в понеділок до федерального суду штату Каліфорнія трьома молодими жінками, чиї зображення та відео були змінені користувачем Grok без їхнього відома, щоб показати їх голими або іншим чином відверто сексуально.</p>
<p>Grok — це чат-бот, розроблений xAI і розміщений на платформі соціальних мереж Musk X. xAI не відповіла на запит про коментар, зроблений через її материнську компанію.</p>
<p>Юридичні дії є частиною наслідків після випуску нових функцій Grok минулого року, які X назвала режимом "spicy".</p>
<p>Адвокати молодих жінок заявили, що здатність Grok змінювати зображення та відео була створена та випущена xAI виключно для стимулювання використання чат-бота та X.</p>
<p>Вони порівняли спосіб, яким змінювалися зображення молодих жінок, з "лялькою, якої оживили за допомогою темних мистецтв".</p>
<p>«xAI—і її засновник Ілон Маск— побачили бізнес-можливість», — йдеться в позові. «Вони знали, що Grok може давати такі результати, зокрема, використовуючи зображення та відео дітей, і все одно публічно випустили його».</p>
<p>Молоді жінки вимагають невизначену суму збитків, а також негайного розпорядження про заборону Grok створювати подібні зображення.</p>
<p>«Їхнє життя було зруйноване руйнівною втратою приватності, гідності та особистої безпеки», — заявили адвокати молодих жінок у своєму позові.</p>
<p>Двоє підлітків, які є сторонами позову, мають вік менше 18 років, але всі троє утримують свої імена від громадськості, щоб захистити свою приватність.</p>
<p>Одна з молодих позивачок розповіла, що дізналася про зображення після того, як отримала анонімне повідомлення в Instagram, яке вказувало їй на зображення та відео, включаючи її шкільну фотографію, яка була змінена, щоб показати її у сексуально відвертих діях та повністю голою.</p>
<p>Матеріали поширювалися на сервері Discord, приватному чат-просторі на цій платформі, і включали подібні зображення, які також були змінені за допомогою Grok щонайменше 18 інших жінок, які були неповнолітніми, згідно з позовом.</p>
<p>Інші дві жінки, які подали позов проти xAI, також знайшли фальшиві сексуально відверті зображення себе в Інтернеті, які було створено за допомогою Grok.</p>
<p>Grok було запущено в 2023 році xAI компанією Musk. Компанія, а також X, тепер є частиною компанії Musk SpaceX, яка <a href="https://www.bbc.com/news/articles/cq6vnrye06po">перебрала xAI минулого місяця</a>.</p>
<p>Минулого року xAI випустила те, що назвала Grok Imagine або "spicy mode", з функціями, які дозволяли користувачам Grok просити її створювати фальшиві зображення, які були більш сексуального характеру.</p>
<p>Режим навіть проводив "роздягання" реальних людей, використовуючи їхні зображення в Інтернеті, від <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> до більш <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">звичайних користувачів</a>.</p>
<p>Менш ніж за два тижні Grok створила мільйони сексуалізованих зображень, включаючи понад 20 000 дітей, <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">згідно з вибіркою</a> зображень, проведеною Центром протидії цифровим ненависницьким проявам.</p>
<p>Musk спочатку применшував здатність Grok створювати фальшивий сексуалізований контент, заявивши в січні, що йому "не відомо жодного зображення незахищених неповнолітніх, згенерованого Grok. Абсолютно нуль", і поклав провину на користувачів цієї функції.</p>
<p>«Очевидно, що Grok не спонтанно генерує зображення, він робить це лише за запитом користувачів», — <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">написав Musk на X</a>.</p>
<p>Однак, оскільки онлайн-зловживання тривали цього року, контролюючий орган Великобританії <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a>, <a href="https://www.bbc.com/news/articles/clye99wg0y8o">Європейська Комісія</a> та <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">Каліфорнія</a> розпочали розслідування здатності функції створювати сексуалізовані зображення реальних людей, особливо дітей.</p>
<p>До середини січня <a href="https://www.bbc.com/news/articles/c98p4214577o">X заявила</a>, що впровадить "технологічні заходи" для зупинки здатності Grok роздягати людей на фотографіях.</p>
<p>Зрештою, затримано того, хто стояв за сервером Discord, згаданим у новому позові. Його не було названо в позові, але він є частиною окремого поліцейського розслідування.</p>
<p>Це розслідування виявило, що він має сотні AI-згенерованих і змінених зображень сексуального насильства над неповнолітніми, які торгувалися на платформі обміну повідомленнями Telegram і на платформі спільного використання файлів Mega, згідно з позовом.</p>