볼티모어, 머스크의 xAI에 대한 법적 압박이 거세지면서 Grok 딥페이크 포르노에 대해 소송을 제기한 최초의 미국 도시

일론 머스크의 xAI에 대한 소송이 쌓이고 있으며, 볼티모어는 Grok 이미지 생성기 문제에 대해 회사를 상대로 소송을 제기한 최초의 주요 미국 도시가 되었습니다.
브랜든 스콧 볼티모어 시장은 CNBC에 보낸 이메일 성명에서 Grok의 딥페이크가 "피해자들에게 트라우마적이고 평생 지속되는 결과를 초래한다"고 말했습니다.
스콧은 "우리는 기술 기업들이 아동의 성적 착취를 조장하는 것에 대해 이야기하고 있습니다. 우리 시는 이를 계속 방치하지 않을 것입니다. 이는 사생활, 존엄성, 공공 안전에 대한 위협이며, 책임 있는 사람들은 책임을 져야 합니다."라고 썼습니다.
지난달 합병 후 SpaceX의 일부가 된 xAI는 Grok이 동의하지 않은 여성과 아동의 이미지를 기반으로 소위 딥페이크 포르노를 대량 생성하도록 허용한 후 여러 국가에서 규제 조사를 받고 있습니다. 지난주 테네시주의 세 명의 십대들을 대표하는 변호사들은 Grok이 그들을 성적으로 노골적이고 비하적인 상황으로 묘사하는 콘텐츠를 생성한 후 xAI를 상대로 집단 소송을 제기했습니다.
3월 24일 지방 법원에 제기된 최신 소송에서 볼티모어 시장과 시의회는 xAI가 시의 소비자 보호법을 위반하고 기만적이고 불공정한 무역 관행에 가담했다고 주장했습니다. 특히 Grok과 이전 트위터로 알려졌던 X를 사용자에게 일반적으로 안전한 것으로 마케팅했습니다.
이 고소장에는 Grok 사용자들이 다른 사람들의 사진을 찍어 누드화하도록 장려한 "그녀를 비키니에 입혀줘" 트렌드가 언급되어 있습니다. SpaceX를 통제하고 테슬라의 CEO이기도 한 머스크는 비키니를 입은 자신의 이미지를 Grok으로 만든 이미지를 공유하며 이 트렌드에 참여했습니다.
볼티모어 고소장의 변호사들은 "머스크의 게시물은 실제 사람들의 성적으로 노골적이거나 노출이 심한 편집본을 생성하는 Grok의 능력에 대한 공개적인 지지를 기능했으며, 사용자들에게 Grok의 이러한 사용이 용납되고 유머러스하며 장려된다는 것을 신호했습니다. x.AI와 X의 소유주이자 주요 대변인인 머스크의 게시물은 비동의적인 성적 이미지를 생성하는 데 사용되었던 이미지 편집 기능에 대한 마케팅 및 홍보 역할을 했습니다."라고 썼습니다.
시는 "법정 최고 벌금액"을 요구하고 있지만, 고소장에서 특정 금액을 명시하지는 않았습니다. 또한 연구자들이 비동의 친밀 이미지(NCII) 및 아동 성 학대 자료(CSAM)로 참조하는 것의 생성을 억제하기 위해 머스크의 회사가 X와 Grok에 변경을 가하도록 강제하는 "금지 명령 구제"를 요청하고 있습니다.
볼티모어는 법원이 X와 xAI에 "볼티모어 주민들의 표적화 및 착취를 중단하고", "착취적인 플랫폼 설계를 개혁하고", 마케팅을 수정하도록 명령하기를 원합니다.
SpaceX와 xAI의 임원들은 즉시 논평 요청에 응하지 않았습니다.
화요일에 발표된 보고서에서 영국 기반 자선 단체인 인터넷 감시 재단(Internet Watch Foundation)은 CSAM의 대상이 압도적으로 여성이며, 2025년에 해당 기관에서 평가한 불법 AI 생성 성적 이미지의 97%가 여성들을 대상으로 했다고 밝혔습니다.
시청: SpaceX의 xAI 인수 계약