ボルチモア、マスク氏のxAIをGrokディープフェイクで提訴 米都市で初、法的圧力高まる

イーロン・マスク氏のxAIに対する訴訟が積み重なる中、ボルチモアが、同社のGrok画像生成に関する苦情を申し立てた最初の主要米国都市となった。
ボルチモア市長ブランドン・スコット氏はCNBCへの電子メール声明で、Grok上のディープフェイクは「被害者にトラウマ的で生涯にわたる影響を与える」と述べた。
「私たちは、テクノロジー企業が子供たちの性的搾取を可能にしていることについて話しているのです」とスコット氏は書いた。「私たちの市は、これが続くのを黙って見ているわけにはいきません。これはプライバシー、尊厳、公共の安全への脅威であり、責任者は説明責任を負わなければなりません。」
先月合併を経てSpaceXの一部となったxAIは、Grokが同意のない女性や子供たちの画像に基づいていわゆるディープフェイクポルノを大量生成することを許可した後、複数の国で規制当局の調査に直面している。先週、テネシー州の3人のティーンエイジャーを代表する弁護士が、Grokが彼らを性的な描写や品位を傷つける状況で描いたコンテンツを生成した後、xAIに対して集団訴訟の申し立てを提出した。
3月24日に巡回裁判所に提出された最新の訴訟では、ボルチモア市長と市議会は、xAIが市の消費者保護法に違反し、欺瞞的かつ不公正な商慣行に従事したと非難した。具体的には、Grokと旧Twitterとして知られていたXを、一般的にユーザーにとって安全であるとマーケティングしたことである。
この訴状は、Grokユーザーに他人の写真を撮ってヌード化することを奨励した「彼女をビキニにする」というトレンドに言及している。SpaceXを支配し、テスラのCEOでもあるマスク氏は、このトレンドに参加し、ビキニ姿の自分を描いたGrokで作成された画像を共有した。
「マスク氏の投稿は、実在の人物の性的な、あるいは露出度の高い編集を生成するGrokの能力に対する公的な支持として機能し、ユーザーに対して、Grokのそのような使用が許容され、ユーモラスであり、奨励されるものであることを示しました」とボルチモアの訴状の弁護士は書いた。「x.AIとXの両方のオーナーであり、主要な公的顔である人物からのマスク氏の投稿は、非同意の性的画像を作成するために使用されていたまさにその画像編集機能のマーケティングおよびプロモーションとして機能しました。」
同市は「法定罰金の上限額」を求めているが、訴状には具体的な金額は記載されていない。また、マスク氏の会社にXとGrokの変更を強制して、研究者が非同意の親密な画像（NCII）および児童性的虐待資料（CSAM）と呼ぶものの作成を抑制するための「差止命令による救済」も求めている。
ボルチモアは、裁判所にXとxAIに「ボルチモアの住民の標的化と搾取を停止し」、「搾取的なプラットフォーム設計を改革し」、マーケティングを改訂するように命じることを望んでいる。
SpaceXとxAIの幹部は、コメントの求めにすぐには応じなかった。
火曜日に発表された報告書で、英国を拠点とする慈善団体であるインターネットウォッチ財団は、CSAMの標的は圧倒的に少女であり、2025年に同組織が評価した違法なAI生成の性的画像のうち97％が少女を標的としていたと述べた。
視聴：SpaceX、xAI買収の取引