วัยรุ่นฟ้องร้อง xAI ของมัสก์เนื่องจากภาพอนาจารของ Grok

<h1>วัยรุ่นฟ้องร้อง xAI ของมัสก์เนื่องจากภาพอนาจารของ Grok</h1>
<p>บริษัทปัญญาประดิษฐ์ของอีลอน มัสก์กำลังเผชิญกับการฟ้องร้องจากวัยรุ่นที่กล่าวหาว่าบริษัทอำนวยความสะดวกในการค้าประเวณีเด็กโดยอนุญาตให้สร้างภาพอนาจารของพวกเขา</p>
<p>การฟ้องร้อง xAI ถูกยื่นเมื่อวันจันทร์ในศาลรัฐบาลกลางแคลิฟอร์เนียโดยหญิงสาวสามคนซึ่งภาพถ่ายและวิดีโอของพวกเธอถูกแก้ไขโดยผู้ใช้ Grok เพื่อแสดงให้เห็นว่าพวกเธอนุ่งน้อยใจหรือในลักษณะทางเพศที่โจ่งแจ้งอื่นๆ</p>
<p>Grok เป็นแชทบอทที่พัฒนาโดย xAI และโฮสต์บนแพลตฟอร์มโซเชียลมีเดีย X ของ Musk xAI ไม่ได้ตอบสนองต่อคำขอแสดงความคิดเห็นที่ทำผ่านบริษัทแม่ของตน</p>
<p>การดำเนินการทางกฎหมายนี้เป็นส่วนหนึ่งของผลกระทบที่เกิดขึ้นตั้งแต่การเปิดตัวคุณสมบัติใหม่ของ Grok เมื่อปีที่แล้ว ซึ่ง X เรียกว่า "โหมดเผ็ดร้อน"</p>
<p>ทนายความของหญิงสาวกล่าวว่าความสามารถของ Grok ในการแก้ไขภาพถ่ายและวิดีโอได้รับการสร้างและเผยแพร่โดย xAI โดยมีวัตถุประสงค์หลักเพื่อขับเคลื่อนการใช้งานแชทบอทและ X</p>
<p>พวกเขานำวิธีการที่ภาพถ่ายของหญิงสาวถูกเปลี่ยนแปลงไปเปรียบเทียบกับ "ตุ๊กตาหุ่นกระบอกที่ถูกทำให้มีชีวิตขึ้นมาด้วยศาสตร์มืด"</p>
<p>“xAI—และผู้ก่อตั้งของ Elon Musk— เห็นโอกาสทางธุรกิจ” คำฟ้องกล่าว “พวกเขารู้ว่า Grok สามารถสร้างผลลัพธ์ดังกล่าวได้ รวมถึงโดยใช้ภาพถ่ายและวิดีโอของเด็ก และเผยแพร่มันออกไปก็ตาม”</p>
<p>หญิงสาวกำลังเรียกร้องค่าเสียหายที่ไม่ระบุจำนวน รวมถึงคำสั่งให้ Grok หยุดสร้างภาพดังกล่าวทันที</p>
<p>“ชีวิตของพวกเธอถูกทำลายลงด้วยการสูญเสียความเป็นส่วนตัว เกียรติยศ และความปลอดภัยส่วนบุคคลอย่างร้ายแรง” ทนายความของหญิงสาวกล่าวในคำฟ้อง</p>
<p>วัยรุ่นสองคนในคดีความนี้มีอายุต่ำกว่า 18 ปี แต่ทั้งสามคนกำลังงดเว้นการเปิดเผยชื่อของพวกเขาต่อสาธารณชนเพื่อปกป้องความเป็นส่วนตัวของพวกเขา</p>
<p>หนึ่งในโจทก์กล่าวว่าเธอพบเห็นภาพดังกล่าวหลังจากได้รับข้อความที่ไม่เปิดเผยชื่อบน Instagram ที่ชี้ให้เธอเห็นภาพถ่ายและวิดีโอ รวมถึงรูปถ่ายประจำปีของโรงเรียนมัธยมปลายของเธอ ซึ่งถูกแก้ไขเพื่อแสดงให้เห็นว่าเธอกำลังทำกิจกรรมทางเพศที่โจ่งแจ้งและเปลือยเปล่า</p>
<p>เนื้อหานี้กำลังถูกแบ่งปันบนเซิร์ฟเวอร์ Discord พื้นที่สนทนาส่วนตัวบนแพลตฟอร์มนั้น และรวมถึงภาพที่คล้ายกันซึ่งถูกแก้ไขโดยใช้ Grok ของผู้หญิงอื่นๆ อย่างน้อย 18 คนที่ยังเป็นเด็ก ตามคำฟ้อง</p>
<p>ผู้หญิงอีกสองคนที่ฟ้องร้อง xAI ก็พบภาพอนาจารปลอมของพวกเธอทางออนไลน์ ซึ่งพบว่าถูกสร้างขึ้นผ่าน Grok</p>
<p>Grok เปิดตัวในปี 2023 โดย xAI ของ Musk บริษัทนี้ รวมถึง X ตอนนี้เป็นส่วนหนึ่งของบริษัท SpaceX ของ Musk ซึ่ง <a href="https://www.bbc.com/news/articles/cq6vnrye06po">เข้าควบคุม xAI เมื่อเดือนที่แล้ว</a></p>
<p>เมื่อปีที่แล้ว xAI ได้เปิดตัวสิ่งที่เรียกว่า Grok Imagine หรือ "โหมดเผ็ดร้อน" ซึ่งมีคุณสมบัติที่อนุญาตให้ผู้ใช้ Grok ขอให้สร้างภาพปลอมที่มีลักษณะทางเพศมากขึ้น</p>
<p>โหมดนี้ยังดำเนินการ "การปลดเสื้อผ้า" ของคนจริงๆ โดยใช้ภาพของพวกเขาทางออนไลน์ ตั้งแต่ <a href="https://www.bbc.com/news/articles/cwye62e1ndjo">Taylor Swift</a> ไปจนถึงผู้ใช้ <a href="https://www.bbc.com/news/articles/ce8gz8g2qnlo">ทั่วไป</a> มากขึ้น</p>
<p>ในเวลาไม่ถึงสองสัปดาห์ Grok ได้สร้างภาพที่มีลักษณะทางเพศนับล้านภาพ รวมถึงมากกว่า 20,000 ภาพของเด็ก <a href="https://counterhate.com/research/grok-floods-x-with-sexualized-images/">ตามการสุ่มตัวอย่าง</a> ของภาพที่ดำเนินการโดยศูนย์ต่อต้านความเกลียดชังดิจิทัล</p>
<p>Musk ในตอนแรกปฏิเสธความสามารถของ Grok ในการสร้างเนื้อหาทางเพศปลอม โดยกล่าวในเดือนมกราคมว่า "ฉันไม่ทราบว่ามีภาพเปลือยของเด็กอายุต่ำกว่า 18 ปีที่ Grok สร้างขึ้นเลย เป็นศูนย์อย่างแท้จริง" และโยนความผิดให้กับผู้ใช้คุณสมบัติ</p>
<p>“เห็นได้ชัดว่า Grok ไม่ได้สร้างภาพขึ้นมาเองโดยบังเอิญ มันทำเช่นนั้นตามคำขอของผู้ใช้เท่านั้น” Musk <a href="https://www.bbc.com/news/articles/c7433dz4ykwo">เขียนบน X</a></p>
<p>อย่างไรก็ตาม เมื่อการละเมิดทางออนไลน์ยังคงดำเนินต่อไปในปีนี้ หน่วยงานกำกับดูแลของสหราชอาณาจักร <a href="https://www.bbc.com/news/articles/cwy875j28k0o">Ofcom</a> คณะกรรมาธิการยุโรป <a href="https://www.bbc.com/news/articles/clye99wg0y8o">และ</a> แคลิฟอร์เนีย <a href="https://www.bbc.com/news/articles/cpwnqlpw7gxo">ได้เริ่มการสอบสวน</a> เกี่ยวกับความสามารถของฟีเจอร์ในการสร้างภาพที่มีลักษณะทางเพศของคนจริงๆ โดยเฉพาะเด็ก</p>
<p>ในช่วงกลางเดือนมกราคม <a href="https://www.bbc.com/news/articles/c98p4214577o">X กล่าวว่า</a> จะใช้มาตรการทางเทคนิคเพื่อหยุดความสามารถของ Grok ในการปลดเสื้อผ้าผู้คนในรูปถ่าย</p>
<p>ในที่สุด ผู้กระทำผิดที่อยู่เบื้องหลังเซิร์ฟเวอร์ Discord ที่กล่าวถึงในการฟ้องร้องใหม่ถูกจับกุม เขาไม่ได้ถูกระบุชื่อในการฟ้องร้อง แต่เป็นส่วนหนึ่งของการสอบสวนของตำรวจแยกต่างหาก</p>
<p>การสอบสวนดังกล่าวค้นพบว่าเขามีภาพอนาจารที่สร้างขึ้นและแก้ไขโดยใช้ AI หลายร้อยภาพของเด็ก ซึ่งถูกซื้อขายบนแพลตฟอร์มการส่งข้อความ Telegram และแพลตฟอร์มการแชร์ไฟล์ Mega ตามคำฟ้อง</p>