‘มีชื่อของคุณอยู่ แต่ฉันไม่คิดว่าเป็นคุณ’: AI ปลอมตัวเป็นนักดนตรีบน Spotify ได้อย่างไร

เจสัน โมแรน นักประพันธ์เพลงแจ๊สและนักเปียโนชื่อดัง ได้รับโทรศัพท์แปลกๆ จากเพื่อนเมื่อเดือนที่แล้ว เพื่อนของเขาคือ เบอร์นิส เอิร์ล ทราวิส มือเบส อยากรู้เกี่ยวกับอัลบั้มใหม่ของโมแรนที่เขาเห็นบน Spotify บริการสตรีมเพลง

“มีชื่อของคุณอยู่” ทราวิสบอกเขา “แต่ฉันไม่คิดว่าเป็นคุณ”

โมแรนกล่าวว่าเขาไม่ได้ใช้ Spotify หรือนำเพลงของเขาไปลงในแพลตฟอร์มนี้ โดยเลือกใช้เฉพาะ Bandcamp เท่านั้น ดังนั้นเรื่องนี้จึงไม่สมเหตุสมผล หลังจากตรวจสอบ เขาพบโปรไฟล์ศิลปินที่ใช้ชื่อของเขาบน Spotify ซึ่งเต็มไปด้วยอัลบั้มจากค่ายเก่าของเขา Blue Note Records ซึ่งเป็นเจ้าของสิทธิ์ในเพลงยุคแรกๆ ของเขา ที่นั่นเขาเห็น EP ใหม่ชื่อ For You หน้าปกอัลบั้มเป็นสไตล์อนิเมะญี่ปุ่นที่ดูหม่นหมอง และมีรูปผู้หญิงสาวนั่งอยู่บนพื้นท่ามกลางสายฝน เขาจึงลองฟัง

“ไม่มีแม้แต่คนเล่นเปียโนในอัลบั้มห่วยๆ นี่เลย” โมแรนพูดพร้อมหัวเราะ เขาอธิบายว่าเพลงเป็นแนวอินดี้ป๊อป และกล่าวว่า “มันไม่ใกล้เคียงกับสิ่งที่ผมจะทำเลยแม้แต่น้อย” เขาจึงเริ่มดำเนินการเพื่อนำอัลบั้มปลอมนี้ออกไป

โมแรนเป็นหนึ่งในนักดนตรีจำนวนมากขึ้นที่ตกเป็นเป้าบนแพลตฟอร์มสตรีมเพลงโดยสิ่งที่ดูเหมือนจะเป็นบอท AI ที่ปลอมตัวเป็นศิลปินตัวจริง สิ่งนี้เกิดขึ้นกับนักดนตรีแจ๊สชื่อดัง ศิลปินอินดี้ร็อก และแม้กระทั่งแร็ปเปอร์อย่าง Drake อย่างน้อยหนึ่งโหล สำหรับนักดนตรีที่ต้องรับมือกับสแปม AI จำนวนมาก โมแรนกล่าวว่ามันน่าหงุดหงิด ความรู้สึกนี้ยังเหนือจริงอีกด้วย

“มันเหมือนกับตอนใน Black Mirror ที่มี ซัลมา ฮาเยก” เขาพูด โดยอ้างถึงตอนหนึ่งของซีรีส์ทีวีแนว dystopian ที่เวอร์ชันเรียลลิตี้โชว์ของตัวละครส่งผลกระทบในทางลบต่อชีวิตของตัวละครต้นฉบับ “เธอไม่ต้องอยู่ที่นั่นในตอนนี้ด้วยซ้ำ เหมือนกับว่าพวกเขากำลังใช้เวอร์ชันของเธอ”

Spotify ได้ยอมรับปัญหานี้และขอบเขตของสแปม AI บนแพลตฟอร์ม โดยเปิดเผยเมื่อเดือนกันยายนปีที่แล้วว่าได้ลบ “แทร็กสแปม” มากกว่า 75 ล้านรายการในช่วง 12 เดือนที่ผ่านมา ในเวลานั้น บริษัทกล่าวด้วยว่ากำลังเสริมสร้างการคุ้มครองสำหรับนักดนตรี รวมถึงกฎที่เข้มงวดขึ้นเกี่ยวกับการปลอมตัว

เมื่อเดือนที่แล้ว บริษัทกล่าวในบล็อกโพสต์ว่ากำลังพัฒนากลไกใหม่เพื่อ “ให้นักดนตรีควบคุมสิ่งที่ปรากฏภายใต้ชื่อของตนได้มากขึ้น” และ “การปกป้องตัวตนของศิลปิน” เป็นสิ่งสำคัญสูงสุด กลไกนี้จะช่วยให้นักดนตรีสามารถตรวจสอบและอนุมัติหรือปฏิเสธการเผยแพร่ก่อนที่จะเผยแพร่บนแพลตฟอร์ม

“Spotify ใช้มาตรการรักษาความปลอดภัยหลากหลายเพื่อปกป้องศิลปิน รวมถึงระบบที่ออกแบบมาเพื่อตรวจจับและป้องกันเนื้อหาที่ไม่ได้รับอนุญาต การตรวจสอบโดยมนุษย์ และกระบวนการรายงานและลบ” โฆษกของบริษัทกล่าว พร้อมเสริมว่า Spotify เป็นบริการสตรีมมิ่งเพียงรายเดียวที่นำเสนอกลไกใหม่เช่นนี้

แต่สำหรับโมแรน ซึ่งเป็นอดีตผู้อำนวยการฝ่ายศิลป์ด้านแจ๊สของ Kennedy Center การแก้ไขปัญหาเหล่านี้ยังไม่เพียงพอ โดยเฉพาะอย่างยิ่งเมื่อเนื้อหา AI ไม่ได้ถูกระบุว่าเป็นสแปมภายในเสมอไป และปัญหานี้ก็ดูเหมือนจะไม่ลดลง เขาเป็นกังวลเกี่ยวกับภาระงานเพิ่มเติมสำหรับศิลปินเช่นเขา ซึ่งไม่ได้นำเพลงของตนไปลงบน Spotify และสำหรับนักดนตรีที่เสียชีวิตไปแล้ว

“John Coltrane หรือ Billie Holiday จะยืนยันได้อย่างไรว่าอัลบั้มใหม่นี้ไม่ใช่คอนเสิร์ตปลอมที่ ‘เพิ่งค้นพบในปี 1952 ที่ปารีส’?” โมแรนกล่าว “พวกเขาไม่มีทางทำได้เลย… ไม่มีทางให้พวกเขาคัดค้านได้”

โฆษกของ Spotify กล่าวว่าผู้จัดการมรดกหรือผู้ถือสิทธิ์ของศิลปินที่เสียชีวิตสามารถเลือกใช้กลไกใหม่ของบริษัทได้หากพวกเขามีบัญชี สำหรับศิลปินที่ไม่มีบัญชี ไม่ว่าจะยังมีชีวิตอยู่หรือเสียชีวิตไปแล้ว โฆษกกล่าวว่า Spotify จะยังคงพึ่งพาระบบตรวจจับและรับผิดชอบภายในของตนต่อไป

‘AI ได้กลายเป็นตัวเร่ง’

หลังจากทราวิสแจ้งโมแรนเกี่ยวกับอัลบั้ม For You ปลอม โมแรนได้โพสต์วิดีโอเกี่ยวกับเรื่องอื้อฉาวนี้ลงในฟีด Instagram และ Facebook ของเขา เขากล่าวว่ามีศิลปินจำนวนมากติดต่อเขามา โดยกล่าวว่าพวกเขาเองก็ตกเป็นเหยื่อของสิ่งที่ดูเหมือนจะเป็นสแปม AI บางคนกล่าวว่าพวกเขาต้องรับมือกับปัญหานี้มาหลายปีแล้ว

ในวงการเพลงแจ๊สเพียงอย่างเดียว โมแรนกล่าวว่า การปลอมตัวโดย AI ได้ส่งผลกระทบต่อนักเปียโน Benny Green, นักแซกโซโฟน Antonio Hart, มือกลอง Nate Smith, วงดนตรีออสเตรเลีย Hiatus Kaiyote และนักร้อง Dee Dee Bridgewater, Jazzmeia Horn และ Freddy Cole น้องชายของ Nat King Cole

“ดังนั้น สิ่งนี้กำลังเคลื่อนไหวไปรอบๆ โดยคัดลอกชื่อศิลปินสำคัญๆ มากมาย” โมแรนกล่าว “ลองนึกภาพดูว่าถ้ามีคนออกอัลบั้มใหม่ภายใต้ชื่อ Frank Ocean เชื่อเถอะว่าผู้คนจะสตรีมมัน แม้ว่ามันจะไม่ใช่ Frank Ocean ก็ตาม”

เมื่อเดือนตุลาคมปีที่แล้ว NPR รายงานว่านักดนตรีอินดี้ร็อก Luke Temple และ Uncle Tupelo บัญชีของพวกเขาถูก AI แฮ็ก เช่นเดียวกับศิลปินอิเล็กโทรป๊อปที่เสียชีวิตไปแล้ว Sophie และนักร้องเพลงคันทรี Blaze Foley ในสถานการณ์ที่แปลกประหลาดในเดือนธันวาคม วงดนตรีไซคีร็อกออสเตรเลีย King Gizzard and the Lizard Wizard ได้นำเพลงของพวกเขาออกจาก Spotify เพียงเพื่อเห็นผู้ปลอมตัว AI ชื่อ King Lizard Wizard เข้ามาเติมเต็มช่องว่างด้วยชื่อเพลงที่เหมือนกันและงานศิลปะ AI ที่เลียนแบบได้ไม่ดี

มอร์แกน เฮย์ดัค ซีอีโอร่วมของ Beatdapp ซึ่งให้บริการตรวจจับการฉ้อโกงเฉพาะสำหรับสตรีมมิ่งเพลง กล่าวว่าปัญหานี้ไม่ได้จำกัดอยู่แค่ Spotify เท่านั้น แต่ยังเกิดขึ้นบน Apple Music, YouTube และแพลตฟอร์มสตรีมมิ่งอื่นๆ อีกมากมาย บริษัทของเขาประเมินว่า 5% ถึง 10% ของสตรีมทั้งหมดในอุตสาหกรรมเป็นการฉ้อโกง ซึ่งคิดเป็นมูลค่า 1 พันล้านถึง 2 พันล้านดอลลาร์ต่อปี

นั่นคือเงินที่ไม่ได้ไหลไปยังศิลปินที่ถูกต้องตามกฎหมาย เฮย์ดัคกล่าวว่า “มันมีความสำคัญต่ออุตสาหกรรม และมีความสำคัญต่อศิลปินทุกคนและทุกคนที่สนับสนุนศิลปินที่หาเลี้ยงชีพด้วยเพลงของพวกเขา”

เมื่อเดือนที่แล้ว ชายชื่อ Michael Smith ยอมรับผิดในข้อหาฉ้อโกงแพลตฟอร์มสตรีมมิ่งเพลง โดยการอัดเพลงที่สร้างโดย AI หลายพันเพลง แล้วใช้บอทอัตโนมัติเพื่อเพิ่มจำนวนการฟังให้เป็นพันล้านครั้ง ตามคำกล่าวของอัยการรัฐบาลกลาง Smith ได้รับเงินค่าลิขสิทธิ์มากกว่า 10 ล้านดอลลาร์จากแพลตฟอร์มตลอดระยะเวลาเจ็ดปีของแผนการของเขา

เฮย์ดัคกล่าวว่าสตรีมเพลงที่ฉ้อโกงเป็นปัญหาที่สร้างความเดือดร้อนให้กับอุตสาหกรรมมานานแล้ว แต่ AI เชิงสร้างสรรค์ได้เร่งปัญหานี้ให้รุนแรงขึ้น เมื่อเพลงถูกเล่นบนบริการสตรีมมิ่ง ผู้สร้างจะได้รับเงินไม่กี่เพนนี แต่เพนนีเหล่านั้นสามารถทวีคูณได้อย่างรวดเร็วด้วยการคลิกเพียงพอในเพลงจำนวนมาก เฮย์ดัคกล่าวว่า AI ช่วยให้ผู้กระทำผิด เช่น Smith สร้างเนื้อหาจำนวนมหาศาลได้อย่างรวดเร็ว และเพลงใดๆ ที่ถูกลบออกก็สามารถถูกแทนที่ได้อย่างง่ายดาย

“AI ได้กลายเป็นตัวเร่ง” เขากล่าว

ภาระของศิลปิน

เมื่อโมแรนพบผู้บุกรุก AI ในบัญชีของเขา เขาได้ติดต่อ Spotify เพื่อขอความช่วยเหลือ นั่นหมายถึงการโต้ตอบเบื้องต้นกับแชทบอท ซึ่งในที่สุดก็นำเขาไปสู่การสนทนากับมนุษย์ บุคคลนั้นสามารถยืนยันได้ว่าโมแรนเป็นศิลปินตัวจริงและดำเนินการเรียกร้องในนามของเขา

เจ็ดสิบสองชั่วโมงต่อมา โมแรนได้รับข้อความจาก Spotify: “ข่าวดี! เราได้ลบ ‘For You’ ออกจากโปรไฟล์ศิลปินของคุณแล้ว”

โมแรนรู้สึกโล่งใจที่กระบวนการนี้ค่อนข้างง่าย แต่ก็ต้องใช้เวลา

“พวกเขาปล่อยให้มันอยู่ตรงนั้น เว้นแต่ศิลปินจะพบและตรวจสอบ” โมแรนกล่าว “ความต้องการที่พวกเขาวางไว้กับเรานั้นไม่ยุติธรรมในหลายๆ ด้าน”

บางครั้งเพลง AI ปลอมก็ฟังดูคล้ายกับเพลงของนักดนตรีเล็กน้อย บางครั้งก็ไม่เหมือนกัน ในกรณีอื่นๆ อัลบั้มจากศิลปินต่างๆ จะปรากฏในหน้าของนักดนตรี ซึ่งเกิดขึ้นกับโมแรนเช่นกัน และ Spotify กล่าวว่าอาจเกิดขึ้นเนื่องจากความผิดพลาดของข้อมูลเมตา เพียงไม่กี่วันหลังจาก Spotify ลบ For You อัลบั้มอื่นที่เขาไม่ได้สร้างก็พร้อมให้เล่นในโปรไฟล์ของเขา อัลบั้มนี้มาจากวง avant garde ชาวเบลเยียมชื่อ Schntzl ตัวจริง บันทึกนั้นได้หายไปจากโปรไฟล์ของโมแรนแล้ว

อย่างไรก็ตาม สามสัปดาห์ต่อมา For You ก็ปรากฏขึ้นอีกครั้ง คราวนี้บน YouTube โดยอ้างว่าเป็นอัลบั้มของโมแรน โดยมีงานศิลปะอนิเมะที่ดูหม่นหมองเหมือนเดิม เสียงอินดี้ป๊อป และรายชื่อเพลงที่ปรากฏบน Spotify ได้รับการเล่นเพียงเล็กน้อย ประมาณ 20 ครั้ง แต่ไม่เหมือนกับที่เกิดขึ้นกับ Spotify มันไม่ได้ปรากฏในโปรไฟล์ศิลปิน YouTube ของโมแรน

YouTube ไม่ได้ตอบสนองต่อคำขอความคิดเห็น

อดัม เบอร์โควิทซ์ ผู้สมัครปริญญาเอกที่ University of Alabama ซึ่งศึกษาด้าน AI และกฎหมายลิขสิทธิ์ในอุตสาหกรรมเพลง กล่าวว่ามันอาจเป็นเรื่องยากสำหรับบริการสตรีมมิ่งที่จะลบอัลบั้มออกจากแพลตฟอร์มโดยอัตโนมัติเนื่องจากปัญหาลิขสิทธิ์หรือการปลอมตัวที่เป็นไปได้

“มันซับซ้อนขึ้นเล็กน้อยเพราะทันใดนั้น ภาคเอกชนก็บังคับใช้กฎหมาย และนั่นไม่ใช่สิ่งที่ควรจะเป็น” เบอร์โควิทซ์กล่าว “ศาลต่างหากที่บังคับใช้กฎหมาย” แม้ว่าศิลปินส่วนใหญ่ รวมถึงโมแรน จะไม่มีเจตนาที่จะฟ้องร้อง แต่ก็ชัดเจนว่าศาลจะประสบปัญหาในการตามทันกับประเด็นเหล่านี้ ในท้ายที่สุด เบอร์โควิทซ์กล่าวว่า ภาระน่าจะยังคงอยู่ที่ศิลปินในการตรวจสอบโปรไฟล์ของตน

แพลตฟอร์มเดียวที่โมแรนอัปโหลดเพลงของเขาคือ Bandcamp เขากล่าวว่าบริการนั้นช่วยให้เขาสามารถควบคุมสิ่งที่อยู่ในโปรไฟล์ของเขาและราคาได้อย่างเข้มงวด ทำให้เขามีอำนาจมากขึ้นในฐานะศิลปินอิสระ ในโลกของดนตรีแจ๊สแบบด้นสด โมแรนกล่าวว่าแนวคิดในการสร้างเพลงไม่จำเป็นต้องเกี่ยวกับการกอบโกยเงินจากการขายแผ่นเสียง แต่เกี่ยวกับการสร้างสรรค์งานศิลปะและการมอบสิ่งนั้นให้กับผู้คน

“สิ่งหนึ่งที่ [ผู้คน] ไม่สามารถถูกเรียกเก็บเงินได้คือพลังของเพลง” เขากล่าว