‘Itu punya nama kamu, tapi aku tidak yakin itu kamu’: bagaimana AI meniru musisi di Spotify

Jason Moran, seorang komposer dan pianis jazz terkenal, mendapat telepon aneh dari seorang teman bulan lalu. Teman itu, pemain bass Burniss Earl Travis, penasaran tentang rekaman baru Moran yang dia lihat di layanan streaming musik Spotify.

“Itu punya nama kamu,” Travis memberitahunya. “Tapi aku tidak yakin itu kamu.”

Moran mengatakan dia tidak menggunakan Spotify atau menempatkan musiknya di platform tersebut, lebih memilih hanya menggunakan situs Bandcamp, sehingga ini tidak sesuai. Setelah melakukan penyelidikan, dia menemukan profil artis yang menggunakan namanya di Spotify, yang diisi dengan album dari mantan labelnya, Blue Note Records, yang memiliki hak atas musiknya di awal. Di sana dia melihat EP baru berjudul For You. Sampul albumnya dibuat dengan gaya anime Jepang yang muram dan menggambarkan seorang wanita muda duduk di tanah dalam hujan. Dia mendengarkannya.

“Bahkan tidak ada pemain piano di seluruh rekaman sialan ini,” Moran tertawa. Dia menggambarkan musik itu sebagai indie pop, dengan mengatakan: “Itu bahkan tidak dekat dengan apa pun yang akan saya buat.” Dia berniat untuk meminta album palsu itu dihapus.

Moran termasuk dalam sejumlah musisi yang semakin banyak yang menjadi target di platform streaming musik oleh apa yang tampak seperti bot AI yang menyamar sebagai artis yang sebenarnya. Ini telah terjadi pada setidaknya selusin musisi jazz terkenal, artis rock indie, dan bahkan rapper Drake. Bagi para musisi yang harus berurusan dengan limpahan sampah AI, itu membuat frustrasi, kata Moran. Perasaan itu juga surealis.

“Rasanya seperti episode Black Mirror dengan Salma Hayek,” katanya, mengacu pada episode serial TV masa depan distopia di mana versi realitas acara dari seorang karakter memengaruhi kehidupan aslinya. “Dia bahkan tidak harus ada di episode ini, seperti mereka hanya menggunakan versi darinya.”

Spotify telah mengakui masalah dan tingkat sampah AI di platformnya, mengungkapkan bulan lalu bahwa mereka telah menghapus lebih dari 75 juta “trek spam” selama 12 bulan sebelumnya. Pada saat itu, perusahaan juga mengatakan bahwa mereka memperkuat perlindungan untuk musisi, termasuk aturan yang lebih ketat seputar peniruan.

Bulan lalu, perusahaan mengatakan dalam postingan blog bahwa mereka sedang mengerjakan alat baru untuk “memberi artis lebih banyak kendali atas apa yang muncul di bawah nama mereka” dan bahwa “melindungi identitas artis” adalah prioritas utama. Alat itu akan memungkinkan artis untuk meninjau dan kemudian menyetujui atau menolak rilis sebelum mereka tayang di platform.

“Spotify menggunakan berbagai perlindungan untuk melindungi artis, termasuk sistem yang dirancang untuk mendeteksi dan mencegah konten yang tidak sah, peninjauan manusia, dan proses pelaporan dan penarikan,” kata juru bicara perusahaan, menambahkan bahwa Spotify adalah satu-satunya layanan streaming yang menawarkan sesuatu seperti alat barunya.

Namun, bagi Moran, yang merupakan direktur artistik jazz mantan di Kennedy Center, perbaikan ini tidak cukup, terutama karena konten AI tidak selalu ditandai secara internal dan masalahnya tampaknya tidak melambat. Dia khawatir tentang pekerjaan tambahan bagi artis seperti dirinya, yang tidak menempatkan musik mereka di Spotify, dan untuk musisi yang tidak lagi hidup.

“Bagaimana John Coltrane memverifikasi atau Billie Holiday memverifikasi bahwa rekaman baru ini bukan semacam ‘konser yang baru ditemukan tahun 1952 dari Paris’?” kata Moran. “Mereka tidak punya cara untuk melakukan itu… tidak ada cara bagi mereka untuk keberatan.”

Juru bicara Spotify mengatakan bahwa estate atau pemegang hak untuk artis yang meninggal dapat memilih untuk menggunakan alat baru perusahaan jika mereka memiliki akun. Untuk artis yang tidak memiliki akun, baik yang masih hidup maupun yang sudah meninggal, juru bicara itu mengatakan, Spotify akan terus mengandalkan sistem deteksi dan akuntabilitas internalnya.

‘AI telah menjadi akselerator’

Setelah Travis memberi tahu Moran tentang album For You palsu, Moran memposting video tentang kejadian tersebut ke umpan Instagram dan Facebook-nya. Dia mengatakan sejumlah artis telah menghubunginya, mengatakan bahwa mereka juga menjadi korban sampah AI yang tampak. Beberapa dari mereka mengatakan bahwa mereka telah berurusan dengannya selama bertahun-tahun.

Dalam genre jazz saja, Moran mengatakan, peniruan oleh AI telah menyerang pianis Benny Green, saksofonis Antonio Hart, drummer Nate Smith, band Australia Hiatus Kaiyote, dan penyanyi Dee Dee Bridgewater, Jazzmeia Horn, dan Freddy Cole, saudara dari Nat King Cole.

“Jadi, hal ini sekarang bergerak di sekitar menyalin nama banyak artis penting,” kata Moran. “Bayangkan saja jika seseorang merilis rekaman baru dengan nama Frank Ocean. Percayalah, orang-orang akan mendengarkannya, bahkan jika itu bukan Frank Ocean.”

Bulan lalu, NPR melaporkan bahwa musisi rock indie Luke Temple dan Uncle Tupelo telah diretas akunnya oleh AI, seperti juga artis electro-pop Sophie yang sekarang telah meninggal dan penyanyi country Blaze Foley. Dalam situasi aneh pada bulan Desember, band psych-rock Australia King Gizzard and the Lizard Wizard menghapus musik mereka dari Spotify, hanya untuk melihat peniru AI bernama King Lizard Wizard mengisi kekosongan dengan judul lagu yang identik dan karya seni AI yang ditiru dengan buruk.

Morgan Hayduk, seorang co-CEO Beatdapp, yang menawarkan deteksi penipuan khusus untuk streaming musik, mengatakan bahwa masalah tersebut tidak terbatas pada Spotify; itu juga terjadi di Apple Music, YouTube, dan berbagai platform streaming lainnya. Perusahaan memperkirakan bahwa 5% hingga 10% dari semua aliran di seluruh industri adalah curang, yang terbagi menjadi nilai antara $1 miliar hingga $2 miliar per tahun.

Itu adalah uang yang tidak mengalir ke artis yang sah, kata Hayduk: “Ini penting bagi industri, dan penting bagi setiap artis dan setiap orang yang mendukung artis yang mencari nafkah dari musik mereka.”

Bulan lalu, seorang pria bernama Michael Smith mengaku bersalah karena menipu platform streaming musik dengan membanjiri layanan tersebut dengan ribuan lagu yang dihasilkan AI dan kemudian menggunakan bot otomatis untuk secara artifisial meningkatkan jumlah pendengaran menjadi miliaran. Menurut jaksa federal, Smith menghasilkan lebih dari $10 juta dalam pembayaran royalti dari platform tersebut selama skemanya selama tujuh tahun.

Hayduk mengatakan aliran musik palsu telah lama menjadi momok bagi industri tetapi AI generatif telah mempercepatnya. Ketika musik diputar di layanan streaming, pembuatnya mendapatkan beberapa sen. Tetapi sen itu dapat dengan cepat berlipat ganda dengan cukup klik di cukup banyak lagu. Hayduk mengatakan AI membantu aktor jahat, seperti Smith, membuat aliran konten yang sangat cepat, dan setiap lagu yang dihapus dapat dengan mudah diisi ulang.

“AI telah menjadi akselerator,” katanya.

Beban ada pada artis

Setelah Travis memberi tahu Moran tentang album For You palsu, Moran memposting video tentang kejadian tersebut ke umpan Instagram dan Facebook-nya. Dia mengatakan sejumlah artis telah menghubunginya, mengatakan bahwa mereka juga menjadi korban sampah AI yang tampak. Beberapa dari mereka mengatakan bahwa mereka telah berurusan dengannya selama bertahun-tahun.

Dalam genre jazz saja, Moran mengatakan, peniruan oleh AI telah menyerang pianis Benny Green, saksofonis Antonio Hart, drummer Nate Smith, band Australia Hiatus Kaiyote, dan penyanyi Dee Dee Bridgewater, Jazzmeia Horn, dan Freddy Cole, saudara dari Nat King Cole.

“Jadi, hal ini sekarang bergerak di sekitar menyalin nama banyak artis penting,” kata Moran. “Bayangkan saja jika seseorang merilis rekaman baru dengan nama Frank Ocean. Percayalah, orang-orang akan mendengarkannya, bahkan jika itu bukan Frank Ocean.”

Bulan lalu, NPR melaporkan bahwa musisi rock indie Luke Temple dan Uncle Tupelo telah diretas akunnya oleh AI, seperti juga artis electro-pop Sophie yang sekarang telah meninggal dan penyanyi country Blaze Foley. Dalam situasi aneh pada bulan Desember, band psych-rock Australia King Gizzard and the Lizard Wizard menghapus musik mereka dari Spotify, hanya untuk melihat peniru AI bernama King Lizard Wizard mengisi kekosongan dengan judul lagu yang identik dan karya seni AI yang ditiru dengan buruk.

Morgan Hayduk, seorang co-CEO Beatdapp, yang menawarkan deteksi penipuan khusus untuk streaming musik, mengatakan bahwa masalah tersebut tidak terbatas pada Spotify; itu juga terjadi di Apple Music, YouTube, dan berbagai platform streaming lainnya. Perusahaan memperkirakan bahwa 5% hingga 10% dari semua aliran di seluruh industri adalah curang, yang terbagi menjadi nilai antara $1 miliar hingga $2 miliar per tahun.

Itu adalah uang yang tidak mengalir ke artis yang sah, kata Hayduk: “Ini penting bagi industri, dan penting bagi setiap artis dan setiap orang yang mendukung artis yang mencari nafkah dari musik mereka.”

Bulan lalu, seorang pria bernama Michael Smith mengaku bersalah karena menipu platform streaming musik dengan membanjiri layanan tersebut dengan ribuan lagu yang dihasilkan AI dan kemudian menggunakan bot otomatis untuk secara artifisial meningkatkan jumlah pendengaran menjadi miliaran. Menurut jaksa federal, Smith menghasilkan lebih dari $10 juta dalam pembayaran royalti dari platform tersebut selama skemanya selama tujuh tahun.

Hayduk mengatakan aliran musik palsu telah lama menjadi momok bagi industri tetapi AI generatif telah mempercepatnya. Ketika musik diputar di layanan streaming, pembuatnya mendapatkan beberapa sen. Tetapi sen itu dapat dengan cepat berlipat ganda dengan cukup klik di cukup banyak lagu. Hayduk mengatakan AI membantu aktor jahat, seperti Smith, membuat aliran konten yang sangat cepat, dan setiap lagu yang dihapus dapat dengan mudah diisi ulang.

“AI telah menjadi akselerator,” katanya.

Setelah Moran mengetahui penyusup AI di akunnya, dia menghubungi Spotify untuk meminta bantuan. Itu berarti melakukan bolak-balik awal dengan chatbot, yang akhirnya membawanya ke percakapan dengan manusia. Orang itu dapat memverifikasi bahwa Moran adalah artis yang sebenarnya dan membuat klaim atas namanya.

Setelah tujuh puluh dua jam, Moran menerima pesan dari Spotify: “Kabar baik! Kami sekarang telah menghapus ‘For You’ dari profil artis Anda.”

Moran merasa lega karena prosesnya relatif mudah, tetapi dibutuhkan waktu.

“Mereka membiarkannya hanya duduk di sana kecuali artis menemukannya dan memeriksanya,” kata Moran. “Tuntutan yang ditempatkan pada kami tidak adil dalam banyak hal.”

Terkadang lagu AI palsu terdengar samar-samar mirip dengan musisi tersebut; terkadang tidak. Dalam kasus lain, album dari berbagai artis muncul di halaman seorang musisi, yang juga terjadi pada Moran dan yang menurut Spotify dapat terjadi karena kesalahan metadata. Hanya beberapa hari setelah Spotify menghapus For You, album lain yang tidak dibuatnya tersedia untuk diputar di profilnya. Album ini adalah milik band avant-garde Belgia Schntzl yang sebenarnya. Rekaman itu sejak itu menghilang dari profil Moran.

Tiga minggu lalu, For You muncul kembali, namun – kali ini di YouTube, yang menyamakan dirinya sebagai album oleh Moran dengan karya seni anime yang muram, suara indie pop, dan daftar trek yang sama yang muncul di Spotify. Itu telah mendapatkan sedikit pemutaran, sekitar 20, tetapi tidak seperti apa yang terjadi dengan Spotify, itu tidak muncul di profil artis Moran di YouTube.

YouTube tidak menanggapi permintaan komentar.

Adam Berkowitz, seorang kandidat PhD di University of Alabama yang mempelajari AI dan hukum hak cipta di industri musik, mengatakan bahwa bagi layanan streaming untuk secara otomatis menarik album dari platform mereka atas kemungkinan masalah hak cipta atau peniruan bisa jadi rumit.

“Ini menjadi sedikit rumit karena tiba-tiba, sektor swasta menegakkan hukum. Dan begitulah seharusnya tidak,” kata Berkowitz. “Hukum ditegakkan oleh pengadilan.” Sementara sebagian besar artis, termasuk Moran, tidak berniat untuk menuntut, jelas bahwa pengadilan akan kesulitan untuk mengikuti kecepatan masalah ini. Pada akhirnya, Berkowitz mengatakan, beban kemungkinan akan tetap berada pada artis untuk mengawasi profil mereka.

Satu-satunya platform yang mengunggah musik Moran adalah Bandcamp. Dia mengatakan bahwa layanan itu memungkinkannya untuk mengontrol dengan ketat apa yang ada di profilnya dan harga, memberinya lebih banyak otonomi sebagai artis independen. Di dunia jazz improvisasi, Moran mengatakan, gagasan membuat musik bukanlah tentang mencairkan cek penjualan rekaman—ini tentang menciptakan seni dan menyediakannya untuk orang-orang.

“Satu hal yang [orang] tidak dapat dikenakan biaya adalah kekuatan lagu-lagu itu,” katanya.