‘Tên của bạn có trên đó, nhưng tôi không nghĩ đó là bạn’: AI đang mạo danh nhạc sĩ trên Spotify như thế nào

Jason Moran, một nhà soạn nhạc và nghệ sĩ piano nhạc jazz nổi tiếng, đã nhận được một cuộc gọi kỳ lạ từ một người bạn vào tháng trước. Người bạn đó, tay bass Burniss Earl Travis, tò mò về bản thu âm mới của Moran mà anh nhìn thấy trên dịch vụ phát nhạc trực tuyến Spotify.

Travis nói với anh ấy: “Tên của bạn có trên đó. Nhưng tôi không nghĩ đó là bạn.”

Moran cho biết anh không sử dụng Spotify hoặc đưa nhạc của mình lên nền tảng này, mà chỉ thích sử dụng trang Bandcamp, vì vậy điều này không hợp lý. Sau một số điều tra, anh phát hiện ra một hồ sơ nghệ sĩ mang tên mình trên Spotify, nơi có các album từ hãng đĩa cũ của anh, Blue Note Records, đơn vị sở hữu bản quyền âm nhạc thời kỳ đầu của anh. Tại đó, anh thấy một EP mới có tựa đề For You. Ảnh bìa album được thực hiện theo phong cách anime Nhật Bản u ám và mô tả một cô gái trẻ ngồi dưới đất trong mưa. Anh đã nghe thử.

Moran cười nói: “Toàn bộ bản thu âm chết tiệt này thậm chí còn không có nghệ sĩ piano.” Anh mô tả âm nhạc là indie pop, nói: “Nó không hề giống bất cứ thứ gì tôi từng làm.” Anh bắt đầu tìm cách gỡ bỏ album giả mạo đó.

Moran là một trong số ngày càng nhiều nhạc sĩ bị nhắm mục tiêu trên các nền tảng phát nhạc trực tuyến bởi những thứ dường như là bot AI giả mạo các nghệ sĩ thực thụ. Điều này đã xảy ra với ít nhất một chục nhạc sĩ nhạc jazz nổi tiếng, các nghệ sĩ indie rock và thậm chí cả rapper Drake. Moran nói rằng đối với các nhạc sĩ phải đối mặt với cơn lũ rác thải AI, điều đó thật khó chịu. Cảm giác đó cũng thật kỳ lạ.

Anh nói: “Nó giống như tập phim Black Mirror với Salma Hayek vậy,” ám chỉ một tập phim của loạt phim truyền hình viễn tưởng về tương lai gần, nơi một phiên bản của một nhân vật trong một chương trình thực tế ảnh hưởng tiêu cực đến cuộc sống của bản gốc. “Cô ấy thậm chí không cần phải có mặt trong tập này, giống như họ chỉ đang sử dụng một phiên bản của cô ấy.”

Spotify đã thừa nhận vấn đề và mức độ rác thải AI trên nền tảng của mình, tiết lộ vào tháng 9 năm ngoái rằng họ đã xóa hơn 75 triệu “bài hát spam” trong 12 tháng trước đó. Vào thời điểm đó, công ty cũng cho biết họ đang tăng cường các biện pháp bảo vệ cho nhạc sĩ, bao gồm các quy tắc chặt chẽ hơn về việc mạo danh.

Tháng trước, công ty cho biết trong một bài đăng blog rằng họ đang phát triển một công cụ mới để “trao cho nghệ sĩ quyền kiểm soát nhiều hơn đối với những gì xuất hiện dưới tên của họ” và “bảo vệ danh tính nghệ sĩ” là ưu tiên hàng đầu. Công cụ này sẽ cho phép nghệ sĩ xem xét và sau đó phê duyệt hoặc từ chối các bản phát hành trước khi chúng được phát hành trên nền tảng.

Một phát ngôn viên của công ty cho biết: “Spotify sử dụng một loạt các biện pháp bảo vệ để bảo vệ nghệ sĩ, bao gồm các hệ thống được thiết kế để phát hiện và ngăn chặn nội dung trái phép, xem xét của con người, và các quy trình báo cáo và gỡ bỏ,” và nói thêm rằng Spotify là dịch vụ phát nhạc duy nhất cung cấp thứ gì đó giống như công cụ mới của họ.

Nhưng đối với Moran, người từng là giám đốc nghệ thuật nhạc jazz tại Kennedy Center, những giải pháp này là chưa đủ, đặc biệt là khi nội dung AI không phải lúc nào cũng được gắn cờ nội bộ và vấn đề dường như không chậm lại. Ông lo ngại về công việc bổ sung cho các nghệ sĩ như ông, những người không đưa nhạc của mình lên Spotify, và cho các nhạc sĩ đã không còn sống.

Moran nói: “Làm thế nào mà John Coltrane hay Billie Holiday có thể xác minh rằng bản thu âm mới này không phải là một buổi hòa nhạc giả mạo ‘vừa được tìm thấy ở Paris năm 1952’?” “Họ không có cách nào để làm điều đó… họ không có cách nào để phản đối.”

Phát ngôn viên của Spotify cho biết các đơn vị thừa kế hoặc chủ sở hữu quyền đối với nghệ sĩ đã qua đời có thể chọn tham gia công cụ mới của công ty nếu họ có tài khoản. Đối với những nghệ sĩ không có tài khoản, dù còn sống hay đã qua đời, phát ngôn viên cho biết, Spotify sẽ tiếp tục dựa vào các hệ thống phát hiện và trách nhiệm giải trình nội bộ của mình.

‘AI đã trở thành một chất xúc tác’

Sau khi Travis báo cho Moran về album For You giả mạo, Moran đã đăng một video về vụ việc lên các kênh Instagram và Facebook của mình. Anh nói rằng rất nhiều nghệ sĩ đã liên hệ với anh, nói rằng họ cũng là nạn nhân của những gì dường như là rác thải AI. Một số người trong số họ nói rằng họ đã phải đối mặt với điều này trong nhiều năm.

Moran cho biết, chỉ riêng trong thể loại nhạc jazz, việc mạo danh của AI đã ảnh hưởng đến nghệ sĩ piano Benny Green, nghệ sĩ saxophone Antonio Hart, tay trống Nate Smith, ban nhạc Úc Hiatus Kaiyote và các ca sĩ Dee Dee Bridgewater, Jazzmeia Horn và Freddy Cole, anh trai của Nat King Cole.

Moran nói: “Vì vậy, thứ này giờ đang lan truyền đi sao chép tên của rất nhiều nghệ sĩ quan trọng.” “Hãy tưởng tượng nếu ai đó phát hành một bản thu âm mới dưới tên Frank Ocean. Tin tôi đi, mọi người sẽ nghe nó, ngay cả khi đó không phải là Frank Ocean.”

Tháng 10 năm ngoái, NPR đưa tin rằng các nhạc sĩ indie rock Luke Temple và Uncle Tupelo đã bị AI chiếm quyền kiểm soát tài khoản của họ, giống như nghệ sĩ electro-pop đã qua đời Sophie và ca sĩ nhạc đồng quê Blaze Foley. Trong một tình huống kỳ lạ vào tháng 12, ban nhạc psych-rock Úc King Gizzard and the Lizard Wizard đã gỡ nhạc của họ khỏi Spotify, chỉ để thấy một kẻ mạo danh AI tên là King Lizard Wizard lấp đầy khoảng trống bằng các tựa bài hát giống hệt và tác phẩm nghệ thuật AI bắt chước kém cỏi.

Morgan Hayduk, đồng CEO của Beatdapp, công ty cung cấp dịch vụ phát hiện gian lận dành riêng cho phát nhạc trực tuyến, cho biết vấn đề không chỉ giới hạn ở Spotify; nó cũng xảy ra trên Apple Music, YouTube và nhiều nền tảng phát nhạc trực tuyến khác. Công ty của ông ước tính rằng 5% đến 10% tổng số lượt stream trên toàn ngành là gian lận, tương đương với giá trị 1 tỷ đến 2 tỷ đô la mỗi năm.

Hayduk nói rằng đó là số tiền không chảy đến các nghệ sĩ hợp pháp: “Nó có ý nghĩa quan trọng đối với ngành và nó có ý nghĩa quan trọng đối với mọi nghệ sĩ và mọi người ủng hộ các nghệ sĩ kiếm sống bằng âm nhạc của họ.”

Tháng trước, một người đàn ông tên là Michael Smith đã nhận tội lừa đảo các nền tảng phát nhạc trực tuyến bằng cách tràn ngập các dịch vụ bằng hàng nghìn bài hát do AI tạo ra và sau đó sử dụng các bot tự động để tăng số lượt nghe lên hàng tỷ. Theo các công tố viên liên bang, Smith đã kiếm được hơn 10 triệu đô la tiền bản quyền từ các nền tảng trong suốt kế hoạch kéo dài bảy năm của mình.

Hayduk nói rằng lượt stream nhạc gian lận từ lâu đã là một tai ương đối với ngành nhưng AI tạo sinh đã làm cho nó bùng nổ. Khi nhạc được phát trên các dịch vụ phát nhạc, người sáng tạo kiếm được vài xu. Nhưng những xu đó có thể nhân lên nhanh chóng với đủ lượt nhấp vào đủ bài hát. Hayduk nói rằng AI giúp những kẻ xấu, như Smith, tạo ra một lượng lớn nội dung rất nhanh chóng, và bất kỳ bài hát nào bị gỡ bỏ đều có thể dễ dàng được thay thế.

Ông nói: “AI đã trở thành một chất xúc tác.”

Trách nhiệm thuộc về các nghệ sĩ

Sau khi Moran phát hiện ra kẻ xâm nhập AI trên tài khoản của mình, anh đã liên hệ với Spotify để được giúp đỡ. Điều đó có nghĩa là phải trao đổi qua lại ban đầu với một chatbot, cuối cùng dẫn anh đến một cuộc trò chuyện với một người thật. Người đó đã có thể xác minh Moran là nghệ sĩ thực sự và thay mặt anh đưa ra yêu cầu.

Bảy mươi hai giờ sau, Moran nhận được tin nhắn từ Spotify: “Tin tuyệt vời! Chúng tôi đã gỡ bỏ ‘For You’ khỏi hồ sơ nghệ sĩ của bạn.”

Moran cảm thấy nhẹ nhõm vì quy trình tương đối dễ dàng, nhưng nó cũng tốn thời gian.

Moran nói: “Họ cho phép nó cứ nằm đó trừ khi nghệ sĩ tìm thấy nó và kiểm tra nó.” “Nó đặt ra một yêu cầu đối với chúng tôi theo nhiều cách không công bằng.”

Đôi khi các bài hát AI giả mạo nghe có vẻ hơi giống nhạc của nhạc sĩ; đôi khi thì không. Trong các trường hợp khác, các album từ nhiều nghệ sĩ khác nhau xuất hiện trên trang của một nhạc sĩ, điều này cũng xảy ra với Moran và Spotify nói rằng có thể do nhầm lẫn siêu dữ liệu. Chỉ vài ngày sau khi Spotify gỡ bỏ For You, một album khác mà anh không tạo ra đã có sẵn để phát trên hồ sơ của anh. Lần này là của ban nhạc avant garde người Bỉ thực thụ Schntzl. Bản thu âm đó đã biến mất khỏi hồ sơ của Moran.

Tuy nhiên, ba tuần trước, For You đã xuất hiện trở lại – lần này trên YouTube, tự giới thiệu là album của Moran với cùng một tác phẩm nghệ thuật anime u ám, âm thanh indie pop và danh sách bài hát giống như trên Spotify. Nó chỉ nhận được một lượng phát rất ít, khoảng 20 lượt, nhưng không giống như những gì xảy ra với Spotify, nó không xuất hiện trên hồ sơ nghệ sĩ YouTube của Moran.

YouTube đã không trả lời yêu cầu bình luận.

Adam Berkowitz, một nghiên cứu sinh tiến sĩ tại Đại học Alabama, người nghiên cứu luật AI và bản quyền trong ngành công nghiệp âm nhạc, cho biết các dịch vụ phát nhạc có thể gặp khó khăn trong việc tự động gỡ bỏ các album khỏi nền tảng của họ vì các vấn đề có thể vi phạm bản quyền hoặc mạo danh.

Berkowitz nói: “Nó trở nên hơi phức tạp vì đột nhiên, khu vực tư nhân đang thực thi pháp luật. Và đó không phải là cách nó nên được thực hiện.” “Chính tòa án mới là người thực thi pháp luật.” Mặc dù hầu hết các nghệ sĩ, bao gồm cả Moran, không có ý định kiện tụng, nhưng rõ ràng là tòa án sẽ gặp khó khăn trong việc theo kịp tốc độ của các vấn đề này. Cuối cùng, Berkowitz nói, gánh nặng có lẽ sẽ vẫn thuộc về các nghệ sĩ trong việc giám sát hồ sơ của họ.

Nền tảng duy nhất mà Moran tải nhạc lên là Bandcamp. Anh nói rằng dịch vụ đó cho phép anh kiểm soát chặt chẽ những gì có trên hồ sơ của mình và giá cả, cho anh nhiều quyền tự quyết hơn với tư cách là một nghệ sĩ độc lập. Trong thế giới nhạc jazz ứng tác, Moran nói, ý tưởng tạo ra âm nhạc không nhất thiết là để kiếm tiền từ việc bán đĩa – mà là để tạo ra nghệ thuật và cung cấp nó cho mọi người.

Anh nói: “Một điều mà [mọi người] không bao giờ có thể bị tính phí là sức mạnh của những bài hát.”