‘Tem o seu nome, mas acho que não é você’: como a IA está a personificar músicos no Spotify

Jason Moran, um renomado compositor e pianista de jazz, recebeu uma estranha chamada de um amigo no mês passado. O amigo, o baixista Burniss Earl Travis, estava curioso sobre o novo disco de Moran que ele viu no serviço de streaming de música Spotify.

“Tem o seu nome, mas acho que não é você”, disse Travis.

Moran disse que não usa o Spotify nem coloca sua música na plataforma, preferindo usar apenas o site Bandcamp, então isso não fazia sentido. Após alguma investigação, ele encontrou um perfil de artista com seu nome no Spotify, que estava preenchido com álbuns de sua antiga gravadora, Blue Note Records, que detém os direitos de suas primeiras músicas. Lá ele viu um novo EP intitulado For You. A capa do álbum foi feita em um estilo sombrio de anime japonês e retratava uma jovem sentada no chão na chuva. Ele deu uma ouvida.

“Nem sequer há um pianista neste disco inteiro”, disse Moran com uma risada. Ele descreveu a música como indie pop, dizendo: “Não se parecia nem remotamente com nada que eu faria.” Ele decidiu remover o álbum falso.

Moran está entre um número crescente de músicos que foram alvo em plataformas de streaming de música por aquilo que parecem ser bots de IA disfarçados de artistas reais. Isso aconteceu com pelo menos uma dúzia de músicos de jazz famosos, artistas de indie rock e até mesmo o rapper Drake. Para os músicos que têm que lidar com o dilúvio de lixo de IA, é frustrante, disse Moran. O sentimento também é surreal.

“É meio como aquele episódio de Black Mirror com Salma Hayek”, disse ele, referindo-se a um episódio da série de TV distópica de futuro próximo em que uma versão de reality show de um personagem afeta negativamente a vida do original. “Ela nem sequer precisa estar lá neste episódio, como se estivessem apenas a usar uma versão dela.”

O Spotify reconheceu o problema e a extensão do lixo de IA em sua plataforma, revelando em setembro passado que havia removido mais de 75 milhões de “faixas spam” nos 12 meses anteriores. Naquela época, a empresa também disse que estava fortalecendo as proteções para músicos, incluindo regras mais rigorosas sobre personificação.

No mês passado, a empresa disse em um post de blog que estava trabalhando em uma nova ferramenta para “dar aos artistas mais controle sobre o que aparece sob seus nomes” e que “proteger a identidade do artista” é uma prioridade máxima. A ferramenta permitiria que os artistas revisassem e, em seguida, aprovassem ou recusassem lançamentos antes que eles fossem publicados na plataforma.

“O Spotify emprega uma série de salvaguardas para proteger os artistas, incluindo sistemas projetados para detectar e prevenir conteúdo não autorizado, revisão humana e processos de denúncia e remoção”, disse um porta-voz da empresa, acrescentando que o Spotify foi o único serviço de streaming a oferecer algo como sua nova ferramenta.

Mas para Moran, que é o ex-diretor artístico de jazz do Kennedy Center, essas correções não são suficientes, especialmente porque o conteúdo de IA nem sempre é sinalizado internamente e o problema não parece estar diminuindo. Ele está preocupado com o trabalho adicional para artistas como ele, que não colocam sua música no Spotify, e para músicos que já não estão vivos.

“Como é que John Coltrane verifica ou Billie Holiday verifica que este novo disco não é um concerto falso de ‘1952 recém-encontrado em Paris’?”, disse Moran. “Eles não têm como fazer isso… não há como eles se oporem.”

O porta-voz do Spotify disse que os espólios ou detentores de direitos de um artista falecido podem optar pela nova ferramenta da empresa se tiverem uma conta. Para aqueles artistas que não têm contas, vivos ou falecidos, disse o porta-voz, o Spotify continuará a confiar em seus sistemas internos de detecção e responsabilidade.

‘A IA tornou-se um acelerador’

Depois que Travis alertou Moran sobre o álbum falso For You, Moran postou um vídeo sobre o fiasco em seus feeds do Instagram e Facebook. Ele disse que uma série de artistas o contataram, dizendo que eles também tinham sido vítimas do que parecia ser lixo de IA. Alguns deles disseram que estavam lidando com isso há anos.

Apenas no gênero jazz, disse Moran, a personificação por IA atingiu o pianista Benny Green, o saxofonista Antonio Hart, o baterista Nate Smith, a banda australiana Hiatus Kaiyote e os cantores Dee Dee Bridgewater, Jazzmeia Horn e Freddy Cole, irmão de Nat King Cole.

“Então, esta coisa está agora a circular a copiar os nomes de muitos artistas importantes”, disse Moran. “Imagine se alguém lançasse um novo disco em nome de Frank Ocean. Acredite em mim, as pessoas vão ouvi-lo, mesmo que não seja Frank Ocean.”

Em outubro passado, a NPR relatou que os músicos de indie rock Luke Temple e Uncle Tupelo tiveram suas contas sequestradas por IA, assim como a artista de electro-pop Sophie, agora falecida, e o cantor de música country Blaze Foley. Numa situação bizarra em dezembro, a banda australiana de psych-rock King Gizzard and the Lizard Wizard removeu sua música do Spotify, apenas para ver um imitador de IA chamado King Lizard Wizard preencher o vazio com títulos de músicas idênticos e arte de IA mal imitada.

Morgan Hayduk, co-CEO da Beatdapp, que oferece detecção de fraudes especificamente para streaming de música, disse que o problema não se limita ao Spotify; também acontece no Apple Music, YouTube e várias outras plataformas de streaming. Sua empresa estima que 5% a 10% de todas as transmissões em toda a indústria são fraudulentas, o que representa um valor de US$ 1 bilhão a US$ 2 bilhões por ano.

Esse é dinheiro que não está fluindo para artistas legítimos, disse Hayduk: “É material para a indústria, e é material para baixo, para cada artista e para cada pessoa que apoia artistas que vivem de sua música.”

No mês passado, um homem chamado Michael Smith se declarou culpado de fraudar plataformas de streaming de música ao inundar os serviços com milhares de músicas geradas por IA e, em seguida, usar bots automatizados para aumentar artificialmente o número de audições para bilhões. De acordo com promotores federais, Smith ganhou mais de US$ 10 milhões em pagamentos de royalties das plataformas ao longo de seu esquema de sete anos.

Hayduk disse que as transmissões de música fraudulentas têm sido há muito tempo uma praga para a indústria, mas a IA generativa a turbinou. Quando a música é tocada em serviços de streaming, o criador ganha alguns centavos. Mas esses centavos podem se multiplicar rapidamente com cliques suficientes em músicas suficientes. Hayduk disse que a IA ajuda maus atores, como Smith, a criar um fluxo de conteúdo muito rapidamente, e quaisquer músicas que sejam removidas podem ser facilmente repostas.

“A IA tornou-se um acelerador”, disse ele.

Ônus sobre os artistas

Uma vez que Moran encontrou o intruso de IA em sua conta, ele entrou em contato com o Spotify para obter ajuda. Isso significou uma troca inicial com um chatbot, que eventualmente o levou a uma conversa com um humano. Essa pessoa foi capaz de verificar se Moran era o artista real e fazer uma reclamação em seu nome.

Setenta e duas horas depois, Moran recebeu uma mensagem do Spotify: “Ótimas notícias! Removemos ‘For You’ do seu perfil de artista.”

Moran ficou aliviado por o processo ter sido relativamente indolor, mas levou tempo.

“Eles permitem que fique lá até que o artista o encontre e o verifique”, disse Moran. “A exigência que isso coloca sobre nós é injusta em muitos aspectos.”

Às vezes, as músicas falsas de IA soam vagamente semelhantes às do músico; às vezes não. Em outros casos, álbuns de vários artistas aparecem na página de um músico, o que também aconteceu com Moran e que o Spotify diz que pode ocorrer devido a uma confusão de metadados. Apenas alguns dias depois que o Spotify removeu For You, outro álbum que ele não havia feito estava disponível para tocar em seu perfil. Este era da verdadeira banda belga de vanguarda Schntzl. Esse disco desapareceu desde então do perfil de Moran.

Três semanas atrás, For You ressurgiu, no entanto – desta vez no YouTube, apresentando-se como um álbum de Moran com a mesma arte sombria de anime, som indie pop e lista de faixas que apareceu no Spotify. Recebeu poucas audições, cerca de 20, mas ao contrário do que aconteceu com o Spotify, não aparece no perfil de artista de Moran no YouTube.

O YouTube não respondeu a um pedido de comentário.

Adam Berkowitz, candidato a doutorado na Universidade do Alabama que estuda IA e direito autoral na indústria da música, disse que pode ser complicado para os serviços de streaming removerem automaticamente álbuns de suas plataformas por possíveis problemas de direitos autorais ou personificação.

“Fica um pouco complicado porque, de repente, o setor privado está a aplicar a lei. E não é assim que deveria ser”, disse Berkowitz. “São os tribunais que aplicam a lei.” Embora a maioria dos artistas, incluindo Moran, não tenha intenção de processar, é claro que os tribunais teriam dificuldade em acompanhar o ritmo desses problemas. Em última análise, disse Berkowitz, o ônus provavelmente permanecerá sobre os artistas para policiar seus perfis.

A única plataforma para a qual Moran faz upload de sua música é o Bandcamp. Ele disse que esse serviço permite que ele controle rigorosamente o que está em seu perfil e os preços, dando-lhe mais agência como um artista independente. No mundo do jazz improvisacional, disse Moran, a ideia de fazer música não é necessariamente sobre ganhar dinheiro com vendas de discos – é sobre criar arte e oferecê-la às pessoas.

“Uma coisa que [as pessoas] nunca podem ser cobradas é o poder das músicas”, disse ele.