Serviço de streaming de música Deezer Building AI para caçar e remover músicas deepfake

Jun 23, 2023

O popular serviço de streaming de música da Europa, Deezer, revelou planos para usar IA para detectar e remover cantores deepfake e músicas geradas sinteticamente de sua plataforma. A Deezer está procurando automatizar a verificação e marcação de peças envolvendo IA generativa de alguma forma, lançando o sistema como uma forma de proteger artistas que podem perder renda e ouvintes que podem não gostar de serem enganados.

A Deezer está iniciando o projeto com foco na detecção de clones de voz de pessoas reais por meio de sua ferramenta Radar para processar rapidamente catálogos de música para distorção reveladora, mudanças de ritmo e outros sinais de assistência de IA. Cada música que se encaixa na conta será marcada de acordo, embora os humanos sejam um obstáculo e verifiquem se a IA não está apenas marcando uma música usando muito autotune. A visão de longo prazo da plataforma de streaming inclui toda uma nova estrutura de pagamento para artistas, dependendo da tecnologia usada para produzir a música.

“Com mais de 100.000 novas faixas carregadas por dia em nossa plataforma, é cada vez mais importante priorizar a qualidade sobre a quantidade e defender artistas reais que criam conteúdo verdadeiramente valioso”, explicou o CEO da Deezer, Jeronimo Folgueir. "Como plataforma líder de streaming, a Deezer tem a responsabilidade de criar um ambiente justo e transparente para o consumo de música. Nosso objetivo é eliminar conteúdo ilegal e fraudulento, aumentar a transparência e desenvolver um novo sistema de remuneração em que artistas profissionais sejam recompensados ​​por criar conteúdo valioso conteúdo. É por isso que adotamos a discussão em torno de um novo modelo centrado no artista e agora também estamos desenvolvendo ferramentas para detectar conteúdo gerado por IA."

O plano de Deezer segue uma corrida de músicos e gravadoras para experimentar, condenar ou assumir uma posição em relação à tecnologia. A Universal Music citou violação de direitos autorais quando convenceu os serviços de streaming a remover uma música deepfake de Drake e The Weeknd chamada Heart On My Sleeve em abril, depois de receber mais de 10 milhões de visualizações no TikTok. O produtor musical e artista Timbaland compartilhou uma amostra de uma música com uma voz deepfake do Notorious BIG antes de interromper o trabalho após algumas reações dos fãs do falecido rapper.

Outros estão testando as águas deepfake mais publicamente, como quando o DJ e produtor musical francês David Guetta criou e tocou uma música de Eminem escrita e tocada por IA em alguns de seus shows recentes, chamando-a de "Emin-AI-em". Enquanto isso, a artista musical Grimes chegou a oferecer 50% dos royalties de qualquer música gerada por IA que use sua voz. Holly Herndon oferece uma versão sintética gratuita de sua voz para fazer música chamada Holly +, e o grupo musical YACHT treinou um modelo de IA para escrever um álbum inteiro chamado "Chain Tripping".

A identificação pode ser desafiadora se as pessoas tentarem esconder que usaram IA generativa. A clonagem de voz pode tornar os deepfakes de áudio bons o suficiente para enganar alguns testes biométricos e os ouvidos destreinados de uma multidão de shows. Artistas que desejam imprimir autenticidade em suas faixas acabam trabalhando com empresas como a Resemble AI para obter uma marca d'água de áudio que pode marcar a fala gerada por IA sem comprometer a qualidade do som. A Resemble criou uma maneira de sobrepor um som totalmente inaudível para humanos sob alguém falando ou cantando, codificado com informações decifráveis ​​para um computador que confirma sua origem e autenticidade.

“A IA pode ser usada para criar novos conteúdos incríveis e acredito que há enormes benefícios no uso de IA generativa, mas precisamos garantir que seja feito de maneira responsável”, disse Folgueir. "Agora há uma oportunidade de acertar as coisas desde o início da revolução da IA ​​e não cometer os mesmos erros que os gigantes da mídia social cometeram quando notícias falsas começaram a inundar suas plataformas. Devemos isso aos artistas e aos fãs."

Siga @voicebotaiFollow @erichschwartz

Deepfake Drake e o criador de Weeknd se dobram com Rihanna e Bad Bunny Track

AI Deepfake do Notorious BIG apresenta a mais nova música de Timbaland