O Spotify passou o ano passado removendo silenciosamente dezenas de milhares de podcasts falsos que supostamente estavam sendo usados para promover farmácias on-line ilegais e websites fraudulentos. Agora, um novo relatório do Congresso levanta questões sobre como o esquema conseguiu florescer numa das maiores plataformas de áudio do mundo.
De acordo com o relatório da Wiredmalfeitores criaram milhares de podcasts falsos que nunca tiveram a intenção de atrair ouvintes reais. Em vez disso, foram concebidos para manipular as classificações de pesquisa do Spotify e aumentar a visibilidade de web sites que vendem medicamentos sujeitos a receita médica sem receita médica, incluindo opiáceos, estimulantes e benzodiazepínicos.
O Spotify supostamente removeu mais de 57.000 episódios de podcast, mais de 3.000 programas de podcast e tomou medidas contra cerca de 3.500 contas conectadas à operação. A remoção ocorreu após um escrutínio sustentado por parte dos legisladores e investigações da mídia que destacaram a escala do problema.
O relatório foi liderado pela senadora Maggie Hassan, que criticou o Spotify por não agir com rapidez suficiente e por não denunciar a atividade às autoridades, apesar dos hyperlinks para websites envolvidos na venda ilegal de drogas.
Os podcasts nunca foram realmente podcasts
Um dos detalhes mais surpreendentes é que grande parte do conteúdo não foi criado para ser consumido.
O Spotify disse aos investigadores que muitos dos podcasts falsos funcionavam principalmente como spam em mecanismos de busca. As operadoras supostamente encheram títulos de podcast, descrições e capas com hyperlinks que direcionam os usuários a websites de farmácias on-line e operações fraudulentas. O objetivo period explorar a autoridade do Spotify nos motores de busca e melhorar a classificação desses websites externos.
Na verdade, o Spotify disse que 94% dos episódios removidos não tiveram nenhuma reprodução, enquanto 99% atraíram menos de 10 streams. No entanto, alguns episódios encontraram público. Alguns deles geraram milhares de escutas e incluíram instruções para a compra de medicamentos como o modafinil usando criptomoeda.
O relatório também encontrou conteúdo semelhante aparecendo em outras plataformas de podcast, destacando como se tornou fácil distribuir grandes quantidades de conteúdo de baixa qualidade em vários serviços ao mesmo tempo.
A IA está tornando o problema do spam ainda maior
Pesquisadores e legisladores acreditam que a inteligência synthetic está facilitando a execução dessas operações.
O relatório aponta para podcasts gerados por IA com vozes sintéticas e conteúdo gerado automaticamente, projetado para imitar programas legítimos. O Spotify disse aos investigadores que atualmente possui sistemas de moderação de IA para spam de música, mas não proíbe especificamente podcasts gerados por IA. A empresa também reconheceu que não está particularmente bem posicionada para identificar conteúdo de podcast criado por IA.
O Spotify afirma que usa ferramentas de detecção automatizadas, revisores humanos e serviços de moderação externa para identificar conteúdo que viola as regras. No entanto, o relatório do Congresso argumenta que a escala da operação de podcast falso demonstra lacunas significativas nessas defesas.
O incidente destaca um desafio crescente enfrentado pelas plataformas da Web. À medida que a IA torna mais barata e rápida a criação de conteúdo em grande escala, as campanhas de spam não precisam mais apenas de websites. Eles podem explorar plataformas confiáveis, algoritmos de pesquisa e sistemas de recomendação para alcançar os usuários de maneiras cada vez mais difíceis de detectar.
Para o Spotify, a polêmica é um lembrete de que os desafios de moderação de conteúdo não estão mais limitados às redes sociais. Até mesmo as plataformas de podcast estão se tornando alvos de operações sofisticadas de spam, projetadas para manipular as classificações de pesquisa e direcionar os usuários para serviços ilegais ou potencialmente perigosos.
