O recurso AI Overviews do Google está supostamente apresentando entradas da SCP Basis, um well-liked universo de fan fiction construído em torno de falsas “anomalias” de terror, como se descrevessem criaturas e eventos reais. Futurismo encontraram pelo menos 20 casos em que os resumos gerados pela IA ignoraram qualquer menção de que as entradas do SCP são ficção.
Confundir monstros inventados com monstros reais
Uma busca por “SCP-565” supostamente retornou uma visão geral de IA descrevendo uma “cabeça humana anômala e ambulante” que se transfer como um caranguejo e está ligada a registros forenses e à identidade de um homem falecido. O resumo até direcionou os usuários a um documento SCP “oficial” para leitura adicional.
De acordo com o Futurismo, uma busca por “SCP-426”, uma torradeira fictícia que supostamente faz qualquer um que a mencione falar sobre ela em primeira pessoa, gerou uma resposta escrita em primeira pessoa, com a IA se descrevendo como a torradeira e detalhando ferimentos fabricados por pessoas que tentavam imitá-la. Outros exemplos citados no relatório incluem “SCP-922”, chamado de “Outra Versão da Verdade”, e “SCP-779”, um parasita que supostamente imita uma fada.
Em cada caso, a Visão Geral da IA supostamente tratou a documentação inventada pela Fundação SCP como pesquisa legítima, em vez de sinalizá-la como ficção. Esta não é a primeira vez que os resultados de pesquisa baseados em IA do Google apresentam informações falsas como fatos, com deslizes passados que vão desde datas erradas até afirmações históricas inventadas.
Sem reconhecimento, sem isenção de responsabilidade
O próprio web site da Fundação SCP afirma claramente que suas entradas são fictícias. As visões gerais de IA do Google raramente repetiam esse contexto, observa o Futurism, ocasionalmente fazendo referência à “tradição” sem explicar o que isso significava. O Futurismo entrou em contato com o Google para comentar, mas não recebeu resposta antes de publicar.
Tentei replicar essas descobertas, mas uma busca por “SCP-565” não retornou nenhuma visão geral da IA, e o Modo IA do Google rotulou a entidade como uma “anomalia fictícia” em vez de apresentá-la como actual. Tentar reproduzir esse comportamento com outros personagens fictícios do universo SCP também não deu certo, sugerindo que o Google pode já ter resolvido o problema, pelo menos para algumas das consultas sinalizadas pelo Futurismo. O Google já lançou atualizações com o objetivo de tornar as visões gerais de IA e o modo AI mais confiáveis, embora problemas de precisão continuem surgindo de tempos em tempos.
Embora eu não tenha conseguido replicar esse comportamento, o erro ainda é importante porque as visões gerais de IA estão no topo de muitas pesquisas do Google, e qualquer pessoa não familiarizada com a comunidade SCP, incluindo crianças, pode acabar acreditando que as histórias são fatos documentados, e não ficção de terror. Ele ecoa outros erros da visão geral da IA, incluindo um caso em que o recurso recomendou adicionar cola não tóxica ao molho de pizza, um lembrete de que respostas erradas continuam sendo um risco persistente na pesquisa baseada em IA.
