A inteligência synthetic está a fabricar referências a pesquisas médicas que não existem, de acordo com descobertas recentes.
Uma auditoria recente descobriu que, entre milhões de artigos biomédicos, mais de 4.000 continham citações de pesquisas inexistentes, de acordo com um estudo artigo na Lanceta. Tais citações fabricadas podem minar as diretrizes clínicas nas quais os profissionais de saúde confiam para prestar cuidados, disse Maxim Topaz, professor associado da Escola de Enfermagem de Columbia e principal autor do estudo.
Uma auditoria de milhões de artigos biomédicos encontrou mais de 4.000 citações de estudos falsos, disseram os pesquisadores em um recente artigo publicado no The Lancet.
Citações fabricadas são perigosos porque influenciam as diretrizes clínicas, que são baseadas em pesquisas públicas que os profissionais de saúde seguem na prestação de cuidados, disse Maxim Topaz, professor associado da Escola de Enfermagem de Columbia e principal autor do estudo, à CBS Information.
“Quando essas referências falsas chegarem à literatura, elas acabarão nessas diretrizes, e é assim que os médicos decidem como prestar cuidados para você”, disse ele. “Seu médico pode estar tomando decisões sobre o tratamento com base em estudos que nunca existiram”.
Problema crescente
Também preocupante é que nenhum dos erros identificados por Topaz e sua equipe foi corrigido ou retratado e ainda pode estar influenciando o atendimento ao paciente, disse ele.
“A taxa de referências falsas que aparecem na literatura médica publicada está crescendo”, acrescentou Topaz, observando que o número dessas citações errôneas cresceu 12 vezes nos últimos três anos. As referências fabricadas abrangeram quase 3.000 artigos acadêmicos.
A própria experiência de Topaz o estimulou a investigar o assunto. Um aplicativo de IA que ele estava usando para ajudar a aprimorar um de seus próprios artigos científicos inseriu uma citação falsa, disse ele à CBS Information. Em seguida, passou por várias camadas de revisões por pares antes que um editor perspicaz captasse a referência falsa.
“Fiquei mortificado porque venho estudando IA há 15 anos, então se isso pode acontecer comigo, pode acontecer com qualquer um”, disse ele.
Esses contratempos surgem quando um autor afirma uma declaração de fato e pede uma citação à IA, explicou Topaz. “Em alguns casos, a IA os inseriria inadvertidamente”, disse ele. “Você esperaria que os fatos fossem precisos, mas se eles forem apoiados por citações fabricadas, você não saberá se os ‘fatos’ são precisos.”
Em alguns casos, uma ferramenta de IA também citará um autor actual enquanto inventa uma pesquisa e a atribui a essa pessoa. Outras vezes, as citações eram completamente inventadas, disse Topaz.
“Esta é apenas a ponta do iceberg”, disse ele, observando que a investigação noutros campos também poderia estar sujeita às mesmas questões.
Enquanto isso, falsas citações científicas geradas por IA podem “parecer perfeitamente reais”, acrescentou Topaz, que enfatizou a importância de os pesquisadores verificarem rigorosamente os fatos de seu trabalho.
