No início deste mês, WIRED publicou um trecho do novo livro de Steve Rosenbaum, O Futuro da Verdadeque analisa como a inteligência synthetic distorce o senso de realidade das pessoas. Pouco depois, o New York Occasions relatado que o livro continha mais de meia dúzia de citações inventadas ou atribuídas incorretamente. Num comunicado, Rosenbaum, que tem um mestrado em “verdade” pela Universidade de Nova Iorque, admitiu ter incluído acidentalmente “um punhado” de citações “atribuídas indevidamente ou sintéticas”. Numa reviravolta irónica, a veracidade de um livro sobre como a IA impacta a verdade estava agora sob intenso escrutínio devido à forma como o seu autor utilizou a IA.
Depois que a história do Occasions foi divulgada, a WIRED deu uma nova olhada em nosso trecho de 1.450 palavras. A equipe de verificação de fatos revisou-o antes da publicação e reconfirmamos que suas citações e fatos eram precisos. Mas a política editorial generativa de IA da WIRED proíbe a publicação de escritos gerados e editados por IA, e um e-mail de um leitor chamando o trecho como sendo “descaradamente escrito por IA” levantou mais questões sobre até que ponto Rosenbaum usou ferramentas de IA. Em O Futuro da VerdadeNa seção de agradecimentos, Rosenbaum escreve que ChatGPT, Claude, NaturalReaders, ProWritingAid e Grammarly ajudaram a “refinar e aprimorar a apresentação de [his] ideias.” O que exatamente isso significa?
A WIRED executou o trecho por meio de vários serviços de detecção de IA, incluindo Pangram, GPTZero e ZeroGPT. Cada serviço sugeriu que provavelmente foi gerado por IA ou gerado por IA com alta confiança. Mas as ferramentas de detecção de IA são falíveis e podem retornar leituras imprecisas. Então, o chefe de pesquisa da WIRED enviou um e-mail diretamente a Rosenbaum para perguntar se e como ele havia usado a IA para escrever o trecho.
Ele respondeu: “Como muitos escritores que trabalham hoje, usei ferramentas de IA durante partes do processo de pesquisa e desenvolvimento editorial do livro, incluindo descoberta de fontes, brainstorming, suggestions estrutural e refinamento de linguagem”. Mas, enfatizou ele, “as ideias, os relatórios, os argumentos e a autoria remaining são meus, e o trecho do WIRED não foi gerado pela IA e simplesmente publicado como está”. Ele pediu aos editores da WIRED que tenham cautela ao confiar nas ferramentas de detecção de IA, observando que podem ocorrer falsos positivos.
Neste ponto, os editores seniores da WIRED me pediram para dar uma olhada no episódio, porque cobri os resíduos de IA em suas diversas formas desde 2024. Meu primeiro passo foi passar todo o texto do livro por meio da ferramenta de detecção do Pangram. (Embora todas as ferramentas de detecção de IA tenham limitações e possam mostrar falsos positivos, Pangram é o padrão-ouro atual.) Descobriu-se que o livro parecia ser 53% gerado por IA, com 9% adicionais registrados como provavelmente assistidos por IA.
Liguei para Rosenbaum e pedi uma descrição mais detalhada de como ele usou a IA para escrever o livro e se contestava os resultados de Pangram. (BenBella Books, cujo selo publicou O Futuro da Verdadenão retornou pedidos de comentários. A Simon & Schuster, que distribui os livros de BenBella nos Estados Unidos, não quis comentar.)
Rosenbaum não quis avaliar a precisão dos resultados de Pangram. Na verdade, ele não queria falar sobre eles. “Eu não participo dessa conversa”, disse ele. “É como dizer, você bate na sua esposa? É uma daquelas acusações para as quais não há resposta.”
Ele se ofereceu, em vez disso, para explicar amplamente seu processo editorial. Ele diz que, no início do processo de escrita, usou ferramentas de IA como mecanismos de busca, ajudando-o a encontrar informações para as seções do livro com mais pesquisas. Para demonstrar como ele poderia fazer isso, ele pediu ao ChatGPT que me descrevesse e depois leu os resultados em voz alta. A pesquisa de IA descreveu com mais ou menos precisão algumas de minhas histórias anteriores, incluindo trabalho em “websites de mídia zumbi” gerados por IA.
