Um tribunal native na Alemanha emitiu uma decisão que poderá remodelar o funcionamento dos motores de busca e dos chatbots baseados em inteligência synthetic em todo o mundo. O Tribunal Regional de Munique decidiu preliminarmente que o Google é responsável por uma série de declarações falsas geradas pelo seu recurso AI Overviews, exigindo que a empresa evite a disseminação de afirmações erradas ou imprecisas através do seu motor de busca.
A decisão decorre de um primeiro caso relatado pelo Decoder, no qual dois editores descobriram que os resumos gerados pela IA do Google os vinculavam, em certas pesquisas, a práticas comerciais questionáveis, golpes e fraudes relacionadas a assinaturas, sem qualquer base para fazê-lo.
No início deste ano, as empresas afetadas enviaram à gigante da tecnologia uma carta de cessação e desistência, segundo o relatório. O Google negou responsabilidade, argumentando que seu recurso de resumo automático alerta os usuários de que as informações podem conter erros e devem ser verificadas de forma independente.
A análise do tribunal concluiu que a IA do Google combinou informações correspondentes a outras empresas que haviam sido sinalizadas por possíveis práticas ilícitas com dados dos demandantes, gerando associações que não apareciam em nenhuma das fontes vinculadas pelo buscador.
As autoridades descobriram que, ao contrário dos motores de busca tradicionais, que apenas exibem listas de hyperlinks com declarações feitas por terceiros, a ferramenta do Google produzia “declarações independentes, novas e substanciais” baseadas numa interpretação errada da informação disponível na Web.
Segundo o tribunal, a correção de informações erradas não é responsabilidade de terceiros. O Google é a única entidade com capacidade de modificar a tecnologia subjacente aos seus resumos gerados por IA e, portanto, “deve ser responsabilizada”. Além disso, o tribunal concluiu que a linha de defesa do Google carecia de mérito, uma vez que o resumo contestado “contém declarações que não aparecem de forma alguma nos resultados da pesquisa.
Uma nova (e vigorosa) interpretação da IA na Internet
A interpretação do tribunal sobre o papel da IA na apresentação dos resultados da pesquisa poderia tornar este caso um precedente histórico. Encontra uma grande empresa tecnológica responsável pela influência dos seus desenvolvimentos mais avançados em plataformas amplamente utilizadas.
Até agora, na maioria dos sistemas jurídicos, os motores de busca eram considerados ferramentas que apenas facilitavam o acesso a conteúdos criados por terceiros e disponíveis na internet. Este estatuto proporcionou-lhes um certo nível de proteção quando a informação publicada é falsa, imprecisa, enganosa ou mesmo difamatória.
No entanto, o tribunal alemão considerou que esta salvaguarda já não se aplica quando os motores de busca incorporam sistemas generativos de IA. Segundo o seu raciocínio, esta tecnologia é capaz de produzir reivindicações inexistentes baseadas em múltiplas fontes e, consequentemente, as empresas responsáveis pela sua operação devem assumir a responsabilidade pelo conteúdo resultante.
Os juízes também concluíram que, embora o Google incentive os usuários a verificar as informações devido ao potencial de alucinações inerentes aos modelos de IA, este aviso não isenta o distribuidor de conteúdo de responsabilidade. Caso contrário, argumentaram, as vítimas de declarações falsas ficariam virtualmente indefesas, uma vez que as fontes originais nunca fizeram essas declarações e, portanto, não poderiam estar sujeitas a ações legais.
Da mesma forma, o tribunal considerou que os resultados gerados por um sistema de IA não podem ser protegidos pelos princípios da liberdade de expressão, uma vez que são o produto de um algoritmo concebido, treinado e gerido por uma empresa, e não a expressão de uma opinião particular person.
Como medida de precaução para evitar uma possível recorrência, a decisão exigia que o Google removesse grande parte das declarações consideradas difamatórias neste caso e cobrisse 80 por cento dos custos legais decorrentes do processo.
Um porta-voz da empresa, citado pela Ars Technica, sugeriu que a decisão poderia ser apelada. “Investimos profundamente na qualidade das visões gerais de IA para garantir que a esmagadora maioria das respostas forneça informações precisas e sejam projetadas para refletir as informações que existem na internet”, diz o comunicado. “Estamos revisando cuidadosamente esta decisão, que ainda não é definitiva.”
