Papa exige que armas de IA sejam ‘desarmadas’

O Papa Leão XIV fez um alerta severo sobre a inteligência synthetic, alegando que a tecnologia está ajudando o “normalização da guerra” e transferir poderes de vida ou morte para pessoas inexplicáveis “atores tecnológicos”.

O pontífice nascido nos Estados Unidos apresentou a sua advertência na segunda-feira numa encíclica intitulada “Magnifica Humanitas” (Humanidade Magnífica). No documento de 42 mil palavras, Leo destacou como o “o crescimento do complexo militar-industrial tornou-se uma característica definidora do cenário político atual”, levando a “um preocupante renascimento da guerra como instrumento de política internacional”.

Neste ambiente, “o desenvolvimento e a utilização da IA ​​na guerra devem estar sujeitos às mais rigorosas restrições éticas, para garantir o respeito pela dignidade humana e a santidade da vida e para evitar uma corrida ao desenvolvimento de tais armas”, ele continuou.

Os papas normalmente usam encíclicas para expor os seus ensinamentos sobre as questões sociais do seu tempo. O Papa Leão XIII, que inspirou o nome do precise pontífice, abordou a revolução industrial e a desigualdade entre a propriedade e as courses trabalhadoras na “Rerum Novarum” de 1891, por exemplo, enquanto o Papa Francisco abordou as alterações climáticas na “Laudato Si” de 2015.

Desde a sua eleição em Maio passado, Leão XIV tem alertado repetidamente sobre o poder destrutivo da tecnologia, descrevendo a IA como uma ameaça potencial para “dignidade humana, justiça e trabalho” num discurso aos cardeais no ano passado. A sua encíclica vai um passo além, apelando a um tratado international para “desarmar” a tecnologia para evitar que ela “dominar a humanidade”.

O Papa enfrenta o Vale do Silício

Embora o Papa não tenha se dirigido pelo nome aos empreiteiros de defesa do Vale do Silício, como Palantir e Anduril Industries, ele destacou a mudança de poder do Estado para “grandes atores econômicos e tecnológicos”.

A Palantir tornou-se particularmente poderosa nos últimos anos, com o seu software program de análise de dados alimentado por IA, utilizado pelos militares dos EUA para escolher alvos no Irão, e pelas Forças de Defesa de Israel (IDF) para planear ataques em Gaza. No Irão, o software program da Palantir selecionou uma escola primária para raparigas em Minab como um alvo válido, com base em mapas desatualizados compilados por humanos. Um ataque com mísseis contra a escola matou mais de 160 estudantes no primeiro dia da guerra.

O Papa condenou a crescente automatização da guerra, declarando-a “não é permitido confiar decisões letais ou de outra forma irreversíveis a sistemas artificiais.” Os sistemas habilitados para IA devem manter um “cadeia de responsabilidade”, ele escreveu, acrescentando que “aqueles que projetam, treinam, autorizam e empregam tecnologia devem ser responsabilizados por suas decisões.”

A encíclica do pontífice contrasta fortemente com um manifesto lançado no mês passado pelo CEO da Palantir, Alex Karp, no qual ele declarou que as empresas de tecnologia americanas “uma obrigação afirmativa” para ajudar os militares dos EUA, apelou à remilitarização da Alemanha e do Japão e argumentou que o Ocidente não deveria envolver-se em “debates teatrais sobre os méritos do desenvolvimento de tecnologias com aplicações militares e de segurança nacional críticas.”

No entanto, Leo encontrou alguns aliados na indústria de IA. O cofundador da Anthropic, Christopher Olah, reuniu-se com o pontífice no Vaticano na segunda-feira, dizendo a uma audiência de líderes seniores da Igreja que laboratórios de IA operam “dentro de um conjunto de incentivos e restrições que às vezes podem entrar em conflito com fazer a coisa certa”, e que regulamentar esta indústria é “um imperativo ethical de proporções históricas”.