Em 25 de maio, o Papa Leão XIV divulgou Magnifica Humanitas — “Magnífica Humanidade” – a primeira encíclica do seu papado, com o subtítulo “Sobre a Salvaguarda da Pessoa Humana no Tempo da Inteligência Synthetic”.
Há algo de incongruente em recorrer à Igreja Católica em busca de orientação ethical sobre IA. Esta é uma instituição antiga com uma história profundamente complexa, que ainda enfrenta os seus próprios erros morais e controvérsias ao longo dos séculos. Mas aqui estamos, lendo o que o Papa tem a dizer sobre a IA.
É claro que a Igreja Católica tem mais adeptos do que fãs de Taylor Swift – bem mais de um bilhão de pessoas. Portanto, o papa tem um megafone que o resto de nós nunca tocará. E o Papa Leão é sincero, sério e bem informado. Então o que ele disse?
Magnifica Humanitas enquadra a IA como uma nova revolução industrial, capaz de reordenar o trabalho, a riqueza e a sociedade a um nível elementary. Alerta que a IA ameaça a dignidade humana, as relações genuínas e o nosso controlo partilhado da verdade. Insiste que a IA não é uma ferramenta moralmente neutra – que as escolhas de design carregam valores e que importa não apenas a forma como um sistema é utilizado, mas também como é construído. Exige uma regulamentação mais forte, nacional e internacional. Além disso, a encíclica oferece uma litania de preocupações bem conhecidas: insegurança no emprego, manipulação, privacidade, preconceito e armas autónomas.
O veredicto da encíclica sobre a IA é tão surpreendente como o veredicto de um pregador dominical sobre o pecado, que traz à mente a velha piada sobre o Presidente Coolidge, que period notoriamente conciso. Ele voltou da igreja num domingo, e o diálogo seguinte ocorreu com sua esposa.
Sra. Sobre o que o pregador falou?
Coolidge: Pecado.
Sra. O que ele disse?
Coolidge: Ele é contra.
Uma imagem, porém, se eleva acima da litania. Leão regressa repetidamente à Torre de Babel, a cidade bíblica cujo povo se propôs a construir uma torre “cujo topo chega aos céus” numa tentativa de obter o seu próprio poder e domínio. É uma escolha pontual.
A busca pela Inteligência Geral Synthetic (AGI) — um sistema único destinado a corresponder a todas as capacidades humanas — é, em certo sentido, a mais pura expressão moderna dessa ambição. O aviso de Leo não é que o projecto seja impossível, mas que uma civilização que persegue capacidades divinas tende a esquecer os seres humanos que estão na base da torre. O antigo ultimate da história – dispersão e confusão em vez de ascensão – é algo que os arquitetos da AGI talvez não gostem de ouvir.
O documento também não é uma abstração elevada. Apesar de todo o seu alcance ethical, Magnifica Humanitas desce para detalhes. Examina a investigação sobre a forma como a exposição precoce e não supervisionada ao ecrã prejudica o sono, a atenção e o desenvolvimento emocional das crianças, e condena as “novas formas de escravatura” por detrás da tecnologia: os rotuladores de dados pagaram uma ninharia, as crianças extraem terras raras em condições perigosas para que, como diz Leo, o fluxo computacional possa continuar ininterrupto. Estas não são banalidades. São danos concretos com nomes e vítimas.
Infelizmente, a história sugere que mesmo uma encíclica enérgica como a do Papa Leão muda pouco. Considerar Humanae Vitaea encíclica de Paulo VI de 1968 que reafirma a proibição da Igreja à contracepção synthetic. Foi claro, foi contundente e foi amplamente ignorado, até mesmo pelos fiéis.
No espaço de uma geração, a maioria dos católicos no mundo desenvolvido já usava contraceptivos. Independentemente do que se pense do ensinamento em si, a lição sobre a influência é a mesma: um papa pode falar com whole clareza e ainda assim observar os fiéis seguirem o seu próprio caminho. A clareza ethical é fácil; a mudança ethical é difícil.
Conheço o sentimento em menor escala: em 2018 publiquei um Juramento de Hipócrates para praticantes de IAelaborando uma abordagem voluntária para a IA ética, mas ninguém percebeu. Aqui está a verdade incômoda: um profeta, seja um papa ou Moisés, só pode nos levar à terra prometida se estivermos dispostos a fazer a viagem. O fracasso das palavras morais não é prova de que as palavras estejam erradas. É a prova de que as palavras por si só não podem levar as pessoas que se recusam a caminhar.
Em vez de admitir isso, construímos uma narrativa em que os vilões são externos. Nós protestamos contra a tirania da tecnologia e a tirania dos tecnólogos – o punhado de homens que, literalmente, podem remodelar a política nacional com alguns telefonemas.
Na semana passada, a ordem executiva de IA do presidente Trump foi supostamente afundado durante a noite após ligações de Elon Musk, Mark Zuckerberg e David Sacks. A indignação é compreensível, mas também é um desvio. A tirania mais profunda é aquela que impomos a nós mesmos, através das nossas próprias escolhas.
Em seu brilhante ensaio no New York Occasions “A Tirania da Conveniência”, Tim Wu, professor de direito de Columbia, apontou o culpado anos atrás. Ele argumentou que a conveniência se tornou a força mais poderosa e menos examinada que molda a vida moderna.
Nossa falha lembra a guerra contra as drogas. Por mais que persigamos os cartéis, é o nosso próprio consumo que financia a empresa e cria o incentivo para fabricar mais. A oferta responde à demanda. A mesma lógica governa a IA.
Culpamos os arquitectos destes sistemas, enquanto o nosso próprio comportamento sustenta os seus modelos de negócio. Se realmente nos preocupamos com a privacidade, por que entregamos nossas vidas ao Google e ao Meta? Se realmente nos preocupamos com a democracia, por que deixamos os deepfakes proliferarem sem contestação? Queremos ter o nosso bolo e comê-lo também: an ethical elevada e a alimentação sem atrito, a indignação e a dopamina.
Um futuro melhor para a IA não nos será entregue. Teremos que persegui-lo ativamente.
No início dos anos 2000, um ditado well-liked dizia que estávamos nos afogando em dados e famintos por sabedoria. Hoje, estamos nos afogando em IA e famintos por uma bússola ethical. O papa ofereceu-nos uma — mas será que nós, o povo, estamos dispostos a ir para onde ele apontou?
