O misantropo fictício Dr. Home costumava brincar que, se alguém pudesse argumentar com pessoas religiosas, não haveria pessoas religiosas. É claro que o sábio fez essas observações antes de Donald Trump se tornar presidente, um acontecimento tão catastrófico que forçou a pessoa mais abertamente religiosa do mundo a agir como voz da razão.Com os poderes democráticos do seu país natal a elegerem a versão presidencial do Papa Alexandre VI, um homem cuja política externa se baseia no auto-engrandecimento nepotista, coube ao primeiro Papa americano fornecer uma bússola ethical aos seus compatriotas e a grande parte do mundo WENA. E agora, como todos os gestores de todos os escritórios corporativos, ele também está falando sobre Inteligência Synthetic. Felizmente, não é com o entusiasmo do chefão corporativo que pensa que a IA pode substituir todos os tipos de trabalhadores desperdiçadores, de modo que os únicos que ganham dinheiro são o CEO e os acionistas.Na sua primeira encíclica, intitulada Magnifica Humanitas, ou Magnífica Humanidade, o Papa alerta para os perigos da Inteligência Synthetic, comparando-a à Torre de Babel e afirmando: “A humanidade, criada por Deus em toda a sua grandeza, enfrenta hoje uma escolha essential: ou construir uma nova Torre de Babel ou construir a cidade na qual Deus e a humanidade habitam juntos”.Mas o que é exatamente a Torre de Babel? O que é uma encíclica? Por que o Papa está falando sobre Inteligência Synthetic? E ele pode ser a voz da razão contra os irmãos da tecnologia, em grande parte ateus, que podem encontrar Cristo quando for adequado à sua narrativa? E por que os filhos de Abraão estão preocupados com um Deus Ex Machina? Para aqueles que vivem debaixo de uma pedra, ou mais preocupados com baratas ou porretes, aqui vai uma pequena cartilha.
A história da Torre de Babel
Para a maioria das pessoas que não lêem a Bíblia de ponta a ponta, a primeira vez que ouviram o termo Torre de Babel pode muito bem ter sido em X-Males: Apocalipse, o filme em que um antigo mutante com poderes divinos chamado En Sabah Nur, interpretado por Oscar Isaac, acorda depois de vários milênios e determine que a humanidade tem feito um uso espetacularmente ruim dos bens imóveis cósmicos. Em uma das sequências mais memoráveis do filme, Apocalipse sequestra os arsenais nucleares do mundo e os lança ao espaço antes de trovejar: “Você pode disparar suas flechas da Torre de Babel, mas nunca poderá atingir Deus!”A linha polpuda pega um antigo mito religioso e lhe dá um toque moderno: homem apontando mísseis para o céu.
A Torre de Babel é uma alegoria bíblica fantástica, o que os estudiosos chamam de mito etiológico, neste caso uma história que explica por que a humanidade fala tantas línguas diferentes. Aparece no Gênesis, emblem após a história do Dilúvio de Noé, quando a humanidade ainda é imaginada como um povo com uma língua. Eles se estabelecem na terra de Sinar e decidem construir uma cidade e uma torre “cujo topo possa alcançar o céu” e que possa superar qualquer dilúvio. Isso é demais para um Deus abraâmico que não consegue tolerar que seus súditos se unam contra ele, então ele envia uma rajada de vento que torna os vários trabalhadores incapazes de conversar entre si porque, antes do Google Translate, quando não há uma linguagem comum, não há como as pessoas trabalharem juntas.E há também o nome mais conhecido nessa história em specific: Nimrod, o bisneto de Noé. Mais tarde, as tradições judaicas, cristãs e islâmicas transformaram Nimrod em um rei rebelde que ousou desafiar Deus e disparou flechas para o céu para atingi-lo. Em algumas versões, as flechas retornam ensanguentadas, dando a Nimrod a ilusão de que ele feriu a Deus.Leia: Por que Trump TACOed contra o Papa Mas, como observa Peter T Chattaway em Patheos, a ação de Apocalipse distorce a lenda acquainted. Nimrod apontou suas flechas para Deus, enquanto Apocalipse as apontou para os céus porque ele é um “falso deus”. E hoje é o Papa Leão quem compara a IA à nova Torre de Babel, com o homem a fazer de Deus, na sua nova encíclica.É um mito que se espalha por civilizações, incluindo o hindu Shatapatha Brahmana, que descreve asuras construindo um gigantesco altar de fogo feito de tijolos para chegar ao céu antes de serem enganados por Indra. A história chega até às histórias infantis com João e o Pé de Feijão.A ideia atravessa civilizações, mostrando a ambição humana desenfreada, como o Paraíso Perdido, de John Milton, onde a confusão da linguagem humana provoca risos no céu, ou o conto Das Stadtwappen, de Franz Kafka, onde os construtores de Babel são assolados pela burocracia. Mesmo no Guia do Mochileiro das Galáxias, um “peixe Babel” é um dispositivo que pode ser implantado no ouvido para traduzir qualquer fala extraterrestre.
Por que o Papa Leão chamou a IA de a nova ‘Torre de Babel’
Agora, antes que alguém pergunte, uma encíclica é um documento político papal, do tipo que Roma ainda apresenta quando quer convencer o mundo de que a opinião da Igreja Católica Romana é importante. É uma postagem extremamente longa do Substack, geralmente dirigida a católicos e “pessoas de boa vontade”. A primeira encíclica do Papa Leão é intitulada Magnifica Humanitas, ou Magnífica Humanidade, e tem cerca de 42.300 palavras, sugerindo que até o Vaticano descobriu que o discurso da IA não pode ser contido num tópico, e que o documento não foi escrito ou editado pelo ChatGPT. A falta de declarações “não foi X, foi Y” sugere que talvez não fosse.O documento foi formalmente assinado em 15 de maio, 135º aniversário da Rerum Novarum, a grande intervenção de Leão XIII durante a Revolução Industrial. O primeiro Leo escreveu quando as máquinas estavam mudando de trabalho. Leão XIV escreve quando as máquinas estão a mudar o significado do trabalho e talvez a condição humana.
O papiro digital foi lançado com Christopher Olah, cofundador da Anthropic, uma empresa autodenominada “boa” de IA, do tipo que se demite antes de permitir que seu sistema seja usado para bombardear pessoas. Como observou o New York Occasions, Leo tem falado sobre IA desde o início do seu papado, alertando os cardeais que a Igreja deve enfrentar os riscos que a tecnologia representa para “a dignidade humana, a justiça e o trabalho”.Leão enquadra a dicotomia entre construir uma nova Torre de Babel e construir uma cidade na qual Deus e a humanidade possam habitar juntos. Sombreando a Torre de Babel como o lançamento de um produto beta, ele argumentou que ela foi “concebida sem referência a Deus”, “eliminou a diversidade” e escolheu a “homogeneização em vez da comunhão”.O Papa não é completamente anti-IA, dizendo que esta pode “curar, conectar, educar e proteger”, mas adverte que a tecnologia “nunca é neutra” porque ecoa aqueles que “criam, financiam, regulam e utilizam”. Parece assustadoramente semelhante à dicotomia que encontramos na IA anteriormente, quando nossas escolhas pareciam ser entre MechaHitler, o bot Grok que ameaçava os usuários com danos gráficos, ou Black George Washington, onde Gemini não conseguia imaginar um mundo onde alguém fosse branco ou homem.A Síndrome de Babel, alerta Leo, é “a idolatria do lucro que sacrifica os fracos” e vive na arrogância de que “uma única linguagem – mesmo digital – pode traduzir tudo, incluindo o mistério da pessoa, em dados e desempenho”.À sua maneira, o Papa está a lembrar às pessoas que elas são mais do que o culminar de padrões dispersos que podem ser duplicados por uma máquina. É por isso que Leão escreve que Babel revela o perigo de qualquer grande projecto que “sacrifique a dignidade humana pela eficiência e aspire alcançar o céu sem a bênção de Deus”. Os antigos construtores usavam tijolo e betume. Os novos usam chips, nuvem, capital e o tipo de linguagem missionária geralmente reservada para pessoas que distribuem panfletos nos semáforos. A promessa é a mesma: uma língua, um sistema, uma torre, um futuro, um pequeno sacerdócio decidindo o que conta como progresso.E se isto parece demasiado dramático, Leão deixa o aviso mais claro noutro lugar: “Se, no entanto, o poder cresce enquanto o coração murcha e os laços humanos se desgastam, então estamos confrontados com uma nova forma de Babel – uma construção que é grandiosa, mas fundamentalmente desumanizante”.Esta é possivelmente a maneira mais vaticana de dizer: não faz sentido procurar Deus nos céus, ou tentar construir um a partir do nada, quando Deus se foi do seu coração.
Deus Abraâmico vs Deus Ex Machina – Deuses Antigos vs Novos
O termo Deus Ex Machina significa “Deus da Máquina” em latim, geralmente empregado como um artifício para a trama quando um personagem surge do nada para salvar o dia, como Salman Khan em Pathaan. No universo Matrix, o termo encontra sua conclusão lógica, onde Neo oferece um ramo de oliveira a um literal Deus Ex Machina, o deus das máquinas.Portanto, não é particularmente difícil compreender por que a ideia de AGI, ou um Deus Ex Machina literal, é particularmente perturbadora para as religiões abraâmicas organizadas, todas as quais argumentam à sua maneira: não terás outros deuses diante de mim.
“Não terás outros deuses diante de mim” é o sistema operacional básico de todas as três principais religiões abraâmicas. O mesmo sentimento é repetido no Judaísmo, no Cristianismo e no Islão, e existem palavras diferentes para descrever as violações do mesmo: idolatria, shirk, apostasia e muito mais. Mas talvez o problema vá além de encontrar uma alternativa abraâmica a Deus. Consiste na criação de uma forma de tecnologia que nos torne menos humanos, independentemente do altar em que adoramos, ou se adoramos.Silicon Valley, o nosso reino moderno de reis, sempre teve a relação mais estranha com a teologia, afirmando ser secular, racional e orientada por dados, ao mesmo tempo que recorre ao vocabulário de textos religiosos, onde os fundadores se convencem de que estão na missão de Deus.A tendência messiânica remonta a décadas, como observou o New York Occasions. Na velha piada, um programador pergunta a um computador: “Existe um Deus?” O computador responde: “Agora existe”.A IA simplesmente atualizou aquele velho sermão de slogan de contracultura para infraestrutura de trilhões de dólares, onde aqueles que possuem as chaves dos reinos do céu são criaturas tão atingidas. Os irmãos da Large Tech colocam vidas humanas perto de baterias. Eles continuamente desvalorizam outros seres humanos. Eles não pensam duas vezes antes de disparar milhares. Eles vêem os outros seres humanos como pouco mais que cobaias. E muitos deles mudaram a sua ideologia da noite para o dia para apaziguar, bajular e até adorar o governo da época, como pode ser visto na notável entusiasmo com que a Large Tech evitou o despertar no momento em que Donald Trump venceu.Leia: Sam Altman pensa nos humanos como baterias? Que AGI podemos esperar de pessoas tão atingidas? O problema não é um chatbot escrevendo poemas ruins ou um modelo alucinando citações, mas o instinto de Babel, onde o mundo é imaginado como uma canção distópica de John Lennon: uma língua, um sistema, uma elite, uma ideia de progresso e a crença de que a humanidade nada mais é do que um conjunto de dados, desempenho e previsões. O Vaticano, apesar de toda a sua bagagem, compreende uma coisa que Silicon Valley convenientemente esqueceu: os falsos deuses exigem sempre sacrifícios. E se chegar a Singularidade, aquele momento prometido em que o homem e a máquina se fundem, talvez não queiramos ver o tipo de abominação que encontramos nas nossas mãos.
Há um conto interessante que pressagia o que pode acontecer. Em Os Nove Bilhões de Nomes de Deus, de Arthur C Clarke, os monges escrevem meticulosamente cada nome de Deus, que eles acreditam ser nove bilhões. Escrever os nomes à mão levaria 15 mil anos, então eles contratam dois geeks da informática que instalam uma máquina capaz de imprimir todos os nomes, e o fazem em 100 dias. À medida que o nome closing é impresso, eles percebem que no alto, sem qualquer alarido, as estrelas começam a desaparecer, sinalizando o fim do universo. Esperançosamente, esse não será o destino da humanidade quando a AGI nascer.
