O que acontece quando você olha para uma maçã?
Essa pergunta pode ser respondida de duas maneiras muito diferentes. Um materialista convicto provavelmente lhe daria uma explicação técnica detalhada sobre os fótons refletidos na superfície da maçã e nos fotorreceptores de seus olhos, criando uma representação visible de um pedaço de fruta vermelha que realmente existe “lá fora” no mundo. Pergunte a um filósofo ou a um artista, por outro lado, e eles correm o risco de se desviar para um território muito mais metafísico: a maçã não é apenas uma coleção de átomos modelados pelo sistema visible do seu cérebro – é também uma espécie de portal, um caminho para um reino psychological de associações e memórias semiconscientes, cujo format e sensação são únicos para cada observador particular person. Uma maçã poderia ser um símbolo de saúde, por exemplo, enquanto para uma pessoa com inclinações mais religiosas, poderia evocar a tentação de Eva no Jardim e a Queda do Homem. Outros poderão ver um símbolo da computação pessoal na period moderna, ou a epifania que supostamente levou Isaac Newton a formular a sua lei da gravidade.
De acordo com esta última escola de pensamento, a percepção nunca é estritamente objetiva; em vez disso, a nossa subjetividade colore a nossa experiência particular person do mundo a tal ponto que as duas são efetivamente inseparáveis. O artista belga René Magritte capturou esta ambiguidade entre o que percebe e o que é percebido na sua pintura de 1964 Ceci não é um pomme (Isto não é uma maçã). O que ele queria dizer period que a representação visible de uma maçã, por mais realista que seja, não é o que deveria representar; nunca experimentamos o mundo em si, como diria Kant. A arte visible, tal como a pintura e a fotografia, serve como um elo vivo entre a experiência única do artista, por um lado, e do espectador, por outro.
Dado o dilúvio de mídia gerada por IA que inundou a Web nos últimos anos, isso levanta a questão: O que isso significa para a humanidade, nossos relacionamentos uns com os outros e nossa capacidade de extrair significado do mundo quando uma parcela crescente das imagens que vemos e com as quais interagimos é gerada não por outros seres humanos vivos e sensíveis, mas por algoritmos inconscientes treinados não para nos ajudar a navegar pelas complexidades de nossas vidas, mas para hackear e prender nossa atenção?
Esta é a questão central que o artista Trevor Paglen se propôs a abordar no seu último livro, Como ver como uma máquina: imagens após IA.
Geógrafo de formação, Paglen foi profundamente influenciado pela cibernética, mistérios antigos, punk rock, composição de música clássica, jornalismo investigativo e uma variedade de outros campos aparentemente díspares que dão ao seu corpus de trabalho uma qualidade caleidoscópica. Se houver uma maneira simples de descrever seu trabalho, seria dizer que ele tem a missão de lançar luz sobre as forças obscuras que moldam nosso comportamento e visão de mundo abaixo do limiar de nossa percepção consciente. Ele é fotografado misteriosos objetos celestes de origem desconhecida, “satélites secretos”, cabos submarinos de fibra óptica, aviões espiõese drones militares. Em 2014, ele trabalhou como diretor de fotografia no filme vencedor do Oscar de Laura Poitras documentário sobre Edward SnowdenCitizenfoure recebeu uma “bolsa genial” da MacArthur em 2017.
Numa série de ensaios escritos ao longo da última década, Como ver como uma máquina defende que a ascensão da IA moderna inaugurou uma period em que a natureza intersubjectiva das imagens está a ser substituída por algo fundamentalmente novo, algo profundamente estranho, cujas implicações psicológicas e políticas ainda não foram percebidas. As imagens geradas por IA não são o produto exclusivo da mente humana, mas um reflexo de dados de treinamento que, em muitos casos, estão profundamente infectados com os mais feios preconceitos humanos.
Ao mesmo tempo, todo o nosso envolvimento com conteúdo gerado por IA – seja uma conversa com um chatbot sobre a nossa saúde psychological ou um clique num anúncio gerado por IA – fornece aos algoritmos subjacentes informações valiosas sobre as nossas preferências, comportamentos e perfil psicológico geral únicos. Nunca olhamos apenas para a IA, argumenta Paglen: ela está sempre olhando para nós.
Controle psychological alimentado por IA
Até agora, qualquer pessoa que olhasse para uma impressão de mão ocre na parede de uma caverna, para a pintura de uma maçã ou para uma fotografia de edifícios bombardeados poderia saber com certeza que outro ser humano havia criado a imagem. Esse não é mais o caso.
Uma profusão de textos, imagens, áudio e vídeos baratos gerados pela IA na Web está a levar-nos para uma espécie de purgatório epistémico, argumenta Paglen no seu novo livro, onde as nossas amarras, antes relativamente estáveis, a uma realidade partilhada estão a ser substituídas por bolhas individuais de feeds de redes sociais governados por algoritmos.
Ainda mais preocupante para Paglen é o que ele considera serem as forças subtis por detrás destes algoritmos: não são objectivos – por mais que as grandes empresas tecnológicas possam afirmar o contrário – mas são antes movidos pela lógica da mercantilização e da vigilância. Cada momento das nossas vidas, mesmo o mais privado e íntimo, torna-se uma oportunidade para a recolha de dados pessoais. Dispositivos “inteligentes” monitorizam os nossos ritmos de sono e hábitos de exercício, as aplicações monitorizam os nossos hábitos de compras on-line e tendências sexuais, e os chatbots aprendem sobre os nossos gatilhos emocionais e ansiedades únicos.
Num tal ambiente digital mediado por algoritmos, argumenta Paglen, os meios de exercer formas subtis de manipulação psicológica, persuasão e conformismo que outrora eram domínio exclusivo de programas governamentais bem financiados – como o infame MK-Extremely da period da Guerra Fria – tornaram-se agora efectivamente disponíveis para praticamente qualquer pessoa; o controle da mente foi democratizado, graças à IA. “Se o panorama mediático do pós-guerra foi caracterizado pelo espectáculo, e o ultimate do século XX e início do século XXI por uma period de vigilância, então estamos a entrar numa nova fase”, escreve ele no livro. “Um ambiente marcado pela computação afetiva, otimização habilitada para aprendizado de máquina, neurociência e psicologia cognitiva…”
A “Sociedade da Op Psico”, ele a chama.
Psicose, magia e psicose de IA
Paglen é uma espécie de especialista em operações psicológicas: grande parte de seu trabalho se concentrou em fotografar programas governamentais secretos destinados a fabricar ilusões para preservar segredos de Estado.
No livro, por exemplo, ele conta a história de Richard Doty, um ex-agente de inteligência da Força Aérea que, enquanto estacionado na Base Aérea de Kirtland, no Novo México, nas décadas de 1970 e 1980, foi responsável por plantar informações de bandeira falsa sobre OVNIs e extraterrestres nas mentes de jornalistas bisbilhoteiros e outros cujo trabalho ameaçava expor segredos militares.
A genialidade de Doty, argumenta Paglen, resultou de sua capacidade de reificar as crenças pré-existentes de seus alvos sobre alienígenas e OVNIs, em vez de tentar plantar crenças completamente novas. Um fotógrafo desonesto que acreditasse que as luzes que through acima da Base Aérea de Kirtland não pertenciam a um novo avião espião militar, mas a uma nave espacial alienígena, por exemplo, poderia ser facilmente manipulado, através de alguns documentos adulterados, para se tornar inabalavelmente convencido de que o que estava a ver não period, de facto, desta Terra (preservando assim o segredo do avião espião).
Os mágicos de palco exploram um princípio semelhante, de acordo com Paglen. Aproveitando o facto de os nossos sistemas perceptivos terem sido treinados ao longo da vida para esperar que os objectos cumpram as leis da física, os mágicos podem injectar ilusões subtis que subvertem as nossas expectativas e nos fazem acreditar no que sabemos, intuitivamente, ser impossível.
Para qualquer pessoa que esteja prestando atenção ao fenômeno amplamente conhecido como “psicose da IA”, tudo isso pode parecer acquainted. Na recente cobertura mediática, a frase casual “psicose da IA” tem sido usada para descrever casos em que os chatbots reflectem recursivamente as visões do mundo preexistentes dos utilizadores, até que essa visão do mundo – por mais delirante que possa parecer para o resto de nós – comece a tornar-se indistinguível da própria realidade. E é exatamente esse o ponto de Paglen: os botões psicológicos que os psicooperadores como Doty e os mágicos de palco sabem explorar estão agora a ser pressionados todos os dias, e a um nível muito mais personalizado, pelas legiões de algoritmos que estão a ser entrelaçados no tecido da nossa vida quotidiana.
Chatbots de IA como o ChatGPT estão “falando com você ou criando texto para você de uma forma semelhante à que outro ser humano faria”, disse Paglen ao Gizmodo. “Há uma espécie de magia nisso.” Ele também salienta que mesmo as empresas tecnológicas que constroem estas ferramentas não compreendem completamente como chegam aos seus resultados, conferindo-lhes ainda um ar de autoridade sobrenatural.
Mas há uma diferença crítica entre as operações psicológicas de antigamente e as de hoje. Enquanto as operações psicológicas convencionais foram ostensivamente executadas por seres humanos em busca de algum tipo de interesse humano, os sistemas de IA que agora remodelam as nossas percepções são movidos pela lógica muito mais obscura do “engajamento”. Os algoritmos que cuidam dos nossos feeds de redes sociais e determinam quais anúncios vemos on-line são projetados para prender nossa atenção pelo maior tempo possível. Para Paglen, isto aponta para o que ele considera ser uma mudança profunda na nossa relação com os meios de comunicação:
“As imagens que você vê estão evoluindo em resposta à forma como você as olha”, ele me disse. “Você está olhando para eles, [and] eles estão olhando para você.
Privacidade é resistência
Para muitas pessoas, a IA está a tornar-se cada vez menos opcional. Empresas de tecnologia como Microsoft, Google e Apple estão incorporando a tecnologia nos serviços e dispositivos dos quais confiamos todos os dias, e é cada vez mais raro que alguém dê uma espiada nas redes sociais e não veja algum tipo de mídia gerada por IA. Tudo está acontecendo tão rapidamente que um sentimento semiconsciente de chicotada cultural é completamente compreensível. Grande parte do conteúdo que vemos on-line hoje foi selecionado e servido por algoritmos que foram construídos com uma capacidade sobre-humana de capturar e manter a sua atenção. Cada clique, curtida e visualização aprimora essa capacidade um pouco mais.
Paglen levanta mais perguntas do que respostas sobre o que tudo isso significa para o futuro da humanidade, e acho que esse é o ponto. Como a maçã de Magritte (ou não-maçã), Como ver como uma máquina celebra a natureza ambígua da percepção humana – “os deslizamentos entre a representação e a realidade”, como Paglen coloca no livro – contrastando-a com a mecânica industrializada e orientada para o lucro subjacente à visão mecânica.
Como sugere o título do livro, Paglen argumenta que, para continuarmos a ser os donos do nosso destino, todos devemos aprender como os algoritmos representam a realidade. Ele também diz que numa época em que as empresas de tecnologia tentam extrair dados nossos mesmo quando estamos dormindo, devemos parar de pensar na privacidade como algo dado como garantido e, em vez disso, transformá-la numa prática deliberada, tal como você pode fazer um esforço para meditar ou ir à academia diariamente: “um deve criar ineficiências deliberadas e esferas de vida afastadas do mercado e das predações políticas”, escreve ele.
A alternativa é um futuro em que praticamente todos os momentos das nossas vidas sejam monitorizados por algoritmos e transformados numa oportunidade de extracção de dados: “a securitização e comercialização de literalmente tudo”, disse-me Paglen. “Seu sono, sua direção, seu modo de assistir televisão… qualquer coisa que você possa imaginar como sendo transformada em uma mercadoria. E acho que isso acontece às custas da vida, honestamente.”
