A inteligência synthetic poderá um dia sobrecarregar a cognição humana, levando a avanços significativos na ciência, tecnologia e outros campos. Também poderia nos tornar monótonos, novos acadêmicos pesquisar sugere.
Isso ocorre porque os chamados grandes modelos de linguagem que alimentam os aplicativos de IA geralmente produzem informações que são previsíveis e normativas para a população como um todo, reduzindo a complexidade da vida a uma cobertura insípida de ideias diluídas.
“Os LLMs prevêem a próxima palavra mais provável em uma frase ou evento em uma sequência e, por definição, isso é a média”, disse Sandra Matz, professora da Columbia Enterprise Faculty, autora do estudo, à CBS Information. “Ele informa qual é a coisa mais provável de aparecer se você pedir uma recomendação de filme ou que cor pintar sua parede. Ele homogeneiza as decisões e todos obtemos o mesmo resultado.”
Para chegar às suas conclusões, Matz e os coautores do seu estudo analisaram mais de 110.000 decisões do mundo actual tomadas por 1.000 pessoas e compararam-nas com escolhas feitas por agentes de IA genéricos e personalizados. Eles também usaram dados de um aplicativo do Fb chamado projeto myPersonality, que realizou testes de personalidade em usuários que compartilharam seus perfis no Fb para fins de pesquisa.
“IA odeia risco”
Para os indivíduos, confiar na IA para tomar uma decisão – por exemplo, sobre onde ir nas férias ou que sapatos comprar – orienta as pessoas para as escolhas mais comuns e para longe de comportamentos e preferências mais distintos, ou mesmo peculiares, de acordo com Matz, um cientista social computacional com formação em psicologia e ciência da computação.
Na verdade, a IA restringe o que os usuários “exploram através de tópicos e afinidades psicológicas”, escreveu ela, acrescentando que “os LLMs jogam com segurança dentro das preferências do usuário”.
Em outras palavras, mesmo que um agente de IA saiba que seu usuário ocasionalmente toma uma decisão fora da caixa ou atípica sobre qualquer assunto, como o que comer no jantar, “os agentes LLM direcionam o comportamento para opções mais normativas e estreitam o alcance do que os indivíduos exploram”, acrescentou Matz.
“A IA odeia riscos porque o treinamos dessa forma”, disse Matz. “Ele quer mantê-lo na plataforma, então mostra o que você já gosta e não coisas fora do que você faz.”
Os aplicativos de IA não precisam funcionar dessa maneira, mas é assim que são programados para funcionar, acrescentou ela.
Para evitar que os agentes de IA diminuam a riqueza e a diversidade da experiência humana, Matz incentiva os desenvolvedores de tecnologia a criar uma opção de “modo de exploração” para usuários que desejam recomendações mais inesperadas e menos convencionais.
Isso ajudaria a garantir que “evitemos que nós mesmos, como indivíduos, nos tornemos chatos e que a cultura não se reduza a um único conjunto de preferências”, disse Matz.
