A tecnologia autônoma poderia executar negociações sem supervisão humana, aumentando o risco de colapsos do mercado, alertam autoridades do Reino Unido
Os agentes de IA que podem tomar decisões e realizar transações de forma independente poderão em breve operar em todo o sistema financeiro, alertou o Banco de Inglaterra, acrescentando que confiar na supervisão humana pode já não ser realista.
A vice-governadora do Banco de Inglaterra, Sarah Breeden, fez o alerta no fórum anual do Banco Central Europeu em Sintra, na terça-feira, à medida que os principais desenvolvedores mudam de chatbots de IA generativos para sistemas de agentes.
Ao contrário das ferramentas generativas de IA, como ChatGPT, Gemini e Claude, que geram texto, imagens e código em resposta a solicitações, a IA agentic é projetada para concluir tarefas de várias etapas com intervenção humana limitada.
Em vez de apenas recomendar um investimento ou sugerir uma compra, um agente de IA poderia executar negociações, fazer pagamentos, comprar bens e reservar serviços sem exigir aprovação humana para cada ação.
Breeden disse que o sistema financeiro provavelmente “evoluir para um que opere de forma mais autônoma, em escala e velocidade.”
À medida que os agentes de IA se tornam mais capazes, “é improvável que depender de um humano no circuito para todas as ações do agente seja realista”, disse ela, argumentando que os atuais quadros regulatórios “não foram construídos para contemplar” este cenário.
Breeden alertou que os agentes de IA treinados com dados semelhantes e que respondem aos mesmos sinais de mercado podem apresentar comportamento de manada, tomando decisões comerciais idênticas simultaneamente e amplificando a volatilidade do mercado durante períodos de estresse.
Os reguladores devem examinar “se são necessárias barreiras de proteção, análogas a disjuntores ou interruptores de interrupção que limitariam ou interromperiam a negociação em todo o mercado se modelos de IA defeituosos causassem o colapso do mercado”, Breeden disse.
Ela também instou os bancos centrais a se prepararem para operações mais frequentes “surpresas tecnológicas”, dizendo que os avanços recentes na IA já superaram as expectativas dos decisores políticos.
LEIA MAIS:
OpenAI restringe implementação do ChatGPT a pedido de Washington
As suas observações surgem num momento em que os governos tratam cada vez mais a IA como uma questão de segurança nacional. Washington interveio recentemente na implementação de alguns modelos avançados de IA por questões de segurança cibernética, enquanto os desenvolvedores de IA continuam a avançar com sistemas de agentes. A Anthropic revelou esta semana o Claude Sonnet 5, seu mais recente modelo projetado para realizar tarefas complexas em nome dos usuários.
O impulso em direção à IA agente também atingiu o Pentágono. Na semana passada, revelou agentes de IA concebidos para analisar continuamente a inteligência e gerar rapidamente opções de alvos para os comandantes, ao mesmo tempo que salientou que os humanos manterão a autoridade remaining na tomada de decisões.
Você pode compartilhar esta história nas redes sociais:
