La tecnología autónoma podría ejecutar operaciones sin supervisión humana, aumentando el riesgo de colapso del mercado, advierten funcionarios del Reino Unido
Los agentes de IA que pueden tomar decisiones y realizar transacciones de forma independiente pronto podrían operar en todo el sistema financiero, advirtió el Banco de Inglaterra, añadiendo que depender de la supervisión humana podría ya no ser realista.
La vicegobernadora del Banco de Inglaterra, Sarah Breeden, hizo la advertencia en el foro anual del Banco Central Europeo en Sintra el martes, mientras los principales desarrolladores pasan de los chatbots generativos de IA a los sistemas agentes.
A diferencia de las herramientas de IA generativa como ChatGPT, Gemini y Claude, que generan texto, imágenes y código en respuesta a indicaciones, la IA agente está diseñada para completar tareas de varios pasos con intervención humana limitada.
En lugar de limitarse a recomendar una inversión o sugerir una compra, un agente de IA podría ejecutar operaciones, realizar pagos, comprar bienes y reservar servicios sin necesidad de aprobación humana para cada acción.
Breeden dijo que es possible que el sistema financiero “evolucionar hacia uno que opere de manera más autónoma, a escala y velocidad”.
A medida que los agentes de IA se vuelven más capaces, «Es poco possible que sea realista confiar en un ser humano al tanto de todas las acciones del agente». dijo, argumentando que los marcos regulatorios actuales “no fueron construidos para contemplar” este escenario.
Breeden advirtió que los agentes de IA entrenados con datos similares y respondiendo a las mismas señales del mercado podrían exhibir un comportamiento gregario, tomando decisiones comerciales idénticas simultáneamente y amplificando la volatilidad del mercado durante períodos de estrés.
Los reguladores deberían examinar «Si se necesitan barreras de seguridad, análogas a los disyuntores o interruptores de apagado que limitarían o detendrían el comercio en todo el mercado si los modelos de IA defectuosos provocaran un colapso del mercado». dijo Breeden.
También instó a los bancos centrales a prepararse para cambios más frecuentes. “sorpresas tecnológicas” diciendo que los recientes avances en IA ya han superado las expectativas de los responsables políticos.
LEER MÁS:
OpenAI restringe el lanzamiento de ChatGPT a petición de Washington
Sus comentarios se producen en un momento en que los gobiernos tratan cada vez más la IA como una cuestión de seguridad nacional. Washington ha intervenido recientemente en el lanzamiento de algunos modelos avanzados de IA por motivos de ciberseguridad, mientras que los desarrolladores de IA siguen avanzando con sistemas agentes. Anthropic presentó esta semana Claude Sonnet 5, su último modelo diseñado para realizar tareas complejas en nombre de los usuarios.
El impulso hacia la IA agente también ha llegado al Pentágono. La semana pasada, presentó agentes de inteligencia synthetic diseñados para analizar continuamente inteligencia y generar rápidamente opciones de objetivos para los comandantes, al tiempo que enfatiza que los humanos conservarán la autoridad closing en la toma de decisiones.
Puedes compartir esta historia en las redes sociales:
