La creciente demanda de electricidad de la industria de la IA ya se ha convertido en una preocupación creciente para los gobiernos, los servicios públicos y las empresas de tecnología. pero un un nuevo estudio sugiere la próxima generación de inteligencia synthetic podría empeorar significativamente ese problema.
Investigadores del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) han publicado lo que describen como el primer análisis exhaustivo del coste energético de los agentes de IA: sistemas de IA capaces de razonar, planificar y completar tareas de forma autónoma. Sus hallazgos muestran que estos sistemas pueden consumir hasta 136,5 veces más energía por consulta que los modelos de IA generativa convencionales, lo que plantea nuevas preguntas sobre si la infraestructura que respalda la IA del mañana está lista para lo que viene.
Una IA más inteligente conlleva una factura de electricidad mucho más elevada
A diferencia de los chatbots tradicionales que generan una única respuesta a un mensaje, los agentes de IA llaman repetidamente a grandes modelos de lenguaje (LLM), navegan por la net, ejecutan código, usan calculadoras e interactúan con software program externo mientras resuelven tareas complejas. Si bien estas capacidades las hacen significativamente más útiles para la investigación, la programación y la automatización del lugar de trabajo, también requieren muchos más recursos informáticos.
Dirigido por el profesor Minsoo Rhu de la Escuela de Ingeniería Eléctrica de KAIST, el equipo de investigación trató a los agentes de IA como una nueva categoría de carga de trabajo del centro de datos. Midió sus requisitos computacionales en escenarios del mundo actual.
Los resultados fueron sorprendentes. Los investigadores descubrieron que los agentes de IA pueden aumentar la latencia de respuesta hasta 153,7 veces en comparación con el razonamiento de cadena de pensamiento convencional. Lo más sorprendente es que las costosas GPU que alimentan estas cargas de trabajo permanecieron inactivas hasta el 54,5 por ciento del tiempo de ejecución mientras esperaban que las herramientas externas finalizaran sus tareas. En otras palabras, el {hardware} continúa consumiendo energía incluso cuando no está realizando cálculos de IA de forma activa.
El uso de energía aumenta de manera igualmente espectacular. Ejecutar un agente de IA impulsado por un modelo de lenguaje de 70 mil millones de parámetros, related en tamaño a los sistemas de IA comerciales actuales, requirió un promedio de 348,41 vatios-hora por consulta. Esto es aproximadamente 136,5 veces más que un chatbot convencional que responde una pregunta sencilla.
Para comprender las implicaciones más amplias, el equipo modeló un futuro en el que los agentes de IA manejan 13,7 mil millones de solicitudes por día, aproximadamente el equivalente al tráfico de búsqueda diario de Google. En ese escenario, la infraestructura de IA requeriría aproximadamente 198,9 gigavatios de electricidad, casi la mitad de la energía promedio consumida en todo Estados Unidos y mucho más allá de la capacidad de los centros de datos de IA actuales.
El costo oculto de la inteligencia
Los hallazgos llegan a medida que empresas como OpenAI, Google, Microsoft, Anthropic y otras invierten cada vez más en IA agente, posicionándola como el próximo gran salto más allá de los chatbots conversacionales. Pero el estudio sostiene que mejorar los modelos de IA por sí solo ya no es suficiente. El progreso futuro dependerá igualmente de semiconductores más eficientes, una mejor utilización de la GPU, un diseño de centros de datos más inteligente y una infraestructura energética ampliada.
El profesor Rhu cube que la investigación demuestra que la competitividad de la IA está pasando de construir una “IA más inteligente” a construir una IA más eficiente. El equipo cree que el futuro desarrollo de la IA requerirá un enfoque de codiseño, optimizando modelos, chips de IA, servidores y sistemas de energía juntos para mantener los costos operativos manejables y garantizar que la IA siga siendo sostenible a escala.
El artículo, titulado “El costo del razonamiento dinámico: desmitificación de los agentes de IA y escalamiento en el tiempo de prueba desde una perspectiva de infraestructura de IA”, se presentó en el Simposio internacional IEEE sobre arquitectura informática de alto rendimiento (HPCA) a principios de este año. Los investigadores también han publicado sus puntos de referencia de agentes de IA, con la esperanza de fomentar más trabajos para reducir uno de los costos de más rápido crecimiento (y a menudo pasado por alto) de la IA: la electricidad.
