✨︎ Resumen (TL;DR):
- Un estudio de KAIST revela el enorme impacto energético de los sistemas de IA que operan de manera autónoma.
- Resolver una sola tarea compleja mediante un agente de IA consume un promedio de 348.41 vatios-hora.
- Si su uso se masifica, la demanda eléctrica de los centros de datos globales podría absorber el equivalente a la mitad del consumo de Estados Unidos.
Un estudio del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) reveló que los agentes de IA consumen hasta 136.5 veces más electricidad por consulta que los chatbots de inteligencia artificial tradicionales. Esta diferencia de consumo amenaza con saturar las redes eléctricas mundiales a medida que estas herramientas ganen adopción.
Los agentes de IA son sistemas autónomos de software que planifican y ejecutan tareas complejas de múltiples pasos, como gestionar presupuestos o reservar un viaje, a diferencia de los chatbots convencionales que solo responden preguntas directas y detienen su ejecución.
Para lograr esta autonomía, el sistema realiza bucles continuos de procesamiento dentro de su modelo de lenguaje, realiza búsquedas en la web, procesa cálculos y emite comandos por su cuenta.
La investigación, dirigida por el profesor de KAIST Rhu Min-soo, midió el consumo energético utilizando un modelo de lenguaje de 70 mil millones de parámetros, un tamaño equivalente al de los servicios comerciales actuales.
Los resultados arrojaron que resolver una sola consulta compleja a través de un agente requiere un promedio de 348.41 vatios-hora (Wh) de electricidad.
Al evaluar frameworks específicos sobre el modelo Llama-3.1-Instruct 70B de Meta, los científicos detectaron que el sistema Reflexion multiplicó por 136.5 el uso de energía de la GPU en comparación con el chatbot de un solo turno. Por otro lado, el framework LATS consumió 62.1 veces más energía que la base de referencia.
El costo oculto del procesamiento autónomo
El estudio identificó otros cuellos de botella técnicos. Las consultas de estos agentes tardan hasta 153.7 veces más tiempo en procesarse que las respuestas de un chatbot normal.
Además, los costosos microchips de procesamiento gráfico (GPU) permanecen inactivos más del 50% del tiempo. Las tarjetas de video desperdician electricidad en espera de que las herramientas externas y los sitios web respondan a sus solicitudes.
La mayor preocupación de los investigadores radica en la escala del consumo a futuro. Si el uso de los agentes de IA escala a un promedio de 13,700 millones de solicitudes diarias a nivel global, la demanda eléctrica de los centros de datos podría alcanzar los 199 gigavatios (GW).
Esta cantidad representa aproximadamente la mitad del consumo promedio de electricidad de todo Estados Unidos.
Un reto de infraestructura para la industria tecnológica
Para dimensionar la crisis, los centros de datos en Estados Unidos consumieron alrededor de 176 teravatios-hora (TWh) en 2023, lo que representó el 4.4% del consumo eléctrico de ese país, según datos del Laboratorio Nacional Lawrence Berkeley.
Aunque la Agencia Internacional de la Energía estima que el consumo mundial de los centros de datos se duplicará a 945 TWh para 2030, el análisis de KAIST advierte que los agentes de IA podrían acelerar esta demanda muy por encima de las previsiones oficiales.
Ante este escenario, Rhu Min-soo aclaró que la industria tecnológica no resolverá el problema únicamente mediante la optimización de software. El especialista urgió a realizar un rediseño profundo desde el origen, que abarque los modelos de IA, los microchips y la infraestructura eléctrica de los centros de datos para soportar la carga de trabajo que viene en camino.
