La energía de una consulta de IA cae 33×: número unoí lo logra Google en sus centros de datos

El uso de la electricidad en Estados Unidos ha dado un salto significativo en los últimos meses, con un aumento del 4% en comparación con el mismo periodo del año anterior. Este incremento, que rompe con décadas de estabilidad, se debe en gran parte a la expansión de los centros de datos impulsados por la creciente demanda de inteligencia artificial.

Este aumento en la demanda ha llevado a un mayor consumo de energía, siendo el carbón una de las principales fuentes para cubrir esta necesidad. Según datos recientes, la cuota de consumo de carbón en la generación de energía eléctrica ha aumentado en un 20%, lo que ha generado preocupación en cuanto al impacto ambiental de la inteligencia artificial.

Google, como una de las empresas líderes en tecnología, ha sido consciente de esta situación y recientemente ha publicado un análisis minucioso que arroja luz sobre lo que sucede “dentro de sus puertas”. ¿Qué han medido y por qué es importante?

A diferencia de otros estudios académicos que suelen carecer de datos operativos reales, Google ha logrado medir con precisión aspectos como la impuesto de ocupación del hardware, la fracción de peticiones relacionadas con la inteligencia artificial, el consumo de energía de soporte, entre otros. Esto le ha permitido obtener un análisis completo y minucioso del impacto ambiental que genera la inteligencia artificial en sus operaciones.

En su informe, Google rastreó el consumo de energía de su hardware, incluyendo las unidades de procesamiento central y los aceleradores de inteligencia artificial, tanto en su uso activo como en reposo. También tuvo en enumeración el consumo de todo el centro de datos, así como el uso de agua y las emisiones de carbono asociadas tanto a la electricidad (alcance 2) como al hardware y la construcción (alcance 3).

Es importante señalar que el análisis de Google incluye todos los aspectos relevantes, pero también se han desidioso fuera algunos elementos como el impacto de la red, el consumo de los dispositivos de los usuarios (que puede variar mucho) y el entrenamiento de los modelos de inteligencia artificial. Aunque Google podría haber estimado estos datos, decidió centrarse en los aspectos más relevantes para su operación y el impacto que genera en el medio ambiente.

La metodología utilizada por Google consistió en seguir durante 24 horas las peticiones y el hardware utilizado para atenderlas, incluyendo también los momentos de inactividad. Con esto, obtuvieron una medida de energía por petición para cada modelo utilizado y, en promedio, utilizaron la consulta mediana como referencia para determinar el impacto ambiental típico de cada día.

Los resultados obtenidos por Google son reveladores. Mientras que una petición de texto consume relativamente poca energía (0,24 Wh), la gran cantidad de peticiones que se realizan a diario hace que el impacto sea significativo. A modo de comparación, esta cantidad de energía equivale a unos 9 segundos de televisión.

Sin embargo, lo que preocupa realmente es el volumen de peticiones relacionadas con la inteligencia artificial, ya que Google realiza una operación de IA en cada búsqueda que se realiza en su plataforma. Aunque el impacto individual es pequeño, el aumento significativo de la demanda en los últimos años ha generado una carga de cómputo importante para la empresa.

Según el informe de Google, la mayor parte del consumo de energía al atender peticiones de IA está relacionado con el uso de aceleradores personalizados, seguido por el uso de CPU y RAM. También se identificó que un 10% del consumo viene de las máquinas inactivas y otro 10% se debe a la sobrecarga del centro de datos. Esto pone de manifiesto la importancia de optimizar tanto el hardware como el software para reducir el consumo de energía.

Pero no todas son malas noticias. En los últimos