Una sola IA consume mucha energía y eso preocupa

AXCESS · Junio 14, 2024, 08:58:51 PM

No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

¿Nos vamos a quedar sin electricidad para impulsar nuestro futuro basado en datos?

Las nuevas GPU de centros de datos más potentes de la actualidad para cargas de trabajo de IA pueden consumir hasta 700 vatios cada una. Con una utilización anual del 61%, eso representaría alrededor de 3.740.520 Wh o 3,74 MWh por año por GPU, lo que alimenta las preocupaciones sobre la disponibilidad de energía y los impactos ambientales, especialmente cuando nos alejamos y observamos la cantidad total de GPU vendidas solo el año pasado.

Nvidia vendió 3,76 millones de GPU para centros de datos el año pasado, lo que representa el 98% del mercado. Sumando el 2% restante de Intel, AMD y otros actores representará más de 3.836.000 GPU entregadas a servidores de datos en 2023.

Multiplique ese número por las entregas totales de GPU del centro de datos el año pasado y obtendrá 14.348,63 GWh de electricidad utilizada en un año.

Para poner esto en contexto, el hogar estadounidense promedio usa 10,791 kWh por año, lo que significa que las GPU de centros de datos vendidas el año pasado consumen la misma cantidad de energía que usan 1,3 millones de hogares anualmente.

Si miramos esto a nivel estatal, la Comisión de Energía de California informó que el estado produjo 203,257 GWh en 2022, lo que significa que las GPU de los centros de datos consumen alrededor del 7% de la producción anual del estado.

Sin embargo, debes recordar que estas son solo GPU de centros de datos. Los datos aquí no incluyen las CPU, los sistemas de refrigeración y otros equipos que los centros de datos necesitan para funcionar correctamente.

Por ejemplo, la mayoría de los RTX 4090 recomiendan una fuente de alimentación mínima de 850 vatios, y algunos requieren 1000 o incluso 1200 vatios. Si nos atenemos al mínimo, los servidores y centros de datos construidos el año pasado requieren más de 25 GWh al año. Estas cifras ni siquiera incluyen los centros de datos de 2022 y anteriores y no consideran los muchos más que entrarán en funcionamiento este año.

Los analistas de la industria han estimado que el mercado de GPU para centros de datos crecerá un 34,6% interanual hasta 2028, lo que significa que probablemente veremos más GPU para centros de datos en los próximos años. Además, se espera que la próxima generación de GPU AI de Nvidia consuma más energía que la actual H100 de 700 vatios.

Incluso si las computadoras de los centros de datos mantuvieran su consumo de energía en los próximos años (no lo harán), la demanda de energía para los centros de datos debería aumentar proporcionalmente con el crecimiento del mercado.

Este aumento sin precedentes de los centros de datos está generando preocupaciones sobre nuestra infraestructura energética. De hecho, el gobierno de Estados Unidos ya está en conversaciones con empresas de tecnología sobre sus demandas de electricidad mediante IA, especialmente porque estos nuevos centros de datos podrían ejercer una presión indebida sobre la red. El fundador de Meta, Mark Zuckerberg, incluso dice que la energía limitada limitará el crecimiento de la IA, especialmente porque Enerdata señaló que la producción mundial de energía solo aumentó un 2,5% anual en la última década.

Sin embargo, las empresas tecnológicas no son ajenas a esta cuestión. Microsoft, tradicionalmente una empresa de software, incluso está pensando en invertir en pequeños reactores nucleares modulares para sus centros de datos. Esto es especialmente importante ya que se asoció con OpenAI para construir una supercomputadora de IA de 100 mil millones de dólares, que definitivamente requeriría una tonelada de energía.

El auge de la IA en nuestra sociedad basada en datos significa que necesitamos mucha electricidad para satisfacer nuestras necesidades informáticas. Además, no debemos olvidar otras tecnologías próximas que también necesitan mucho jugo, como los vehículos eléctricos.

A menos que encontremos una manera de desarrollar chips (y motores) que entreguen más energía y al mismo tiempo consuman menos energía, probablemente tendremos que agregar más instalaciones de producción de energía y mejorar la infraestructura de soporte para entregarlas donde sea necesario.

Fuente:
Tom´s Hardware
No tienes permitido ver enlaces. Registrate o Entra a tu cuenta

Una sola IA consume mucha energía y eso preocupa

AXCESS

Junio 14, 2024, 08:58:51 PM