(https://i.postimg.cc/JhM8BL46/IA.png) (https://postimages.org/)
El director ejecutivo de IBM, Arvind Krishna, aprovechó su participación en el podcast Decoder de The Verge para cuestionar si la inversión de capital actual en la búsqueda de la IA general (IAG) podrá amortizarse alguna vez. Krishna afirmó que las cifras actuales para la construcción y el desarrollo de grandes centros de datos de IA sitúan a la industria en una trayectoria en la que aproximadamente 8 billones de dólares de compromisos acumulados requerirían alrededor de 800 000 millones de dólares de beneficios anuales simplemente para cubrir el coste del capital.
Esta afirmación se basaba directamente en suposiciones sobre el hardware actual, su depreciación y el consumo energético, más que en previsiones sólidas a largo plazo. Sin embargo, llega en un momento en el que varias empresas se han superado mutuamente con proyectos de infraestructura plurianuales sin precedentes.
Krishna estimó que dotar una instalación de IA de un gigavatio con hardware informático requiere alrededor de 80 000 millones de dólares. El problema es que las implementaciones de esta escala están pasando de la fase de diseño a la de planificación práctica, y las principales empresas de IA proponen implementaciones de decenas de gigavatios, y en algunos casos, de más de 100 gigavatios, cada una. Krishna dijo que, en conjunto, los anuncios públicos y privados apuntan a aproximadamente cien gigavatios de capacidad actualmente planificada dedicada a cargas de trabajo de clase AGI.
Con 80 mil millones de dólares por gigavatio, el total alcanza los 8 billones de dólares. Vinculó estas cifras a los ciclos de actualización de cinco años comunes en las flotas de aceleradores, argumentando que la necesidad de reemplazar la mayor parte del hardware dentro de esos centros de datos dentro de ese período crea un efecto multiplicador en las necesidades de inversión de capital a largo plazo. También situó la probabilidad de que las arquitecturas actuales centradas en LLM alcancen la AGI entre el 0 % y el 1 % sin nuevas formas de integración del conocimiento.
Krishna señaló la depreciación como la parte del cálculo menos apreciada por los inversores. Los aceleradores de IA suelen amortizarse a lo largo de cinco años, y argumentó que el ritmo de los cambios arquitectónicos implica que las flotas deben reemplazarse en lugar de extenderse. "Hay que usarlo todo en cinco años porque, llegado ese momento, hay que desecharlo y reabastecerlo", afirmó.
Las críticas recientes del mercado financiero se han centrado en preocupaciones similares. El inversor Michael Burry, por ejemplo, ha cuestionado si los hiperescaladores pueden seguir ampliando las estimaciones de vida útil si las mejoras de rendimiento y el tamaño de los modelos obligan a retirar aceleradamente las GPU más antiguas. El director de IBM afirmó que, en última instancia, espera que las herramientas de IA generativa en su forma actual impulsen sustancialmente la productividad empresarial, pero que le preocupa la relación entre la escala física de la infraestructura de IA de próxima generación y la economía necesaria para respaldarla. Por lo tanto, las empresas que apuestan por estos enormes campus de varios gigavatios y programas de actualización abreviados deben demostrar una rentabilidad que se corresponda con la inversión de capital sin precedentes que Krishna describió.
Fuente:
Tom´s Hardware
https://www.tomshardware.com/tech-industry/ibm-ceo-warns-trillion-dollar-ai-boom-unsustainable-at-current-infrastructure-costs