- La posibilidad de generar texto a video entusiasma al mercado de las Cripto , y los tokens de IA aumentaron cuando OpenAI presentó por primera vez una demostración de Sora.
- Pero para que esto se generalice, la potencia de cálculo será asombrosa. Se necesitarán más GPU H100 de nivel de servidor de las que Nvidia produce en un año, o las que sus clientes más importantes ejecutan colectivamente en sus centros de datos.
¿Cuántas unidades de procesamiento de gráficos (GPU) se necesitarán para generalizar la generación de texto a vídeo? Cientos de miles, y más de los que utilizan actualmente Microsoft {{MSFT}}, Meta {{META}} y Google {{GOOG}} combinados.
La primera demostración del generador de texto a video de OpenAI, Sora, sorprendió al mundo, y este renovado interés en los tokens de Inteligencia Artificial (IA), muchos de ellos surgieron después de la demostración.
En las semanas siguientes, surgieron muchos proyectos de Cripto IA, que también prometían generar texto a vídeo y texto a imagen, y la categoría de tokens de IA ahora tiene una capitalización de mercado de 25 mil millones de dólares , según datos de CoinGecko.
Detrás de la promesa de los videos generados por IA hay ejércitos de unidades de procesamiento de gráficos (GPU), procesadores como Nvidia {{NVDA}} y AMD {{AMD}}, que hacen posible la revolución de la IA gracias a su capacidad de computación. grandes volúmenes de datos.
Pero, ¿cuántas GPU se necesitarán para que el vídeo generado por IA sea algo común? Más de lo que las grandes empresas tecnológicas tenían en su arsenal en 2023.
Un ejército de 720.000 GPU Nvidia H100
Un informe de investigación reciente de Factorial Funds estima que se necesitan 720.000 GPU Nvidia H100 de alta gama para respaldar a la comunidad de creadores de TikTok y YouTube.
Sora, escribe Factorial Funds, requiere hasta 10.500 GPU potentes durante un mes para entrenarse y puede generar sólo unos 5 minutos de vídeo por hora por GPU para inferencia.
Como lo demuestra el gráfico anterior, entrenar esto requiere una potencia de cálculo significativamente mayor que GPT4 o la generación de imágenes fijas.
Con una adopción generalizada, la inferencia superará la capacitación en el uso de la computación. Esto significa que a medida que más personas y empresas comiencen a utilizar modelos de IA como Sora para generar videos, la potencia de la computadora necesaria para crear nuevos videos (inferencia) será mayor que la potencia necesaria para entrenar el modelo de IA inicialmente.
Para poner las cosas en perspectiva, Nvidia envió 550.000 GPU H100 en 2023.
Los datos de Statista muestran que los doce clientes más grandes que utilizan las GPU H100 de Nvidia tienen en conjunto 650.000 tarjetas, y los dos más grandes, Meta y Microsoft, tienen 300.000 entre ellos.
Suponiendo un coste de 30.000 dólares por tarjeta, se necesitarían 21.600 millones de dólares para hacer realidad los sueños de Sora de convertir texto a vídeo generado por IA, que es casi la capitalización total del mercado de tokens de IA en este momento.
Eso si puedes adquirir físicamente todas las GPU para hacerlo.
Nvidia no es el único juego que existe
Si bien Nvidia es sinónimo de la revolución de la IA, es importante recordar que no es el único juego que existe.
Su eterno rival en chips, AMD, fabrica productos de la competencia, y los inversores también han recompensado generosamente a la compañía, elevando sus acciones del rango de 2 dólares en el otoño de 2012 a más de 175 dólares en la actualidad.
También existen otras formas de subcontratar potencia informática a granjas de GPU. Render (RNDR) ofrece computación GPU distribuida, al igual que Akash Network (AKT). Pero la mayoría de las GPU en estas redes son GPU para juegos de venta minorista que son significativamente menos potentes que la H100 de servidor de Nvidia o la competencia de AMD.
De todos modos, la promesa de texto a video, que prometen Sora y otros protocolos, requerirá una mejora hercúlea del hardware. Si bien es una premisa intrigante y podría revolucionar el flujo de trabajo creativo de Hollywood, no espere que se convierta en algo común en el corto plazo.
Necesitaremos más chips.