Nvidia Estrena la Arquitectura STX, Impulsando el Rendimiento de la IA en 5 Veces
El 16 de marzo, Nvidia anunció su arquitectura de referencia BlueField-4 STX, un nuevo diseño destinado a reinventar la pila de almacenamiento para la inteligencia artificial. La arquitectura modular permite a los proveedores de la nube y de IA implementar una infraestructura de almacenamiento acelerada que puede manejar la memoria de contexto masiva requerida por los agentes de IA sofisticados. La compañía afirma que el nuevo sistema puede ofrecer hasta cinco veces el rendimiento de tokens y cuatro veces la eficiencia energética del almacenamiento tradicional basado en CPU, abordando directamente los cuellos de botella de rendimiento que pueden ralentizar la inferencia de IA y subutilizar las costosas GPU.
Los centros de datos tradicionales tienen dificultades con la capacidad de respuesta necesaria para la IA con agentes, que requiere acceso en tiempo real a grandes conjuntos de datos coherentes. La arquitectura STX mantiene estos datos cerca y accesibles a escala, permitiendo que los sistemas de IA funcionen con mayor velocidad y capacidad de respuesta.
La IA con agentes está redefiniendo lo que el software puede hacer, y la infraestructura informática que la respalda debe reinventarse para seguir el ritmo. NVIDIA STX reinventa la pila de almacenamiento, proporcionando una base modular para la infraestructura nativa de IA que mantiene las fábricas de IA operando a su máximo rendimiento.
— Jensen Huang, fundador y CEO de NVIDIA.
Amplio Ecosistema de Gigantes Tecnológicos Adopta el Nuevo Estándar
La arquitectura STX se lanzó con un apoyo significativo de toda la industria tecnológica. Los principales laboratorios de IA y proveedores de servicios en la nube, incluidos CoreWeave, Crusoe, Oracle Cloud Infrastructure (OCI), Mistral AI y Vultr, ya se han comprometido a adoptar la plataforma para sus necesidades de almacenamiento de memoria contextual. Esta amplia adopción inicial señala una fuerte confianza del mercado en la capacidad del nuevo estándar para resolver desafíos críticos de la infraestructura de IA.
En cuanto al hardware, una formidable coalición de proveedores y fabricantes de almacenamiento está construyendo sistemas basados en los nuevos diseños de referencia. Los socios incluyen líderes de la industria como Dell Technologies, Hewlett Packard Enterprise, IBM, NetApp, Supermicro y VAST Data. Nvidia confirmó que las plataformas basadas en la arquitectura STX estarán disponibles a través de estos socios en la segunda mitad de este año, proporcionando un cronograma claro para la adopción empresarial.
STX Crea Nueva Demanda de Hardware para Centros de Datos
La introducción de la arquitectura STX está a punto de desencadenar un nuevo ciclo de actualización de hardware dentro de los centros de datos. El énfasis de la plataforma en el almacenamiento acelerado de alta densidad requiere nuevos diseños de servidores y componentes. Subrayando esta tendencia, el socio de fabricación Compal ya ha mostrado un servidor de IA de alta densidad, el SG231-2-L1, construido sobre la plataforma NVIDIA HGX Rubin relacionada, que integra la DPU BlueField-4. Esto demuestra que los fabricantes de hardware están preparados para los mayores requisitos de potencia y densidad de la IA de próxima generación.
Este cambio arquitectónico también impulsa la demanda de los componentes subyacentes que permiten este nivel de rendimiento. Se espera que la necesidad de una memoria de contexto más grande y más rápida aumente directamente la demanda de almacenamiento NAND de alta velocidad. El alejamiento del almacenamiento de propósito general hacia una memoria de IA especializada y de alto rendimiento crea una oportunidad significativa para los proveedores de componentes posicionados para servir al mercado en evolución de los centros de datos.