Un trío de veteranos de Google y Meta ha asegurado 100 millones de dólares en financiación para abordar un cuello de botella crítico en la computación de IA que deja inactivas incluso a las chips más potentes. La startup Majestic Labs AI está desarrollando una nueva arquitectura de servidores diseñada para romper el "muro de la memoria" (memory wall), un problema que asola a los centros de datos y desperdicia miles de millones en hardware de alto rendimiento de fabricantes como Nvidia.
La misión de la empresa es rediseñar el flujo de datos dentro de los servidores para mantener el ritmo del voraz apetito de los modelos de IA modernos. "Los enormes modelos de IA están desbordando los servidores y dejando inactivas a las chips de alta potencia", afirmaron los fundadores, describiendo un problema del que fueron testigos de primera mano mientras desarrollaban silicio personalizado en Google (Alphabet) y Meta Platforms.
Majestic Labs AI fue fundada por Ofer Shacham, Masumi Reynders y Sha Rabii, quienes anteriormente trabajaron en las chips para centros de datos de Google y más tarde formaron el equipo de silicio personalizado en Meta Reality Labs. Su ronda de financiación de 100 millones de dólares, anunciada en noviembre, cuenta con el respaldo de Bow Wave Capital, Lux Capital y Grove, entre otros.
La inversión pone de relieve un desafío crítico para toda la industria de la IA. A medida que los modelos de IA crecen en tamaño y complejidad, el coste de ejecutarlos aumenta, no solo en consumo de energía sino también en potencial desperdiciado. Resolver el cuello de botella de la memoria podría mejorar significativamente la eficiencia de la computación de IA, alterando potencialmente el panorama competitivo tanto para los diseñadores de chips como para los proveedores de servicios en la nube.
Un atasco de mil millones de dólares
El "muro de la memoria" es un problema persistente en la computación, pero se ha visto exacerbado por la escala de la IA actual. El problema no es la potencia de procesamiento de chips como la GPU H100 de Nvidia, sino la velocidad a la que se les pueden suministrar datos. Esto crea un atasco de tráfico donde el procesador espera los datos, desperdiciando ciclos y energía. Este problema es una manifestación práctica de la "maldición de la dimensionalidad", un término utilizado por físicos y matemáticos para describir cómo los costes computacionales pueden crecer exponencialmente a medida que se añaden más variables a un sistema.
Para las empresas que gastan miles de millones en infraestructura de IA, esta ineficiencia es un golpe directo a sus beneficios. Un servidor repleto de procesadores potentes pero infrautilizados representa un gasto de capital significativo con rendimientos decrecientes. Según una investigación del Instituto Flatiron, superar esta maldición de la dimensionalidad es uno de los motores clave para nuevos métodos computacionales centrados en los datos, incluyendo hardware especializado.
Una nueva arquitectura para la IA
Mientras competidores como Google con sus Unidades de Procesamiento Tensor (TPU) y Amazon con sus chips Trainium se han centrado en diseñar mejores procesadores, Majestic Labs está abordando el problema a nivel de diseño de servidores. El enfoque de la empresa, aunque no se ha detallado completamente, sugiere un rediseño holístico de cómo se integran la memoria y el procesamiento dentro de un rack de servidores, con el objetivo de eliminar los cuellos de botella que existen entre las chips.
Esta estrategia sitúa a la startup no solo frente a fabricantes de chips establecidos como Nvidia y AMD, sino también frente a los esfuerzos de hardware interno de los antiguos empleadores de sus fundadores, Google y Meta. Estos gigantes tecnológicos han invertido fuertemente en la creación de su propio silicio personalizado para optimizar las cargas de trabajo de IA y reducir su dependencia de terceros. El éxito de Majestic Labs dependerá de su capacidad para ofrecer una solución que no solo sea más eficiente, sino también ampliamente compatible con el diverso hardware y software utilizado en toda la industria.
Este artículo tiene únicamente fines informativos y no constituye asesoramiento de inversión.
