NVIDIA plantea una nueva categoría de procesador: los CPU de máximo rendimiento de un solo hilo a escala, pensados para la era de la IA agéntica. La idea es que, a lo largo de la creación y el despliegue de un sistema de agentes, el CPU está en el camino crítico del razonamiento, el tiempo de respuesta y el aprendizaje.
El CPU es el procesador que ejecuta lo que el modelo ordena: llamadas a herramientas, ejecución de código, procesamiento de datos, manejo de caché KV y análisis de resultados. En una fábrica de IA, la utilización de la GPU es el recurso más valioso del centro de datos, así que cualquier espera por una tarea del CPU limita los ingresos o, peor, deja a la GPU ociosa esperando.
¿Por qué el CPU de un solo hilo importa para los agentes?
Según NVIDIA, los CPU de centro de datos actuales no fueron diseñados para la velocidad a escala. La nube empujó a los fabricantes a subir la cantidad de núcleos y bajar costos, sacrificando el rendimiento por núcleo. El paso a arquitecturas de chiplets abarató aún más, pero creó un "impuesto de chiplet" donde los núcleos ya no acceden al rendimiento completo de memoria del chip.
El problema es que un agente no se detiene tras una sola petición, sino que actúa en un bucle. El modelo razona el siguiente paso, el CPU ejecuta el trabajo alrededor del modelo, el resultado vuelve y el modelo decide qué hacer después. Como cada acción depende del resultado anterior, agregar más núcleos no acorta el tiempo de cada paso. La velocidad por núcleo determina qué tan rápido avanza el bucle.
¿Qué cifras ofrece NVIDIA Vera?
En el centro de Vera está Olympus, el núcleo propio de NVIDIA, que según la compañía entrega 50% más instrucciones por ciclo que el núcleo Grace. Esto pesa porque muchos pasos de un agente son secuenciales: una llamada a herramienta, una ejecución de código o un procesamiento de datos debe terminar antes de que el modelo use el resultado.
Vera combina esos núcleos con hasta 1,2 TB/s de ancho de banda de memoria LPDDR5X con menos de 40 vatios de consumo de memoria, además de un die de cómputo monolítico con 3,4 TB/s de ancho de banda entre núcleos, lo que la empresa describe como tres veces más que cualquier otro CPU de centro de datos. Con eso, sus 88 núcleos acceden al rendimiento completo de memoria sin cuellos de botella.
En cargas que representan ejecución agéntica, NVIDIA afirma que Vera entrega 1,8 veces el rendimiento sostenido por núcleo del x86. Perplexity la probó en su trabajo diario: clonando un repositorio y corriendo su suite de pruebas en sandboxes, Vera completó la tarea cerca de 1,5 veces más rápido que x86 e inició sandboxes concurrentes hasta 1,9 veces más rápido. La empresa evalúa desplegarla en su próximo sistema de producción.
En cargas de datos, socios midieron analítica SQL a gran escala 3 veces más rápida con Starburst y hasta 6 veces menos latencia en streaming en tiempo real con Redpanda, ambos contra CPU x86 de servidor de referencia.
Un solo CPU y un roadmap
NVIDIA sostiene que un mismo Vera cubre todo el rango de trabajo agéntico, desde correr herramientas y sandboxes hasta procesar datos y entrenar el siguiente modelo con aprendizaje por refuerzo. Además, es el mismo CPU que hospeda a las GPU en NVIDIA Vera Rubin y que impulsa el procesador de almacenamiento BlueField-4, de modo que toda la fábrica de IA corre sobre una arquitectura y una cadena de herramientas.
La compañía ya adelanta el siguiente paso: el CPU Rosa con el núcleo Rigel, un diseño Arm v9.2 que promete mayor rendimiento por núcleo que Olympus manteniendo la misma huella de silicio, con mejor entrega de instrucciones, mayor caché L2 y un manejo de memoria más eficiente.
