NVIDIA acaba de lanzar los módulos Jetson T2000 y T3000, presentados como opciones "mainstream" más pequeñas y de menor costo frente a los módulos Jetson T4000 y T5000 que la compañía introdujo el año pasado para aplicaciones de IA en el borde y robótica.
El Jetson Thor T3000 y su versión industrial IGX Thor T3000, que agrega seguridad funcional, entregan ambos hasta 865 TFLOPS FP4 de cómputo de IA. Integran una GPU NVIDIA Blackwell de 1536 núcleos, una CPU Arm Neoverse de ocho núcleos, 32 GB de memoria LPDDR5X con 273 GB/s de ancho de banda y conectividad de 25 GbE. El Jetson Thor T2000 entrega hasta 400 TFLOPS de rendimiento en IA, cuenta con una GPU Blackwell de 1024 núcleos, 16 GB de LPDDR5 con 137 GB/s de ancho de banda y red de 10 GbE. Ambos ocupan cerca de la mitad del tamaño de los módulos T4000 y T5000.
Comparativa de la familia Jetson Thor
Esta es una comparación preliminar entre los módulos Jetson Thor T2000, T3000, T4000 y T5000.
| Especificación | Jetson T2000 | Jetson T3000 | Jetson T4000 | Jetson T5000 |
|---|---|---|---|---|
| Rendimiento IA | 400 TFLOPS (FP4, sparse) | 865 TFLOPS (FP4, sparse) | 1200 TFLOPS (FP4, sparse) | 2070 TFLOPS (FP4, sparse) |
| GPU | Blackwell, 1024 núcleos | Blackwell, 1536 núcleos | Blackwell, 1536 núcleos, 64 Tensor Cores 5.a gen, MIG con 6 TPC | Blackwell, 2560 núcleos, 96 Tensor Cores 5.a gen, MIG con 10 TPC |
| CPU | Arm Neoverse-V3AE, 6 núcleos | Arm Neoverse-V3AE, 8 núcleos | Arm Neoverse-V3AE, 12 núcleos | Arm Neoverse-V3AE, 14 núcleos |
| Memoria | 16 GB LPDDR5X, 137 GB/s | 32 GB LPDDR5X 256 bits, 273 GB/s | 64 GB LPDDR5X 256 bits, 273 GB/s | 128 GB LPDDR5X 256 bits, 273 GB/s |
| Red | 2x 10 GbE | 25 GbE | 3x 25 GbE | 4x 25 GbE |
| Tamaño | 50 x 87 mm aprox. (mitad del T4000/T5000) | 50 x 87 mm aprox. | 100 x 87 mm, 699 pines | 100 x 87 mm, 699 pines |
| Consumo | Cerca de la mitad del T5000 (20 a 65 W aprox.) | 20 a 65 W aprox. | 40 a 75 W | 40 a 130 W |
Es preliminar porque, al momento de escribir este artículo, NVIDIA aún no publica las especificaciones completas de los nuevos módulos T2000 y T3000. En cambio, la información proviene del anuncio oficial y de las especificaciones de los próximos AAEON BOXER-8752AI y BOXER-8723AI, computadores embebidos sin ventilador basados en el T2000 y el T3000 respectivamente.
¿Qué rinde el T3000 frente al T5000?
Las cifras de TFLOPS son un dato, pero NVIDIA afirma que el T3000 logra un rendimiento de inferencia similar al T5000 en cargas multimodales, incluidos modelos de lenguaje (LLM), modelos de visión y lenguaje (VLM), modelos de visión, lenguaje y acción, y world foundation models. Según la aplicación, migrar al T3000 puede ayudar a reducir costos en medio de los altos precios de la memoria sin afectar el rendimiento de forma significativa.
En cualquier caso, esto significa que NVIDIA ahora cuenta con un portafolio escalable para IA en el borde y robótica, que va desde el Jetson Orin Nano de 70 TOPS hasta el Jetson T5000 de 2070 TOPS.
¿Cuándo llegan y cómo desarrollar?
No habrá un kit de desarrollo específico para los Jetson Thor T2000 y T3000: los desarrolladores pueden apoyarse en el kit de desarrollo Jetson AGX Thor para emular el rendimiento de los módulos T3000 y T2000. El T3000 tendrá soporte en el SDK Jetpack 7.2.1 que se libera a fin de mes, y el modo de emulación del T2000 llegaría en una versión posterior. Ambos módulos están programados para estar disponibles en el primer trimestre de 2027.
Junto con el anuncio de hardware, NVIDIA también liberó las Jetson agent skills, que los desarrolladores pueden usar para optimizar todo el stack de software y reducir el uso de memoria en cuestión de días. No es una reducción menor: empresas como UBTech, Agile Robots y Connect Tech habrían recortado hasta 15 GB de uso de memoria, lo que les permitió cambiarse al módulo Jetson AGX Orin de 32 GB en reemplazo de variantes más caras.
Otro lanzamiento de software es el modelo Cosmos 3 Edge de 4 mil millones de parámetros, diseñado para que los sistemas físicos puedan "ver el mundo, razonar sobre él en tiempo real, y predecir y generar acciones mediante inferencia en el dispositivo". Está disponible a través de la familia de world foundation models de código abierto NVIDIA Cosmos 3.
