Etiqueta

#model optimizer

2 notas publicadas

NVIDIA cuantiza Nemotron 3 Ultra a NVFP4 con 5,9x más throughput

El equipo de NVIDIA reduce el checkpoint del modelo de 550B desde 1.121 GB en BF16 a 352 GB en NVFP4, con la técnica four-over-six que recupera 98,5% de la precisión sobre Blackwell.

NVIDIA Developerhace 3 días

NVIDIA Model Optimizer: cómo cuantizar CLIP en FP8

Receta paso a paso de post-training quantization con ModelOpt que lleva CLIP-ViT-L-14 de FP16 a FP8 sin perder calidad en clasificación zero-shot ni retrieval.

NVIDIA Developer9 may

Etiquetas relacionadas

Otros temas que aparecen junto a #model optimizer en nuestra cobertura editorial.

#Nvidia2 #cuantizacion2 #clip1 #Fp81 #vision-language1 #nemotron1 #Blackwell1 #nvfp41