Etiqueta

#inferencia ia

4 notas publicadas

TensorRT 11.0 escala inferencia IA multi-GPU con NCCL nativo

El nuevo soporte multi-device del runtime habilita paralelismo de tensor y de contexto, y los benchmarks colocan a DeepSpeed Ulysses como la mejor estrategia para diffusion con secuencias largas.

NVIDIA Developerhace 4 días

TensorRT y Dynamo-Triton: 16 buenas prácticas para servir IA

NVIDIA publica una receta concreta para eliminar la fricción de pipeline en MLOps cubriendo exportación a ONNX, operaciones no soportadas, optimization profiles y desajustes de versiones.

NVIDIA Developer13 may

Nvidia y EPRI: 25 mini centros de datos junto a subestaciones

Con InfraPartners, Prologis y EPRI, Nvidia levanta una flota piloto de 5 a 20 MW por sitio para enrutar inferencia según la electricidad disponible en cada subestación de la red estadounidense.

IEEE Spectrum AI13 may

Cómo usar DeepSeek V4 con NVIDIA Blackwell y endpoints acelerados

Aprovecha el poder de la arquitectura híbrida de DeepSeek V4 y la plataforma NVIDIA Blackwell para inferencia de contexto largo y flujos agénticos.

NVIDIA Developer26 abr

Etiquetas relacionadas

Otros temas que aparecen junto a #inferencia ia en nuestra cobertura editorial.

#Nvidia3 #tensorrt2 #Deepseek V41 #Nvidia Blackwell1 #LLM1 #Open Source1 #data-centers1 #epri1