Etiqueta

#entrenamiento llm

2 notas publicadas

JAX descarga activaciones al host y sube 57% el rendimiento

El host offloading libera memoria HBM al mover activaciones a la RAM del sistema, con hasta 57% más rendimiento al entrenar modelos como DeepSeek-V3 671B en NVIDIA Grace Blackwell.

NVIDIA Developer11 jul

NVIDIA NTP mantiene el entrenamiento LLM si caen GPUs

Nonuniform Tensor Parallelism reconfigura el paralelismo tensorial en caliente cuando una GPU falla dentro de un dominio NVLink, con overhead bajo 1%.

NVIDIA Developer7 jul

Etiquetas relacionadas

Otros temas que aparecen junto a #entrenamiento llm en nuestra cobertura editorial.

#Nvidia2 #Blackwell2 #megatron-lm1 #nvlink1 #Open Source1 #jax1 #Deepseek1