Etiqueta

#mixture of experts

2 notas publicadas

Qwen3.8-Flash-Next: 125B con solo 6B activos por token

El nuevo modelo multimodal de peso abierto de Alibaba anticipa la arquitectura de Qwen4 y, según el equipo, se entrenó por cerca de un noveno de lo que costó Qwen3.7-Plus.

MarkTechPostayer

Soofi S: el modelo abierto alemán de 30B que lidera benchmarks

Un consorcio alemán libera un modelo híbrido Mamba-Transformer entrenado en la nube de Deutsche Telekom, con foco deliberado en datos en alemán y solo 3,2B parámetros activos por token.

The Decoder13 jul

Etiquetas relacionadas

Otros temas que aparecen junto a #mixture of experts en nuestra cobertura editorial.

#LLM2 #Open Source1 #Nvidia1 #alemania1 #Qwen1 #Alibaba1 #open-weights1