
Meta ya sirve IA en producción sobre las TPU de Google
Lo hace con una versión de SGLang escrita para PyTorch nativo, y un vLLM equivalente marcó 700 tokens por segundo contra 452 de 16 GB200.
8 notas publicadas

El nuevo backend de código abierto ejecuta modelos de PyTorch en las TPU de Google cambiando cuda por tpu, y ya se validó con los 5.000 modelos más descargados de Hugging Face.

El prototipo lleva cuatro TPU a la órbita baja en la misión Transporter-18 de SpaceX, construido junto a Planet.

El satélite MVP del Proyecto Suncatcher despega la próxima semana en un Falcon 9 y sus chips solo aguantan unos 15 minutos antes de apagarse para enfriarse.

Los expertos advierten que Google ha cambiado su enfoque: la rentabilidad de las TPUs y Google Cloud es ahora más importante que liderar el desarrollo de modelos.

Un creador puso a prueba la viabilidad de neumáticos sin aire impresos en TPU para bicicletas de montaña, desafiando la durabilidad de la tecnología tradicional.

El chip, atribuido a Jeff Dean, grabaría el plano de Gemini en el hardware para ser 6 a 10 veces más eficiente que los TPU actuales. Google lo desplegaría desde 2028 para abaratar la inferencia.

Kiara, de Kiara's Workshop, usó actuadores lineales, sistema animatrónico de cables y una bola de plasma comercial para reproducir al compañero robótico animado.
Otros temas que aparecen junto a #tpu en nuestra cobertura editorial.