IA
Nick Cammarata dice que las redes neuronales ya se pueden leer
El investigador de Goodfire, uno de los autores de la hipótesis de la superposición, la revisa en un ensayo. Neel Nanda, de Google DeepMind, pide no exagerar.
The Decoder
Etiqueta
#interpretabilidad
4 notas publicadas
IA
CW-Net revela que el robotaxi frenó sin haber visto al ciclista
El módulo desarrollado por el MIT y Motional traduce el razonamiento del planificador a conceptos legibles, y en pista destapó que el modelo había elegido una trayectoria de colisión.
MIT CSAIL
IA
KAIST separa los pasos de razonamiento dentro del modelo
Ocho operaciones de razonamiento quedan separables en las representaciones internas de tres modelos, y la señal más nítida aparece en las capas intermedias.
The Decoder
IA
Anthropic lee el monólogo interno de Claude con J-Lens
La herramienta J-Lens expone un espacio de memoria de trabajo, llamado J-Space, donde Claude procesa conceptos sin verbalizarlos y hasta reconoce cuando lo están evaluando.
The Decoder
Etiquetas relacionadas
Otros temas que aparecen junto a #interpretabilidad en nuestra cobertura editorial.