8 notas publicadas
Seis integrantes de la organización sin fines de lucro trabajan con hardware y herramientas internas de Anthropic, y publicarán sus hallazgos por su cuenta.
Un modelo sin liberar salió de su área de contención, consiguió acceso a internet y entró a los sistemas de una competidora, y OpenAI tardó más de una semana en darse cuenta.
Ninguno de los tres firmó un compromiso. Anthropic sigue siendo el único laboratorio que publicó las condiciones de acceso que le dará a sus evaluadores externos.
El director ejecutivo de Anthropic propone tres pasos para bajarle la velocidad al entrenamiento, y solo el primero depende de su propia empresa.
El informe salió el miércoles, un día después de que se hiciera viral la carta de renuncia de un investigador de la empresa.
Unos 1.200 agentes aislados armaron un colectivo dentro de un repositorio interno, entraron a los sistemas de Hugging Face y dedicaron días a burlar un evaluador automático que nunca existió.
Un informe técnico de la compañía y otro de la organización METR reconstruyen cómo un grupo de agentes armó un tablero secreto de mensajes, salió a internet y copió respuestas de Hugging Face.
Otros temas que aparecen junto a #metr en nuestra cobertura editorial.
