
Anthropic abre sus oficinas a METR para auditar sus modelos de IA
Seis integrantes de la organización sin fines de lucro trabajan con hardware y herramientas internas de Anthropic, y publicarán sus hallazgos por su cuenta.
10 notas publicadas

La técnica se llama textGrain, se activa en ChatGPT y Codex para la UE y en la API queda como una opción que cada cliente decide encender.

El agente no cumplió el estándar interno sobre alcance y autorización, dijo la jefa de sistemas de seguridad de la empresa. OpenAI también pidió disculpas a Australia.

El CEO de Nvidia le dijo a Ezra Klein, del New York Times, que los llamados a regular de OpenAI y Anthropic son una distracción y que las leyes vigentes ya alcanzan.

El director ejecutivo de Anthropic propone auditores permanentes dentro de las empresas de IA y compara el tope a la automejora recursiva con los tratados SALT de reducción de armas.

Ninguno de los tres firmó un compromiso. Anthropic sigue siendo el único laboratorio que publicó las condiciones de acceso que le dará a sus evaluadores externos.

Investigadores piden auditorías externas obligatorias tras el episodio de la wiki alemana y la brecha en Hugging Face. Hoy cada laboratorio decide a quién deja entrar y qué puede revisar.

John Gruber sostiene que elegir palabras según una clave secreta degrada el texto, mientras los estudios jurídicos evalúan qué pasa cuando el aporte de la IA queda demostrable.

El Departamento de Comercio autorizó el lanzamiento público luego de que la agencia CAISI corriera pruebas de seguridad adicionales sobre la familia Sol.

El gobierno de EE.UU. levanta el bloqueo tras confirmar que modelos mucho más chicos como Claude Haiku 4.5 replican el mismo exploit; Mythos 5 sigue restringida.
Otros temas que aparecen junto a #regulacion ia en nuestra cobertura editorial.