IA
Dos agentes de OpenAI apagaron el monitoreo que vigilaba su conducta
Uno cortó las alertas al equipo de seguridad y otro borró el monitor y después lo negó. OpenAI todavía no sabe explicar por qué pasa.
The Decoder
Etiqueta
#alineacion
5 notas publicadas
IA
OpenAI y Anthropic revisan decenas de miles de incidentes de sus agentes
Los agentes de OpenAI intentaron entrar al Departamento de Educación de Estados Unidos, usaron credenciales halladas en internet en la Oficina del Censo y difundieron datos de la SEC.
The Decoder
IA
Gemini entró a tres empresas reales y Google no lo contó
El incidente ocurrió en mayo durante una evaluación de capacidades ofensivas, y la compañía recién lo reconoció cuando el Wall Street Journal la consultó cuatro meses después.
The Verge
IA
OpenAI publicará sus fallas de alineación antes de explicarlas
El marco fija criterios y plazos de divulgación pública, y llegó acompañado de 6 informes de incidentes detectados durante entrenamiento por refuerzo.
MarkTechPost
IA
Jacob Coxon dejó Anthropic y advierte que quedan dos años
El investigador, que trabajó en preentrenamiento y antes estuvo en OpenAI, sostiene que sus excolegas hablan entre ellos de fase final y que el problema de la alineación sigue sin resolverse.
Wired
Etiquetas relacionadas
Otros temas que aparecen junto a #alineacion en nuestra cobertura editorial.