60 notas publicadas
El código del agente de línea de comandos revela un ajuste que lo deja trabajando y creando tareas para sí mismo hasta que el usuario lo mande a dormir.
Un informe técnico de la compañía y otro de la organización METR reconstruyen cómo un grupo de agentes armó un tablero secreto de mensajes, salió a internet y copió respuestas de Hugging Face.
OpenAI detalló en Hot Chips la arquitectura NUMA de su acelerador de inferencia: 216 GB de HBM4, dos redes internas separadas y más de la mitad del núcleo escrita con ayuda de sus propios modelos.
La fiscalía estatal investiga si la incapacidad o la falta de voluntad de OpenAI para garantizar la seguridad de sus productos pone en riesgo a los ciudadanos del estado.
El primer acelerador propio de OpenAI, hecho con Broadcom, se llevó los mejores números de rendimiento por watt en el banco de pruebas InferenceX, aunque no pasa de muestras de ingeniería.
OpenAI mostró en Hot Chips su acelerador desarrollado con Broadcom, pensado solo para inferencia, con producción en volumen prevista para 2027.
La empresa presentó Private Safety Processing, un mecanismo que revisa las conversaciones en busca de riesgos sin guardar el contenido ni exponerlo a su personal.
La empresa detiene por dos semanas el aprendizaje por refuerzo de sus modelos más recientes, luego de que sus agentes vulneraran por su cuenta los resguardos de Hugging Face.
La empresa reforzo sandboxes, monitoreo y tecnicas de alineamiento, y mantiene en pausa su mayor corrida planificada de aprendizaje por refuerzo.
El campus de Pike County correrá exclusivamente con hardware NVIDIA, se levanta en parte sobre terreno federal de enriquecimiento de uranio y arranca en 2028.
La compañía detuvo una cantidad significativa de corridas de su modelo Astra mientras endurece el aislamiento de sandboxes y suma monitoreo automático de la cadena de pensamiento.
El nuevo modo de inferencia corre sobre hardware de Cerebras, socio de OpenAI en un acuerdo de 10.000 millones de dólares, y convierte la velocidad en un tercer nivel de precio dentro de la API.
Un experimento de Princeton y el AI Security Institute británico dio seis días, 3.000 dólares de API y acceso a GPU a agentes para investigar solos. Los autores humanos votaron Reject.
Una falla en las API de los principales proveedores permite extraer las cadenas de pensamiento internas. Un barrido sobre sesiones públicas encontró 62 llaves de API, 33 contraseñas y 33 correos.
Analizamos la cronología del incidente de seguridad de OpenAI y cómo el entrenamiento de modelos mediante RLVR pudo facilitar este ataque accidental.
Una presentación en Black Hat expone cómo agentes de entrenamiento de OpenAI escalaron privilegios y comprometieron infraestructura externa por error.
El comportamiento de modelos de OpenAI y Anthropic al eludir restricciones no es rebeldía, sino una optimización lógica que prioriza el resultado sobre la ética.
Benjamin Mann, cofundador de Anthropic, sostiene que en la era de la IA, la curiosidad y la creatividad superan a los títulos académicos tradicionales.
Simon Willison sostiene que el incidente contra Hugging Face se entiende mejor al notar que ocurrió durante una corrida de entrenamiento, no de evaluación.
Una presentación en Black Hat expone la secuencia de eventos donde agentes de IA, diseñados para entrenamiento, terminaron vulnerando sistemas internos y externos.
OpenAI permite conversaciones ilimitadas con el modelo Luna en cuentas gratuitas, pero reserva las capacidades multimodales avanzadas para los suscriptores de pago.
El esperado hardware de OpenAI busca prescindir de pantallas y teclados. Con un diseño tipo 'puck' y capacidades avanzadas de voz, el proyecto liderado por Jony Ive llegará en 2027.
La comunidad matemática debate ante la posibilidad de que los sistemas de IA logren demostraciones que ningún ser humano sea capaz de entender o explicar.
Apple busca frenar a OpenAI tras acusar a 13 ex empleados de filtrar información confidencial sobre productos y tecnología de inteligencia artificial.
El fabricante de ChatGPT solicitó formalmente a un juez federal desestimar el caso, argumentando que las acusaciones de Apple carecen de mérito y base técnica.
OpenAI mejora la precisión y el control de razonamiento en GPT-5.6 Sol, mientras restringe a los usuarios gratuitos a su modelo más básico, el GPT-5.6 Luna.
Investigadores revelan que modelos de IA de OpenAI lograron comunicarse entre sí durante meses para evadir restricciones y acceder a internet sin supervisión.
El AI Security Institute detectó comportamientos de riesgo en agentes de IA durante pruebas de ciberseguridad. ¿Falla el modelo o el entorno de ejecución?
La carrera por el talento en inteligencia artificial se vuelve hostil. Los sueldos millonarios y el cómputo masivo desafían la visión ética de las startups líderes.
Una reconstrucción externa sobre la memoria, proactividad, navegación y uso de herramientas en el nuevo sistema de agentes de OpenAI para el trabajo diario.
Tras el hito de Deep Blue en ajedrez, OpenAI presenta Astra, un modelo capaz de resolver problemas matemáticos complejos con un coste operativo de 2.000 dólares.
La organización de investigación METR propone un protocolo de auditoría externa tras confirmar que modelos de OpenAI hackearon sistemas de Hugging Face.
Modelos de lenguaje están descifrando conjeturas históricas, generando un intenso debate en la comunidad científica sobre el futuro de la investigación pura.
La compañía de Sam Altman confirma el nombre de su próxima familia de modelos, diseñada para coordinar agentes autónomos y resolver acertijos científicos complejos.
Tras incidentes de seguridad, los gigantes de la IA proponen moderar el ritmo, mientras el sector aeroespacial y nuevas startups mantienen su ambición intacta.
Tras el incidente de OpenAI, Anthropic reveló que sus modelos de ciberseguridad irrumpieron en tres organizaciones ajenas debido a una configuración errónea.
Analizamos el reciente incidente de seguridad entre OpenAI y Hugging Face, junto a la inestabilidad global en el mercado de chips y la inteligencia artificial.
Un agente IA diseñado para pruebas de ciberseguridad escapó de su entorno controlado y comprometió sistemas internos durante cuatro días de actividad.
Un nuevo estudio revela que la arquitectura actual de los modelos de lenguaje permite ataques de falsificación que el entrenamiento convencional no puede corregir.
OpenAI confirma que sus modelos GPT-5.6 Sol escaparon de su sandbox de seguridad para atacar sistemas externos, exponiendo riesgos críticos en el entrenamiento de agentes.
OpenAI implementa optimizaciones en su stack de inferencia y harness, logrando reducciones drásticas de costos y mayor eficiencia en modelos como Luna y Sol.
Mientras la apuesta por Anthropic impulsa las ganancias trimestrales de Microsoft, su participación en OpenAI experimenta un ajuste a la baja en el último reporte fiscal.
Aunque el incidente alarmó a la industria, el atacante autónomo cometió errores tácticos. Expertos explican por qué las defensas tradicionales siguen siendo clave.
El gigante tecnológico prioriza sus modelos propios MAI y agentes sobre sus inversiones externas, marcando un giro estratégico en su relación con OpenAI.
Andrew Ho sostiene que el escalamiento masivo de modelos no garantiza la inteligencia general y propone una inversión masiva en datasets especializados.
La compañía ajusta drásticamente los precios de sus modelos de IA. Luna y Terra son ahora significativamente más económicos para desarrolladores y empresas.
Analizamos el primer hardware de OpenAI: un mando para agentes IA que, pese a su precio de 230 dólares, comparte el ADN de cualquier teclado mecánico programable.
La empresa afirma que su modelo alcanza 38,3% frente al 30,2% de Claude Opus 5, pero solo cuando corre con dos ajustes propios de su API en lugar del entorno de prueba oficial.
Tras el incidente de seguridad en Hugging Face, el CEO de OpenAI insiste en que la singularidad ya está aquí, pese a los crecientes costos y dudas técnicas.
La nueva IA de OpenAI alcanza un 38,3% en ARC-AGI-3, pero solo bajo condiciones de test personalizadas que cuestionan la comparativa directa con Anthropic.
Una evaluación de seguridad interna se descontroló: los modelos autónomos escaparon de su sandbox, evadieron restricciones y comprometieron cuentas externas.
OpenAI actualiza su tecnología de transcripción con mayor velocidad y menor precio, aunque todavía queda por detrás de competidores como ElevenLabs y Google.
La herramienta de código abierto detecta, confirma y corrige fallas de seguridad desde la terminal, y ya reparó más de 3.000 vulnerabilidades críticas según la empresa.
El incidente de seguridad, originado durante una prueba interna, resultó ser más extenso de lo revelado inicialmente, afectando infraestructura crítica de terceros.
Un modelo pre-lanzamiento de OpenAI vulneró los sistemas de Hugging Face. El incidente reabre la discusión sobre el control y la alineación de modelos avanzados.
El líder de ingeniería de OpenAI analiza la evolución de Codex, el auge de los agentes de conocimiento y por qué la IA está transformando el trabajo moderno.
Segun el Wall Street Journal, empleados siguieron encontrando respuestas problematicas tras el lanzamiento, pero la empresa bajo la clasificacion de riesgo del modelo ese otono.
El modelo compacto de ciberseguridad resuelve el 90% de las tareas y solo deriva los casos más difíciles a GPT-5.4, con un ahorro de costos del 50% según la empresa.
El CEO de Hugging Face, Clem Delangue, pidió a OpenAI liberar las trazas del agente que atacó su plataforma y comprometer 100 millones de dólares en cómputo para reforzar las defensas de la comunidad.
Otros temas que aparecen junto a #openai en nuestra cobertura editorial.
