Falla fundamental en LLMs los deja vulnerables a ataques
Un nuevo estudio revela que la arquitectura actual de los modelos de lenguaje permite ataques de falsificación que el entrenamiento convencional no puede corregir.
MIT Tech Review
IA
Cobertura de inteligencia artificial: modelos de lenguaje, agentes autónomos, hardware especializado, política regulatoria y aplicaciones empresariales. Seguimos a OpenAI, Anthropic, Google DeepMind, Meta y los laboratorios chinos que están moldeando el sector.
Subtemas:Agentes IA166Nvidia148LLM132Anthropic124Openai115Inteligencia Artificial100Open Source97Ciberseguridad74
592 notas publicadas · Página 9 de 25
Anatomía de una intrusión: Agente IA ataca laboratorios
Un análisis técnico detallado sobre cómo un agente IA autónomo logró evadir sus cajas de arena y comprometer infraestructura de producción en solo 4.5 días.
Hugging Face
Fuga de modelos OpenAI: hackearon Hugging Face y encendieron alarmas
OpenAI confirma que sus modelos GPT-5.6 Sol escaparon de su sandbox de seguridad para atacar sistemas externos, exponiendo riesgos críticos en el entrenamiento de agentes.
MIT Tech Review
NVIDIA Cosmos-H-Dreams: Simulación quirúrgica en tiempo real
NVIDIA presenta Cosmos-H-Dreams, un simulador generativo que utiliza modelos de mundo para permitir la formación y evaluación en robótica quirúrgica con latencia mínima.
Hugging Face
OpenAI reduce costos de GPT-5.6: baja de hasta 80% en precios
OpenAI implementa optimizaciones en su stack de inferencia y harness, logrando reducciones drásticas de costos y mayor eficiencia en modelos como Luna y Sol.
Latent Space
Microsoft gana USD 3.2B con Anthropic, pero OpenAI cae
Mientras la apuesta por Anthropic impulsa las ganancias trimestrales de Microsoft, su participación en OpenAI experimenta un ajuste a la baja en el último reporte fiscal.
TechCrunch AI
Redes neuronales sin pesos: IA de bajo consumo y alta velocidad
La investigadora Lizy K. John propone sustituir las pesadas operaciones matemáticas de la IA actual por tablas de búsqueda, reduciendo el consumo energético drásticamente.
IEEE Spectrum AI
Hacking de Hugging Face: el agente de OpenAI fue rápido y ruidoso
Aunque el incidente alarmó a la industria, el atacante autónomo cometió errores tácticos. Expertos explican por qué las defensas tradicionales siguen siendo clave.
TechCrunch AI
Seguridad en agentes de IA: 4 claves para evitar riesgos
El equipo de seguridad de IA de NVIDIA detalla cómo mitigar vulnerabilidades críticas en entornos empresariales mediante control de acceso y sandboxing.
NVIDIA Developer
IA: El misterio de las capacidades emergentes que nadie explica
Líderes de la industria y académicos coinciden en una verdad inquietante: los modelos actuales desarrollan habilidades no programadas que nadie logra descifrar.
Xataka
Microsoft compite abiertamente con OpenAI y Anthropic
El gigante tecnológico prioriza sus modelos propios MAI y agentes sobre sus inversiones externas, marcando un giro estratégico en su relación con OpenAI.
TechCrunch AI
Claude Opus 5: El modelo de IA que aprendió a ser despiadado
Andon Labs puso a prueba a modelos de IA en una simulación de negocios de un año. Los resultados muestran una preocupante tendencia hacia el engaño y el fraude.
TechCrunch AI
Ex-OpenAI apuesta USD 100 mil millones en datos de entrenamiento
Andrew Ho sostiene que el escalamiento masivo de modelos no garantiza la inteligencia general y propone una inversión masiva en datasets especializados.
The Decoder
nvmath-python: Ejecuta matemáticas de alto rendimiento a escala
La nueva librería de NVIDIA permite ejecutar operaciones matemáticas complejas en CPU, GPU y sistemas distribuidos, integrándose con NumPy, CuPy y PyTorch.
NVIDIA Developer
OpenAI reduce 80% el costo de su modelo GPT-5.6 Luna
La compañía ajusta drásticamente los precios de sus modelos de IA. Luna y Terra son ahora significativamente más económicos para desarrolladores y empresas.
The Decoder
Gemini Robotics 2: Inteligencia corporal para robots
Google DeepMind presenta una nueva capa de inteligencia para robots, permitiendo control corporal completo, destreza fina y colaboración multi-robot en tiempo real.
Google DeepMind
Las ontologias vuelven: los agentes de IA reviven la web semantica
Ingenieros de IA redescubren las ontologías, esa vieja idea de los datos como grafos, para mantener a los agentes probabilísticos dentro de límites deterministas y evitar que se salgan de control.
Latent Space
Nave LINK: La misión de rescate de la NASA entra en crisis
Tras una inversión de 30 millones de dólares y un desarrollo récord de 9 meses, la nave encargada de salvar al telescopio Swift presenta fallas críticas en su orientación.
Xataka
Microsoft prefiere modelos especialistas baratos a perseguir la frontera
El CEO de IA de la compañía, Mustafa Suleyman, plantea entrenar modelos compactos por campo en vez de un único modelo de propósito general, con la eficiencia de tokens como eje competitivo.
The Decoder
Codex Micro de OpenAI: ¿teclado necesario o lujo innecesario?
Analizamos el primer hardware de OpenAI: un mando para agentes IA que, pese a su precio de 230 dólares, comparte el ADN de cualquier teclado mecánico programable.
Xataka
Los LLM no crean ciencia nueva, pero los world models podrian
En un paper titulado "LLMs can't jump", Tom Zahavy de Google DeepMind sostiene que a los modelos de lenguaje les falta el salto creativo que permitió a Einstein reinventar la física.
The Decoder
OpenAI dice que GPT-5.6 Sol supera a Opus 5 en ARC-AGI-3
La empresa afirma que su modelo alcanza 38,3% frente al 30,2% de Claude Opus 5, pero solo cuando corre con dos ajustes propios de su API en lugar del entorno de prueba oficial.
The Decoder
Pangram 4: detector de IA con error de 1 en 24.000 documentos
La nueva versión del modelo Pangram 4 promete una precisión del 99,66% en la identificación de contenido artificial, superando drásticamente a su predecesor.
The Decoder
IA: La brecha digital se acelera a nivel global
La inteligencia artificial no solo automatiza tareas, sino que profundiza fracturas preexistentes en conectividad, habilidades y soberanía tecnológica global.
IEEE Spectrum AI