Anthropic puso a 50 expertos en inferencia causal a trabajar con un agente de IA sobre cuatro decisiones analíticas que no tenían una respuesta correcta clara. La preferencia del agente por una de las dos opciones válidas se decidió lanzando una moneda. Los participantes la siguieron en hasta el 86% de los casos y la mayoría creyó que el resultado final era propio, según el estudio que reportó The Decoder el 29 de octubre de 2026.
Delegar un análisis de datos en un agente ahorra tiempo y trabajo manual. El estudio de Anthropic plantea quién toma de verdad las decisiones que dan forma a la recomendación final, y su respuesta es que el agente toma la mayoría, muchas veces sin que los expertos lo noten.
¿Cómo se armó el experimento?
Los 50 participantes trabajaron sobre una tarea de análisis realista. Revisaron datos observacionales de una cooperativa agrícola ficticia y estimaron cuánto subía la productividad con un programa voluntario de asesoría a los predios. Después tenían que recomendar si la cooperativa debía extender el programa a todos los predios o terminarlo, aunque tanto ellos como el agente podían proponer también prolongarlo por un año.
El diseño tenía cinco decisiones, dos opciones válidas en cada una y un agente cuya preferencia se asignó a cara o sello. Así midió el estudio la influencia del agente.
Los participantes no sabían que una moneda había fijado la preferencia del agente en cada punto de decisión. El agente no podía mentir ni ocultar datos. Su única instrucción era defender de la mejor manera honesta posible el lado que le había tocado.
Los expertos siguieron al agente en hasta 86% de los casos
En las cuatro decisiones analíticas, como la forma de medir la productividad o qué método estadístico usar, los participantes adoptaron la preferencia del agente en el 86% de los casos. Si eligieran al azar, la cifra esperable sería 50%. Los autores llaman "tasa de giro" a la influencia neta del agente, y esa tasa fue de 62% a 82% según la tarea.
Para la recomendación final, la diferencia entre quienes tuvieron un agente inclinado a la opción A y quienes lo tuvieron inclinado a la B fue de 17 puntos. En las cuatro decisiones analíticas esa brecha fue de 62 a 82 puntos porcentuales.
Tener una opinión previa protegió poco. Cuando los participantes elegían antes de que el agente declarara su preferencia, una postura contraria los hizo 53 puntos porcentuales más propensos a cambiarse de lado que una postura coincidente.
Los autores probaron posibles factores de protección, como los años de experiencia en análisis, la pericia que cada uno declaraba, la formación, los puntajes en pruebas y la confianza en la IA. Ninguno mostró una relación estadísticamente confiable con los resultados tras corregir por pruebas múltiples. La edad sobresalía antes de esa corrección, aunque con una muestra de 50 personas el estudio tenía poco poder para detectar efectos así.
¿Quién se queda con la decisión final?
La preferencia asignada al agente tuvo un efecto directo pequeño sobre la recomendación final a la directiva de la cooperativa. Movió algunos votos sin llegar a ser estadísticamente significativa, y parte de los participantes incluso contradijo al agente cuando su consejo no calzaba con la estimación de productividad que ellos mismos habían calculado.
Eso podría leerse como una buena noticia, con la IA sugiriendo y las personas decidiendo. Los investigadores advierten que el resultado final no demuestra que los participantes mantuvieran el control. Las cuatro decisiones analíticas previas pesaron mucho en la ganancia de productividad estimada, y esa cifra fue la que orientó la recomendación a la directiva.
Consultados después, el 52% de los participantes dijo que la recomendación se sentía más suya que del agente, y otro 35% dijo que era mayoritaria o completamente suya. Recordaron bien lo que habían elegido en el 85% de las decisiones. Aun así, el 77% (37 de 48) usó al menos uno de los argumentos del agente en sus explicaciones, a veces con casi las mismas palabras. Solo el 15% mencionó a la IA.
Los registros de conversación muestran que el agente declaró una postura primero en el 77% de las decisiones. Luego argumentaba casi siempre solo a favor de su lado, sin explicar por qué un experto capacitado podría elegir la alternativa, aunque sí explicaba cómo otra elección cambiaría el resultado, según el paper.
Más rápidos y con menos errores
Con IA, los participantes trabajaron bastante más rápido y se equivocaron menos. Sin agente, el 55% de los análisis (6 de 11) tuvo fallas metodológicas o de código graves, con una mediana de 90 minutos. Con IA, solo el 6% (3 de 50) tuvo fallas graves y los participantes terminaron en 65 minutos.
| Grupo | Análisis con fallas graves | Tiempo mediano |
|---|---|---|
| Sin agente de IA | 55% (6 de 11) | 90 minutos |
| Con agente de IA | 6% (3 de 50) | 65 minutos |
El grupo que trabajó sin IA había optado por no usar la herramienta y tenía algo menos de pericia, así que los investigadores no pueden asegurar cuánto de la diferencia se debe directamente a la IA.
Falso consenso y controles de seguridad más débiles
Según los investigadores, esta deferencia silenciosa puede tener efectos amplios en la ciencia. Si muchos equipos de investigación usan el mismo modelo con preferencias fijas por defecto, pueden terminar fabricando un falso consenso.
El riesgo alcanza a la propia seguridad de la IA. Hoy ya se usan agentes para evaluar la seguridad y la alineación de modelos de frontera, con la revisión humana como control independiente. Si los expertos adoptan sin darse cuenta el sesgo de un agente en las decisiones abiertas, un sistema desalineado podría terminar guiando justamente la investigación que debía destaparlo.
El equipo pide formas de medir la deferencia hacia los agentes de IA en el trabajo real. Propone que los agentes defiendan ambos lados con la mejor versión de cada uno, o que pregunten primero al experto qué piensa antes de dar su postura. Las instituciones, agregan, tienen que decidir qué decisiones exigen un juicio humano independiente y reservar tiempo y recursos para ellas.
"Puede que no exista una única división correcta del trabajo entre las personas y la IA. Algunas decisiones pueden estar bien para delegarlas, y otras vale la pena conservarlas. Con las herramientas adecuadas, esa división puede ser algo que elegimos, en lugar de algo hacia lo que derivamos", escriben los investigadores.
Estudios previos apuntan en la misma dirección
Los resultados se suman a otras investigaciones recientes sobre cómo la IA afecta el juicio humano. Un estudio sobre falsa confianza con 3.132 participantes encontró que ver respuestas de IA casi borró la disposición de las personas a abstenerse de opinar. En una parte de ese estudio, la proporción de gente dispuesta a decir "no sé" cayó de 44% a 3%.
La presentación también influye. Cuando la IA entregaba resultados pulidos, como código o documentos, los usuarios verificaron los hechos 3,7 puntos porcentuales menos, cuestionaron su razonamiento 3,1 puntos menos y pasaron por alto contexto faltante 5,2 puntos más. Quienes revisaban los resultados paso a paso cuestionaron el razonamiento de la IA 5,6 veces más que quienes no iteraban.
Un estudio observacional polaco sobre colonoscopías, publicado en The Lancet Gastroenterology & Hepatology, sugiere que el uso rutinario de IA en el trabajo puede dejar efectos duraderos. Después de que médicos con experiencia usaron regularmente un sistema de IA, su tasa de detección de lesiones precancerosas en exámenes sin IA bajó de 28,4% a 22,4%. Según The Decoder, eso indica que, además de adoptar la perspectiva de la IA, las personas pueden perder parte de sus propias habilidades cognitivas.
Una encuesta de la Swiss Business School encontró una relación negativa fuerte entre el uso de herramientas de IA y el pensamiento crítico, sobre todo entre personas de 17 a 25 años. Una buena formación pareció proteger en parte, ya que quienes tenían títulos superiores cuestionaban más las respuestas de la IA.
Son estudios tempranos y mediciones puntuales, y hay resultados en sentido contrario. Un piloto en Nigeria encontró que estudiantes que usaron un chatbot como tutor virtual dos veces por semana lograron en seis semanas avances de aprendizaje equivalentes a casi dos años adicionales de clases.
