Sesgo de automatización: confiar de más en la máquina

Son las tres de la mañana en una emergencia concurrida. Un residente de segundo año revisa una tomografía de cráneo mientras el sistema de apoyo marca, en rojo, un área sospechosa en el lóbulo frontal. Amplía la imagen, está de acuerdo con la marca y pasa al siguiente paciente. Dos horas después, la radióloga de guardia mira el mismo examen y no encuentra nada en el área marcada, pero ve un pequeño sangrado del otro lado, que el sistema no señaló. La escena es ficticia y fue escrita para enseñanza.

Este texto trata del sesgo de automatización, la tendencia a confiar más en la salida de un sistema automatizado que en los propios signos clínicos. La propuesta es mirar lo que muestran los estudios sobre prescripción electrónica, imagen, patología y endoscopia, y lo que cada hallazgo enseña sobre el razonamiento. Si juegas el caso del día en NEXO, vas a reconocer el desafío: cada pista nueva pide que sopeses la información, y no que la aceptes solo porque apareció en la pantalla.

Puntos principales

• El sesgo de automatización es la tendencia a confiar en la salida de herramientas automáticas más que en el propio juicio o en la opinión de otras personas.
• Produce dos tipos de error: dejar de actuar porque el sistema no alertó y seguir una orientación errónea del sistema.
• En patología, la misma ayuda que mejoró el acierto cuando la sugerencia era correcta redujo el acierto cuando era incorrecta.
• Lectores de todos los niveles de experiencia fueron influenciados por hallazgos falsos positivos de la IA en angiorresonancia.
• Los estudiantes ayudados por un chatbot mejoraron en promedio, pero no distinguieron bien la influencia útil de la perjudicial.
• Revisiones recientes incluyen el sesgo de automatización entre los temas más recurrentes en los estudios de IA generativa.

Qué es el sesgo de automatización

El concepto vino de la aviación. Estudios de los años 1980 y 1990 y análisis de relatos de incidentes mostraron que los pilotos muchas veces dejaban de monitorear indicadores importantes de vuelo o de desconectar el piloto automático cuando fallaba (Sujan y colaboradores, 2019). El fenómeno recibió el nombre de sesgo de automatización, o complacencia inducida por la automatización, y es un ejemplo de decisión inadecuada por confianza excesiva en la máquina.

En medicina, la definición es parecida. El sesgo de automatización es la tendencia humana a apoyarse en salidas de herramientas automatizadas en lugar de señales no automatizadas, como el juicio personal o la opinión de otras personas (Bittencourt, 2025). Una revisión sobre radiología resume la idea en una línea: es la tendencia sistemática a aceptar sugerencias de la IA incluso cuando están equivocadas (Kocak y Cuocolo, 2026).

Sesgo de automatización y complacencia

El mismo autor separa dos conceptos cercanos. La complacencia es una confianza indebida que lleva a menos vigilancia y a una aceptación sin crítica de la salida del sistema (Bittencourt, 2025). En la práctica, los dos van juntos. Quien confía demasiado verifica menos, y quien verifica menos tiende a aceptar lo que aparece.

En endoscopia digestiva, el sesgo de automatización se describió como la propensión a desconectarse cognitivamente de tareas entregadas a una tecnología externa, con pérdida de conciencia situacional (Campion y colaboradores, 2024). La expresión ayuda a entender la escena de la guardia. El residente miró el área marcada con atención, pero dejó de recorrer el resto del examen con la misma atención.

Omisión y comisión

El sesgo de automatización puede generar errores de omisión, cuando la persona deja de tomar una acción necesaria porque el sistema no avisó, y errores de comisión, cuando la persona sigue una orientación inadecuada del sistema (Sujan y colaboradores, 2019). La escena de la guardia tiene los dos. Aceptar la marca equivocada en el lóbulo frontal es comisión. Dejar pasar el sangrado que el sistema no señaló es omisión.

Esta división es útil para el razonamiento porque cada error exige una defensa distinta. Contra la comisión, la defensa es revisar la sugerencia antes de aceptarla. Contra la omisión, la defensa es mantener la búsqueda completa incluso cuando el sistema guarda silencio. El texto sobre incertidumbre diagnóstica muestra cómo tolerar la duda sin detener la investigación demasiado pronto.

El lado opuesto: la aversión al algoritmo

También existe el error contrario. La aversión al algoritmo es ignorar la salida de la IA por desconfianza (Kocak y Cuocolo, 2026). En endoscopia, cuando el usuario ve que el algoritmo se equivoca, es mucho más propenso a desestimar las orientaciones siguientes del mismo sistema (Campion y colaboradores, 2024). Entre un extremo y otro está la confianza calibrada, que es lo que defienden los autores: saber cuándo la herramienta suele acertar y cuándo suele fallar.

Lo que muestran los estudios en la prescripción y en la imagen

Las evidencias más directas provienen de experimentos en los que los investigadores controlan la calidad de la sugerencia. Así se puede ver qué le ocurre al profesional cuando la máquina acierta y cuando se equivoca, algo que rara vez se logra observar en la rutina.

Prescripción electrónica

Un experimento con prescripción electrónica varió la calidad del apoyo a la decisión, con apoyo correcto, incorrecto o ausente, y la complejidad de la tarea, con y sin interrupción (Lyell y colaboradores, 2017). En comparación con escenarios sin apoyo, el apoyo correcto redujo los errores de omisión, es decir, las fallas en percibir errores de prescripción. El apoyo incorrecto aumentó esos errores. Los participantes también cometieron errores de comisión, aceptando alertas falsos positivos, en todos los niveles de complejidad evaluados.

El diseño del estudio muestra el punto central del problema. La misma herramienta que ayuda cuando está correcta estorba cuando está equivocada, y quien la usa tiene dificultad para percibir la diferencia en el momento de la decisión. El texto sobre toma de decisiones clínicas discute cómo sopesar una información nueva por lo que cambia en la conducta.

Angiorresonancia y aneurismas cerebrales

Un estudio en angiorresonancia cerebral reunió un conjunto de exámenes en el que la mitad tenía al menos un hallazgo falso positivo de la IA (Kim y colaboradores, 2025). Los resultados falsos positivos aumentaron de forma significativa la sospecha de aneurisma entre los lectores. Los menos experimentados recomendaron exámenes de seguimiento más intensos cuando veían un falso positivo de la IA, con p = 0,005 (Kim y colaboradores, 2025).

El mismo estudio midió el tiempo de lectura. Con la ayuda de la IA, los lectores inexpertos leyeron en promedio en 164,1 segundos frente a 228,2 sin ayuda, y los muy expertos en 117,9 frente a 153,5 (Kim y colaboradores, 2025). La ganancia de velocidad apareció en todos los niveles. Los autores concluyeron que los lectores de radiología son susceptibles al sesgo de automatización ante hallazgos falsos positivos de la IA.

Para el razonamiento, conviene recordar un detalle que el propio artículo destaca: en cribados con muchos exámenes normales, incluso las pruebas muy precisas producen más falsos positivos que verdaderos positivos, la llamada paradoja del falso positivo (Kim y colaboradores, 2025). El texto sobre tasa basal en el diagnóstico explica por qué ocurre esto.

Cribado mamográfico

Una simulación con una gran base de mamografías de Victoria, en Australia, probó cinco formas de integrar la IA al cribado y analizó el efecto de la interacción entre humanos y máquina (Frazer y colaboradores, 2024). Usada como segundo lector o como filtro de alta confianza, la IA mejoró los resultados y redujo el volumen de lecturas humanas. El sesgo de automatización empeoró el desempeño en arreglos con varios lectores y mejoró el desempeño de lectores únicos (Frazer y colaboradores, 2024). El efecto depende de cómo entra la herramienta en el flujo de trabajo.

Lo que muestran los estudios en la patología, la endoscopia y la radioterapia

Los hallazgos en imagen se repiten en otras áreas que dependen del reconocimiento visual. En cada una, la pregunta es la misma: ¿qué ocurre con el desempeño del profesional cuando la sugerencia está equivocada?

Patología hepática

Se probó un asistente de aprendizaje profundo en la clasificación de cáncer de hígado con 11 patólogos de distintos niveles de experiencia (Kiani y colaboradores, 2020). El asistente por sí solo acertó bastante en láminas de validación y de prueba. Aun así, el uso de la herramienta no cambió la exactitud promedio del grupo, y solo mejoró el acierto de un subgrupo de nueve patólogos con niveles de experiencia bien definidos.

El dato más importante vino del análisis por caso. Cuando la predicción del modelo era correcta, la ayuda aumentó mucho el acierto, con razón de momios de 4,289 (Kiani y colaboradores, 2020). Cuando la predicción era errónea, la ayuda redujo el acierto, con razón de momios de 0,253, y ambos efectos aparecieron en todos los niveles de experiencia y de dificultad (Kiani y colaboradores, 2020). Los autores piden que los riesgos de la asistencia se consideren ya en el diseño y en la prueba de estas herramientas.

Endoscopia digestiva

En la colonoscopia, los sistemas de detección asistida por computadora se priorizaron para mejorar la tasa de detección de adenomas (Campion y colaboradores, 2024). Los primeros resultados fueron alentadores, pero algunos estudios de vida real mostraron efectos menores o ningún efecto, además de más extirpaciones innecesarias de pólipos sin potencial maligno. Los autores sugieren que factores de la interacción entre humano e IA ayudan a explicar la diferencia entre experimento y vida real.

El mismo trabajo recuerda que estos sistemas también emiten alarmas falsas, en promedio 2,4 por minuto de retirada del aparato, y que el efecto de estas repeticiones sobre el cansancio del endoscopista todavía debe estudiarse (Campion y colaboradores, 2024). La herramienta que debería aliviar la atención termina compitiendo por ella.

Radioterapia de próstata

En radioterapia, un estudio comparó el contorno manual de estructuras de la próstata con el contorno hecho por la IA y ajustado por médicos (Arjmandi y colaboradores, 2026). La ayuda de la IA mejoró la concordancia entre observadores y dentro del mismo observador. Aun así, el contorno ajustado no siempre superó al manual, y los autores señalan el sesgo de automatización o la aceptación selectiva como posible influencia en los ajustes. La conclusión defiende una garantía de calidad estructurada y la supervisión humana.

Área	Diseño	Hallazgo sobre el sesgo	Fuente
Prescripción electrónica	Experimento con 120 participantes	El apoyo incorrecto aumentó los errores de omisión; se aceptaron alertas falsas	Lyell y colaboradores, 2017
Patología hepática	11 patólogos con y sin asistente	La sugerencia errónea redujo el acierto en todos los niveles	Kiani y colaboradores, 2020
Angiorresonancia cerebral	La mitad de los estudios con falso positivo	Más sospecha de aneurisma y lectura más rápida	Kim y colaboradores, 2025
Mamografía	Simulación con cinco arreglos	El sesgo empeoró a varios lectores y ayudó a lectores únicos	Frazer y colaboradores, 2024
Radioterapia de próstata	Contorno manual y ajustado	El ajuste no siempre superó al manual	Arjmandi y colaboradores, 2026
Enseñanza médica	185 estudiantes con chatbot	La influencia útil y la perjudicial parecieron iguales a los alumnos	Hayden y colaboradores, 2026

Sesgo de automatización en la formación médica

Los estudiantes de hoy van a trabajar con IA durante toda la carrera, y por eso importa la forma en que aprenden a usarla. Un estudio piloto con estudiantes de segundo año armó un ejercicio en dos partes: una clase sobre capacidades y límites de la IA y un caso clínico en el que los alumnos ordenaban el diagnóstico diferencial antes y después de consultar un chatbot (Hayden y colaboradores, 2026).

La clase trataba de alucinaciones, sesgo, privacidad y falta de razonamiento clínico genuino, y el caso terminaba con un debate guiado por profesores (Hayden y colaboradores, 2026). En 185 estudiantes, el uso de la IA se asoció a más acierto diagnóstico, con el mayor beneficio entre los que habían tenido peor desempeño antes de la consulta.

Lo que percibieron los alumnos

El hallazgo más interesante está en la percepción. Los 65 alumnos que mejoraron y los 26 que empeoraron después de usar la IA le atribuyeron una influencia mayor que los alumnos cuyo acierto no cambió (Hayden y colaboradores, 2026). La percepción de influencia acompañó el hecho de que la IA hubiera cambiado el orden de las hipótesis, fuera el cambio bueno o malo. Los autores concluyeron que los alumnos no distinguieron con seguridad la influencia útil de la perjudicial, un patrón compatible con el sesgo de automatización.

Este resultado dialoga con lo que se sabe sobre el entrenamiento con casos. El texto sobre aprendizaje basado en casos clínicos muestra por qué la discusión después del caso pesa tanto como el caso. Y entrenar con diagnóstico diferencial y pistas ayuda a percibir cuándo una información nueva cambió la lista por buenos motivos.

Una revisión sistemática sobre IA generativa encontró la preocupación por la pérdida de habilidad entre los temas recurrentes, junto al sesgo de automatización (Al-Anezi, 2026), y el texto sobre uso de inteligencia artificial en el razonamiento clínico discute cómo encajar estas herramientas en el estudio.

Por qué confiamos demasiado en la máquina

Los artículos revisados ofrecen algunas explicaciones que se complementan. La primera es la forma en que se evalúa la IA. La mayoría de los estudios de desempeño usa métricas como sensibilidad, especificidad, exactitud y área bajo la curva ROC, y estos números describen el algoritmo solo, y no la pareja formada por médico y máquina (Bittencourt, 2025). Quien lee un artículo con exactitud alta tiende a transferir esa confianza al uso diario.

La segunda explicación está en el propio funcionamiento de los modelos. Los sistemas de aprendizaje automático pueden reconocer mal un cambio relevante de contexto o de datos y seguir haciendo predicciones erróneas con confianza cuando reciben casos distintos de los que vieron en el entrenamiento (Challen y colaboradores, 2019). Los mismos autores recuerdan que el clínico cambia de comportamiento ante un desenlace potencialmente grave, aunque eso reduzca su exactitud aparente, y que la máquina necesita imitar esa prudencia.

La tercera explicación es la presión del tiempo. La IA dejó la lectura más rápida en todos los niveles de experiencia en el estudio de angiorresonancia (Kim y colaboradores, 2025), y la revisión de pérdida de habilidad describe intercambios de diagnóstico correcto bajo límite de tiempo (Heudel y colaboradores, 2026). Velocidad y verificación compiten por la misma atención.

Cuando el problema es sutil o raro

Una revisión sobre evaluación de IA en el apoyo a la decisión describe el sesgo de automatización como un riesgo con consecuencias peligrosas cuando el sistema se equivoca, falla o cuando el problema del paciente es sutilmente único (Magrabi y colaboradores, 2019). Este es el caso que más preocupa en el diagnóstico. La enfermedad rara, la presentación atípica y el paciente fuera del perfil del entrenamiento son justamente los momentos en que la máquina tiene menos base y en que más importa la duda del médico.

Los autores defienden una evaluación rigurosa antes y durante el uso, porque el comportamiento de los algoritmos puede cambiar con el tiempo y con el contexto (Magrabi y colaboradores, 2019). La probabilidad pretest es una buena ancla aquí: una marca de la IA es una prueba, y su valor depende de quién es el paciente.

Cómo protegerse en el día a día

Las revisiones convergen en algunas recomendaciones. Para reducir la complacencia, se necesitan intervenciones en varios frentes: educación general sobre herramientas de IA y entrenamiento específico sobre cuándo funciona bien o mal cada herramienta (Bittencourt, 2025). Las instituciones, por su parte, necesitan definir el contexto de uso, los protocolos, los flujos de trabajo, el entrenamiento y la certificación.

En radiología, la recomendación es que los profesionales tengan alfabetización en IA para reconocer los modos de falla y calibrar la confianza (Kocak y Cuocolo, 2026). Los mismos autores recuerdan que la IA puede funcionar como segunda opinión o red de seguridad, y no como sustituta de la lectura. La revisión sobre IA generativa añade la presencia de un humano en el circuito de decisión, la explicabilidad de los sistemas, la gobernanza y la recapacitación de los profesionales (Al-Anezi, 2026).

Una rutina para usar la sugerencia

La secuencia siguiente es didáctica y se armó a partir de las recomendaciones citadas arriba. No sustituye los protocolos locales.

1. Forme su hipótesis antes. En el estudio con estudiantes, el orden de las hipótesis se registró antes y después de la consulta a la IA (Hayden y colaboradores, 2026).
2. Pregunte para qué se hizo la herramienta. El entrenamiento específico incluye saber cuándo suele acertar y cuándo suele fallar (Bittencourt, 2025).
3. Revise la sugerencia. El error de comisión es seguir una orientación equivocada (Sujan y colaboradores, 2019).
4. Termine la búsqueda completa. El error de omisión es dejar de actuar porque el sistema no avisó (Sujan y colaboradores, 2019).
5. Desconfíe más en el caso atípico. El riesgo crece cuando el problema es sutilmente único (Magrabi y colaboradores, 2019).
6. Registre cuando no esté de acuerdo. La supervisión humana estructurada es parte de la garantía de calidad (Arjmandi y colaboradores, 2026).

De vuelta al turno

El residente de la escena hizo lo que muchos harían: miró con cuidado lo que la máquina mostró y revisó menos lo que no mostró. Según los pasos anteriores, habría leído el examen completo antes de abrir la marca, luego habría revisado el área señalada y, por último, habría vuelto al resto del cráneo. El texto sobre cómo organizar el razonamiento en la historia clínica muestra cómo registrar el desacuerdo de forma útil para quien lee después.

Errores como este son material valioso para las sesiones de morbimortalidad, en las que el equipo discute lo que pasó sin buscar culpables. Y el texto sobre telemedicina y razonamiento sin examen presencial muestra otro escenario en el que la tecnología se interpone entre el médico y el paciente.

Cómo ayuda NEXO a entrenar ese razonamiento

En NEXO, el caso del día es ficticio, con presentación clínica real y hasta seis pistas progresivas, y usted propone el diagnóstico buscando el código en la CIE-10.

Los límites de uso del juego están descritos en la página de economía de NEXO. Si usted investiga la enseñanza del razonamiento clínico, la página para Researcher explica cómo entrar en contacto. Los profesionales que escriben o revisan casos encuentran información en Curator y en Creators, y las instituciones pueden conocer la propuesta en la página para alianzas. Saber encontrar el código correcto en la CIE-10 ayuda a registrar el diagnóstico de forma que otros puedan usar el dato.

Preguntas frecuentes

¿El sesgo de automatización aparece solo con inteligencia artificial?

Se describió primero en la aviación, con pilotos que dejaban de monitorear indicadores de vuelo o de desconectar el piloto automático en caso de falla (Sujan y colaboradores, 2019).

¿Los médicos experimentados también se ven afectados?

En patología, la sugerencia errónea de la IA redujo el acierto en todos los niveles de experiencia (Kiani y colaboradores, 2020).

¿La IA mejora el desempeño de quien la usa?

Mejora cuando acierta, y el mayor beneficio entre estudiantes apareció en los que habían tenido peor resultado antes de la consulta (Hayden y colaboradores, 2026).

¿Cuál es la mejor defensa contra el sesgo de automatización?

Las revisiones señalan educación general sobre IA sumada a entrenamiento específico sobre cuándo cada herramienta acierta o falla (Bittencourt, 2025).

Mensajes para llevar

• El sesgo de automatización es confiar en la salida de la máquina más que en el propio juicio.
• Genera errores de omisión, cuando el sistema no avisa, y de comisión, cuando el sistema orienta mal.
• La misma ayuda que mejora el acierto cuando está en lo correcto reduce el acierto cuando está equivocada.
• La experiencia ayuda poco: lectores y patólogos de todos los niveles se vieron influenciados.
• La precisión publicada describe al algoritmo solo, y no a la dupla de médico y máquina.
• El riesgo crece en el caso atípico, en el que la máquina tiene menos base.
• Formar la hipótesis antes de consultar la herramienta preserva el razonamiento propio.

¿Quiere practicar el razonamiento con pistas progresivas? Juegue el caso del día.

Referencias

1. Al-Anezi FM. Generative Artificial Intelligence in Healthcare: Automation Bias, Deskilling, and Cognitive Implications - A Systematic Review. J Healthc Leadersh. 2026. PMID 42445869.
2. Arjmandi N, Sebzari AR, Molaei F, et al. Clinical validation of AI-assisted contouring in prostate radiation therapy treatment planning: Highlighting automation bias and the need for standardized quality assurance. J Appl Clin Med Phys. 2026. PMID 41414851.
3. Bittencourt MS. Will You Tell Them When They Are Wrong? Automation Bias and Artificial Intelligence in Medicine. Arq Bras Cardiol. 2025. PMID 40667888.
4. Campion JR, O'Connor DB, Lahiff C. Human-artificial intelligence interaction in gastrointestinal endoscopy. World J Gastrointest Endosc. 2024. PMID 38577646.
5. Challen R, Denny J, Pitt M, et al. Artificial intelligence, bias and clinical safety. BMJ Qual Saf. 2019. PMID 30636200.
6. Frazer HML, Peña-Solorzano CA, Kwok CF, et al. Comparison of AI-integrated pathways with human-AI interaction in population mammographic screening for breast cancer. Nat Commun. 2024. PMID 39214982.
7. Hayden R, Blanco M, Ramesh S, et al. Diagnostic reasoning with and without AI: automation bias in pre-clerkship medical students. BMC Med Educ. 2026. PMID 42482261.
8. Heudel PE, Crochet H, Filori Q, et al. Artificial intelligence in medicine: a scoping review of the risk of deskilling and loss of expertise among physicians. ESMO Real World Data Digit Oncol. 2026. PMID 41890350.
9. Kiani A, Uyumazturk B, Rajpurkar P, et al. Impact of a deep learning assistant on the histopathologic classification of liver cancer. NPJ Digit Med. 2020. PMID 32140566.
10. Kim SH, Schramm S, Riedel EO, et al. Automation bias in AI-assisted detection of cerebral aneurysms on time-of-flight MR angiography. Radiol Med. 2025. PMID 39939458.
11. Kocak B, Cuocolo R. Human-AI interaction and collaboration in radiology: from conceptual frameworks to responsible implementation. Diagn Interv Radiol. 2026. PMID 41582537.
12. Lyell D, Magrabi F, Raban MZ, et al. Automation bias in electronic prescribing. BMC Med Inform Decis Mak. 2017. PMID 28302112.
13. Magrabi F, Ammenwerth E, McNair JB, et al. Artificial Intelligence in Clinical Decision Support: Challenges for Evaluating AI and Practical Implications. Yearb Med Inform. 2019. PMID 31022752.
14. Sujan M, Furniss D, Grundy K, et al. Human factors challenges for the safe use of artificial intelligence in patient care. BMJ Health Care Inform. 2019. PMID 31780459.