Viés de automação: quando se confia demais na máquina

São três da manhã em uma emergência movimentada. Um residente do segundo ano revisa uma tomografia de crânio enquanto o sistema de apoio marca, em vermelho, uma área suspeita no lobo frontal. Ele aumenta a imagem, concorda com a marcação e passa para o próximo paciente. Duas horas depois, a radiologista de plantão olha o mesmo exame e não encontra nada na área marcada, mas vê um pequeno sangramento do outro lado, que o sistema não apontou. A cena é fictícia e foi escrita para ensino.

Este texto trata do viés de automação, a tendência de confiar mais na saída de um sistema automatizado do que nos próprios sinais clínicos. A proposta é olhar para o que os estudos mostram sobre prescrição eletrônica, imagem, patologia e endoscopia, e para o que cada achado ensina sobre o raciocínio. Se você joga o caso do dia no NEXO, vai reconhecer o desafio: cada pista nova pede que você pese a informação, e não que a aceite só porque apareceu na tela.

Principais pontos

• O viés de automação é a tendência de confiar na saída de ferramentas automáticas mais do que no próprio julgamento ou na opinião de outras pessoas.
• Ele produz dois tipos de erro: deixar de agir porque o sistema não alertou e seguir uma orientação errada do sistema.
• Em patologia, a mesma ajuda que melhorou o acerto quando a sugestão estava certa reduziu o acerto quando estava errada.
• Leitores de todos os níveis de experiência foram influenciados por achados falsos positivos da IA em angiorressonância.
• Estudantes ajudados por um chatbot melhoraram em média, mas não distinguiram bem a influência útil da prejudicial.
• Revisões recentes listam o viés de automação entre os temas mais recorrentes nos estudos de IA generativa.

O que é viés de automação

O conceito veio da aviação. Estudos dos anos 1980 e 1990 e análises de relatos de incidentes mostraram que pilotos muitas vezes deixavam de monitorar indicadores importantes de voo ou de desligar o piloto automático quando ele falhava (Sujan e colaboradores, 2019). O fenômeno recebeu o nome de viés de automação, ou complacência induzida pela automação, e é um exemplo de decisão inadequada por confiança excessiva na máquina.

Na medicina, a definição é parecida. O viés de automação é a tendência humana de se apoiar em saídas de ferramentas automatizadas em vez de sinais não automatizados, como o julgamento pessoal ou a opinião de outras pessoas (Bittencourt, 2025). Uma revisão sobre radiologia resume a ideia em uma linha: é a tendência sistemática de aceitar sugestões da IA mesmo quando elas estão erradas (Kocak e Cuocolo, 2026).

Viés de automação e complacência

O mesmo autor separa dois conceitos próximos. A complacência é uma confiança indevida que leva a menos vigilância e a uma aceitação sem crítica da saída do sistema (Bittencourt, 2025). Na prática, os dois andam juntos. Quem confia demais confere menos, e quem confere menos tende a aceitar o que aparece.

Em endoscopia digestiva, o viés de automação foi descrito como a propensão a se desligar cognitivamente de tarefas entregues a uma tecnologia externa, com perda de consciência situacional (Campion e colaboradores, 2024). A expressão ajuda a entender a cena do plantão. O residente olhou a área marcada com atenção, mas deixou de varrer o restante do exame com a mesma atenção.

Omissão e comissão

O viés de automação pode gerar erros de omissão, quando a pessoa deixa de tomar uma ação necessária porque o sistema não avisou, e erros de comissão, quando a pessoa segue uma orientação inadequada do sistema (Sujan e colaboradores, 2019). A cena do plantão tem os dois. Aceitar a marcação errada no lobo frontal é comissão. Deixar passar o sangramento que o sistema não apontou é omissão.

Essa divisão é útil para o raciocínio porque cada erro pede uma defesa diferente. Contra a comissão, a defesa é conferir a sugestão antes de aceitá-la. Contra a omissão, a defesa é manter a busca completa mesmo quando o sistema fica em silêncio. O texto sobre incerteza diagnóstica mostra como tolerar a dúvida sem parar a investigação cedo demais.

O lado oposto: a aversão ao algoritmo

Existe também o erro contrário. A aversão ao algoritmo é ignorar a saída da IA por desconfiança (Kocak e Cuocolo, 2026). Em endoscopia, quando o usuário vê o algoritmo errar, fica muito mais propenso a desconsiderar as orientações seguintes do mesmo sistema (Campion e colaboradores, 2024). Entre um extremo e outro está a confiança calibrada, que é o que os autores defendem: saber quando a ferramenta costuma acertar e quando costuma falhar.

O que os estudos mostram na prescrição e na imagem

As evidências mais diretas vêm de experimentos em que a qualidade da sugestão é controlada pelos pesquisadores. Assim dá para ver o que acontece com o profissional quando a máquina acerta e quando erra, o que raramente se consegue observar na rotina.

Prescrição eletrônica

Um experimento com prescrição eletrônica variou a qualidade do apoio à decisão, com apoio correto, incorreto ou ausente, e a complexidade da tarefa, com e sem interrupção (Lyell e colaboradores, 2017). Comparado a cenários sem apoio, o apoio correto reduziu os erros de omissão, ou seja, as falhas em perceber erros de prescrição. O apoio incorreto aumentou esses erros. Os participantes também cometeram erros de comissão, aceitando alertas falsos positivos, em todos os níveis de complexidade testados.

O desenho do estudo mostra o ponto central do problema. A mesma ferramenta que ajuda quando está certa atrapalha quando está errada, e quem a usa tem dificuldade de perceber a diferença no momento da decisão. O texto sobre tomada de decisão clínica discute como pesar uma informação nova pelo que ela muda na conduta.

Angiorressonância e aneurismas cerebrais

Um estudo em angiorressonância cerebral montou um conjunto de exames em que metade tinha pelo menos um achado falso positivo da IA (Kim e colaboradores, 2025). Os resultados falsos positivos aumentaram de forma significativa a suspeita de aneurisma entre os leitores. Os menos experientes recomendaram exames de seguimento mais intensos quando viam um falso positivo da IA, com p = 0,005 (Kim e colaboradores, 2025).

O mesmo estudo mediu o tempo de leitura. Com a ajuda da IA, os leitores inexperientes leram em média em 164,1 segundos contra 228,2 sem ajuda, e os muito experientes em 117,9 contra 153,5 (Kim e colaboradores, 2025). O ganho de velocidade apareceu em todos os níveis. Os autores concluíram que leitores de radiologia são suscetíveis ao viés de automação diante de achados falsos positivos da IA.

Para o raciocínio, vale lembrar um detalhe que o próprio artigo destaca: em rastreamentos com muitos exames normais, até testes muito precisos produzem mais falsos positivos do que verdadeiros positivos, o chamado paradoxo do falso positivo (Kim e colaboradores, 2025). O texto sobre taxa básica no diagnóstico explica por que isso acontece.

Rastreamento mamográfico

Uma simulação com uma grande base de mamografias de Victoria, na Austrália, testou cinco formas de integrar a IA ao rastreamento e analisou o efeito da interação entre humanos e máquina (Frazer e colaboradores, 2024). Usada como segundo leitor ou como filtro de alta confiança, a IA melhorou os resultados e reduziu o volume de leituras humanas. O viés de automação piorou o desempenho em arranjos com vários leitores e melhorou o desempenho de leitores únicos (Frazer e colaboradores, 2024). O efeito depende de como a ferramenta entra no fluxo de trabalho.

O que os estudos mostram na patologia, na endoscopia e na radioterapia

Os achados em imagem se repetem em outras áreas que dependem de reconhecimento visual. Em cada uma, a pergunta é a mesma: o que acontece com o desempenho do profissional quando a sugestão está errada?

Patologia hepática

Um assistente de aprendizado profundo foi testado na classificação de câncer de fígado por 11 patologistas com níveis diferentes de experiência (Kiani e colaboradores, 2020). O assistente sozinho acertou bastante em lâminas de validação e de teste. Mesmo assim, o uso da ferramenta não mudou a acurácia média do grupo, e só melhorou o acerto de um subgrupo de nove patologistas com níveis de experiência bem definidos.

O dado mais importante veio da análise por caso. Quando a previsão do modelo estava correta, a ajuda aumentou muito o acerto, com razão de chances de 4,289 (Kiani e colaboradores, 2020). Quando a previsão estava errada, a ajuda reduziu o acerto, com razão de chances de 0,253, e os dois efeitos apareceram em todos os níveis de experiência e de dificuldade (Kiani e colaboradores, 2020). Os autores pedem que os riscos da assistência sejam considerados já no desenho e no teste dessas ferramentas.

Endoscopia digestiva

Na colonoscopia, os sistemas de detecção auxiliada por computador foram priorizados para melhorar a taxa de detecção de adenomas (Campion e colaboradores, 2024). Os primeiros resultados foram animadores, mas alguns estudos de vida real mostraram efeitos menores ou nenhum efeito, além de mais retiradas desnecessárias de pólipos sem potencial maligno. Os autores sugerem que fatores da interação entre humano e IA ajudam a explicar a diferença entre experimento e vida real.

O mesmo trabalho lembra que esses sistemas também disparam alarmes falsos, em média 2,4 por minuto de retirada do aparelho, e que o efeito dessas repetições sobre o cansaço do endoscopista ainda precisa ser estudado (Campion e colaboradores, 2024). A ferramenta que deveria aliviar a atenção acaba competindo por ela.

Radioterapia de próstata

Em radioterapia, um estudo comparou o contorno manual de estruturas da próstata com o contorno feito pela IA e ajustado por médicos (Arjmandi e colaboradores, 2026). A ajuda da IA melhorou a concordância entre observadores e dentro do mesmo observador. Ainda assim, o contorno ajustado nem sempre superou o manual, e os autores apontam o viés de automação ou a aceitação seletiva como possível influência nos ajustes. A conclusão defende garantia de qualidade estruturada e supervisão humana.

Área	Desenho	Achado sobre o viés	Fonte
Prescrição eletrônica	Experimento com 120 participantes	Apoio incorreto aumentou erros de omissão; alertas falsos foram aceitos	Lyell e colaboradores, 2017
Patologia hepática	11 patologistas com e sem assistente	Sugestão errada reduziu o acerto em todos os níveis	Kiani e colaboradores, 2020
Angiorressonância cerebral	Metade dos exames com falso positivo	Mais suspeita de aneurisma e leitura mais rápida	Kim e colaboradores, 2025
Mamografia	Simulação com cinco arranjos	Viés piorou vários leitores e ajudou leitores únicos	Frazer e colaboradores, 2024
Radioterapia de próstata	Contorno manual e ajustado	Ajuste nem sempre superou o manual	Arjmandi e colaboradores, 2026
Ensino médico	185 estudantes com chatbot	Influência útil e prejudicial pareceram iguais aos alunos	Hayden e colaboradores, 2026

Viés de automação na formação médica

Os estudantes de hoje vão trabalhar com IA durante toda a carreira, e por isso a forma como aprendem a usá-la importa. Um estudo piloto com estudantes do segundo ano montou um exercício em duas partes: uma aula sobre capacidades e limites da IA e um caso clínico em que os alunos ordenavam o diagnóstico diferencial antes e depois de consultar um chatbot (Hayden e colaboradores, 2026).

A aula tratava de alucinações, viés, privacidade e falta de raciocínio clínico genuíno, e o caso terminava com um debate guiado por professores (Hayden e colaboradores, 2026). Em 185 estudantes, o uso da IA se associou a mais acerto diagnóstico, com o maior benefício entre os que tinham ido pior antes da consulta.

O que os alunos perceberam

O achado mais interessante está na percepção. Os 65 alunos que melhoraram e os 26 que pioraram depois de usar a IA deram a ela uma influência maior do que os alunos cujo acerto não mudou (Hayden e colaboradores, 2026). A percepção de influência acompanhou o fato de a IA ter mudado a ordem das hipóteses, fosse a mudança boa ou ruim. Os autores concluíram que os alunos não distinguiram com segurança a influência útil da prejudicial, um padrão compatível com o viés de automação.

Esse resultado conversa com o que se sabe sobre treino com casos. O texto sobre aprendizagem baseada em casos clínicos mostra por que a discussão depois do caso pesa tanto quanto o caso. E treinar com diagnóstico diferencial e pistas ajuda a perceber quando uma informação nova mudou a lista por bons motivos.

Uma revisão sistemática sobre IA generativa encontrou a preocupação com perda de habilidade entre os temas recorrentes, ao lado do viés de automação (Al-Anezi, 2026), e o texto sobre uso de inteligência artificial no raciocínio clínico discute como encaixar essas ferramentas no estudo.

Por que confiamos demais na máquina

Os artigos revisados oferecem algumas explicações que se complementam. A primeira é a forma como a IA é avaliada. A maior parte dos estudos de desempenho usa métricas como sensibilidade, especificidade, acurácia e área sob a curva ROC, e esses números descrevem o algoritmo sozinho, e não a dupla formada por médico e máquina (Bittencourt, 2025). Quem lê um artigo com acurácia alta tende a transferir essa confiança para o uso diário.

A segunda explicação está no próprio funcionamento dos modelos. Sistemas de aprendizado de máquina podem reconhecer mal uma mudança relevante de contexto ou de dados e continuar fazendo previsões erradas com confiança quando recebem casos diferentes dos que viram no treino (Challen e colaboradores, 2019). Os mesmos autores lembram que o clínico muda de comportamento diante de um desfecho potencialmente grave, mesmo que isso reduza sua acurácia aparente, e que a máquina precisa imitar essa prudência.

A terceira explicação é a pressão do tempo. A IA deixou a leitura mais rápida em todos os níveis de experiência no estudo de angiorressonância (Kim e colaboradores, 2025), e a revisão de perda de habilidade descreve trocas de diagnóstico correto sob limite de tempo (Heudel e colaboradores, 2026). Velocidade e conferência competem pela mesma atenção.

Quando o problema é sutil ou raro

Uma revisão sobre avaliação de IA no apoio à decisão descreve o viés de automação como um risco com consequências perigosas quando o sistema erra, falha ou quando o problema do paciente é sutilmente único (Magrabi e colaboradores, 2019). Esse é o caso que mais preocupa no diagnóstico. A doença rara, a apresentação atípica e o paciente fora do perfil do treino são justamente os momentos em que a máquina tem menos base e em que a dúvida do médico mais importa.

Os autores defendem avaliação rigorosa antes e durante o uso, porque o comportamento dos algoritmos pode mudar com o tempo e com o contexto (Magrabi e colaboradores, 2019). A probabilidade pré-teste é uma boa âncora aqui: uma marcação da IA é um teste, e seu valor depende de quem é o paciente.

Como se proteger no dia a dia

As revisões convergem em algumas recomendações. Para reduzir a complacência, são necessárias intervenções em várias frentes: educação geral sobre ferramentas de IA e treino específico sobre quando cada ferramenta funciona bem ou mal (Bittencourt, 2025). As instituições, por sua vez, precisam definir contexto de uso, protocolos, fluxos de trabalho, treino e certificação.

Na radiologia, a recomendação é que os profissionais tenham letramento em IA para reconhecer os modos de falha e calibrar a confiança (Kocak e Cuocolo, 2026). Os mesmos autores lembram que a IA pode funcionar como segunda opinião ou rede de segurança, e não como substituta da leitura. A revisão sobre IA generativa acrescenta a presença de um humano no circuito de decisão, a explicabilidade dos sistemas, a governança e a requalificação dos profissionais (Al-Anezi, 2026).

Uma rotina para usar a sugestão

A sequência abaixo é didática e foi montada a partir das recomendações citadas acima. Ela não substitui protocolos locais.

1. Forme a sua hipótese antes. No estudo com estudantes, a ordem das hipóteses foi registrada antes e depois da consulta à IA (Hayden e colaboradores, 2026).
2. Pergunte para que a ferramenta foi feita. O treino específico inclui saber quando ela costuma acertar e quando costuma falhar (Bittencourt, 2025).
3. Confira a sugestão. O erro de comissão é seguir uma orientação errada (Sujan e colaboradores, 2019).
4. Termine a busca completa. O erro de omissão é deixar de agir porque o sistema não avisou (Sujan e colaboradores, 2019).
5. Desconfie mais no caso atípico. O risco cresce quando o problema é sutilmente único (Magrabi e colaboradores, 2019).
6. Registre quando discordar. A supervisão humana estruturada é parte da garantia de qualidade (Arjmandi e colaboradores, 2026).

De volta ao plantão

O residente da cena fez o que muitos fariam: olhou com cuidado o que a máquina mostrou e conferiu menos o que ela não mostrou. Pelos passos acima, ele teria lido o exame inteiro antes de abrir a marcação, depois conferido a área apontada e, por fim, voltado ao restante do crânio. O texto sobre como organizar o raciocínio no prontuário mostra como registrar a discordância de forma útil para quem lê depois.

Erros como esse são material valioso para as sessões de morbimortalidade, em que a equipe discute o que aconteceu sem procurar culpados. E o texto sobre telemedicina e raciocínio sem exame presencial mostra outro cenário em que a tecnologia entra entre o médico e o paciente.

Como o NEXO ajuda a treinar esse raciocínio

No NEXO, o caso do dia é fictício, com apresentação clínica real e até seis pistas progressivas, e você propõe o diagnóstico buscando o código na CID-10.

Os limites de uso do jogo estão descritos na página de economia do NEXO. Se você pesquisa ensino de raciocínio clínico, a página para pesquisadores explica como entrar em contato. Profissionais que escrevem ou revisam casos encontram informações em curadoria e em criadores, e instituições podem conhecer a proposta na página para parcerias. Saber encontrar o código certo na CID-10 ajuda a registrar o diagnóstico de forma que outros possam usar o dado.

Perguntas frequentes

O viés de automação aparece só com inteligência artificial?

Ele foi descrito primeiro na aviação, com pilotos que deixavam de monitorar indicadores de voo ou de desligar o piloto automático em caso de falha (Sujan e colaboradores, 2019).

Médicos experientes também são afetados?

Em patologia, a sugestão errada da IA reduziu o acerto em todos os níveis de experiência (Kiani e colaboradores, 2020).

A IA melhora o desempenho de quem a usa?

Ela melhora quando acerta, e o maior benefício entre estudantes apareceu nos que tinham ido pior antes da consulta (Hayden e colaboradores, 2026).

Qual é a melhor defesa contra o viés de automação?

As revisões apontam educação geral sobre IA somada a treino específico sobre quando cada ferramenta acerta ou falha (Bittencourt, 2025).

Take-home messages

• O viés de automação é confiar na saída da máquina mais do que no próprio julgamento.
• Ele gera erros de omissão, quando o sistema não avisa, e de comissão, quando o sistema orienta errado.
• A mesma ajuda que melhora o acerto quando está certa reduz o acerto quando está errada.
• Experiência ajuda pouco: leitores e patologistas de todos os níveis foram influenciados.
• A acurácia publicada descreve o algoritmo sozinho, e não a dupla médico e máquina.
• O risco cresce no caso atípico, em que a máquina tem menos base.
• Formar a hipótese antes de consultar a ferramenta preserva o raciocínio próprio.

Quer praticar o raciocínio com pistas progressivas? Jogue o caso do dia.

Referências

1. Al-Anezi FM. Generative Artificial Intelligence in Healthcare: Automation Bias, Deskilling, and Cognitive Implications - A Systematic Review. J Healthc Leadersh. 2026. PMID 42445869.
2. Arjmandi N, Sebzari AR, Molaei F, et al. Clinical validation of AI-assisted contouring in prostate radiation therapy treatment planning: Highlighting automation bias and the need for standardized quality assurance. J Appl Clin Med Phys. 2026. PMID 41414851.
3. Bittencourt MS. Will You Tell Them When They Are Wrong? Automation Bias and Artificial Intelligence in Medicine. Arq Bras Cardiol. 2025. PMID 40667888.
4. Campion JR, O'Connor DB, Lahiff C. Human-artificial intelligence interaction in gastrointestinal endoscopy. World J Gastrointest Endosc. 2024. PMID 38577646.
5. Challen R, Denny J, Pitt M, et al. Artificial intelligence, bias and clinical safety. BMJ Qual Saf. 2019. PMID 30636200.
6. Frazer HML, Peña-Solorzano CA, Kwok CF, et al. Comparison of AI-integrated pathways with human-AI interaction in population mammographic screening for breast cancer. Nat Commun. 2024. PMID 39214982.
7. Hayden R, Blanco M, Ramesh S, et al. Diagnostic reasoning with and without AI: automation bias in pre-clerkship medical students. BMC Med Educ. 2026. PMID 42482261.
8. Heudel PE, Crochet H, Filori Q, et al. Artificial intelligence in medicine: a scoping review of the risk of deskilling and loss of expertise among physicians. ESMO Real World Data Digit Oncol. 2026. PMID 41890350.
9. Kiani A, Uyumazturk B, Rajpurkar P, et al. Impact of a deep learning assistant on the histopathologic classification of liver cancer. NPJ Digit Med. 2020. PMID 32140566.
10. Kim SH, Schramm S, Riedel EO, et al. Automation bias in AI-assisted detection of cerebral aneurysms on time-of-flight MR angiography. Radiol Med. 2025. PMID 39939458.
11. Kocak B, Cuocolo R. Human-AI interaction and collaboration in radiology: from conceptual frameworks to responsible implementation. Diagn Interv Radiol. 2026. PMID 41582537.
12. Lyell D, Magrabi F, Raban MZ, et al. Automation bias in electronic prescribing. BMC Med Inform Decis Mak. 2017. PMID 28302112.
13. Magrabi F, Ammenwerth E, McNair JB, et al. Artificial Intelligence in Clinical Decision Support: Challenges for Evaluating AI and Practical Implications. Yearb Med Inform. 2019. PMID 31022752.
14. Sujan M, Furniss D, Grundy K, et al. Human factors challenges for the safe use of artificial intelligence in patient care. BMJ Health Care Inform. 2019. PMID 31780459.