Automatisierungsverzerrung: zu viel Vertrauen

Es ist drei Uhr morgens in einer belebten Notaufnahme. Ein Assistenzarzt im zweiten Jahr prüft eine Schädel-CT, während das Unterstützungssystem in Rot einen verdächtigen Bereich im Frontallappen markiert. Er vergrößert das Bild, stimmt der Markierung zu und geht zum nächsten Patienten. Zwei Stunden später sieht die diensthabende Radiologin dieselbe Untersuchung und findet in dem markierten Bereich nichts, erkennt aber auf der anderen Seite eine kleine Blutung, die das System nicht angezeigt hat. Die Szene ist fiktiv und wurde für den Unterricht geschrieben.

Dieser Text behandelt den Automatisierungsbias, die Neigung, der Ausgabe eines automatisierten Systems mehr zu vertrauen als den eigenen klinischen Zeichen. Der Vorschlag ist, darauf zu schauen, was die Studien zu elektronischer Verordnung, Bildgebung, Pathologie und Endoskopie zeigen, und darauf, was jeder Befund über das Denken lehrt. Wenn Sie den Fall des Tages in NEXO spielen, werden Sie die Herausforderung wiedererkennen: Jeder neue Hinweis verlangt, dass Sie die Information abwägen, und nicht, dass Sie sie nur annehmen, weil sie auf dem Bildschirm erschienen ist.

Die wichtigsten Punkte

• Der Automatisierungsbias ist die Neigung, der Ausgabe automatischer Werkzeuge mehr zu vertrauen als dem eigenen Urteil oder der Meinung anderer Personen.
• Er erzeugt zwei Arten von Fehlern: nicht zu handeln, weil das System nicht gewarnt hat, und einer falschen Empfehlung des Systems zu folgen.
• In der Pathologie verringerte dieselbe Hilfe, die die Trefferquote verbesserte, wenn der Vorschlag richtig war, die Trefferquote, wenn er falsch war.
• Leser aller Erfahrungsstufen wurden bei der Angio-MRT von falsch-positiven Befunden der KI beeinflusst.
• Studierende, denen ein Chatbot half, verbesserten sich im Durchschnitt, unterschieden aber den nützlichen Einfluss nicht gut vom schädlichen.
• Aktuelle Übersichten nennen den Automatisierungsbias unter den häufigsten Themen in Studien zu generativer KI.

Was der Automatisierungsbias ist

Das Konzept stammt aus der Luftfahrt. Studien aus den 1980er und 1990er Jahren und Analysen von Berichten über Zwischenfälle zeigten, dass Piloten oft wichtige Fluganzeigen nicht mehr überwachten oder den Autopiloten nicht abschalteten, wenn er versagte (Sujan und Mitarbeiter, 2019). Das Phänomen erhielt den Namen Automatisierungsbias, oder durch Automatisierung ausgelöste Selbstzufriedenheit, und ist ein Beispiel für eine unangemessene Entscheidung durch übermäßiges Vertrauen in die Maschine.

In der Medizin ist die Definition ähnlich. Der Automatisierungsbias ist die menschliche Neigung, sich auf Ausgaben automatisierter Werkzeuge zu stützen statt auf nicht automatisierte Zeichen wie das eigene Urteil oder die Meinung anderer Personen (Bittencourt, 2025). Eine Übersicht zur Radiologie fasst die Idee in einer Zeile zusammen: Es ist die systematische Neigung, Vorschläge der KI anzunehmen, auch wenn sie falsch sind (Kocak und Cuocolo, 2026).

Automatisierungsbias und Selbstzufriedenheit

Derselbe Autor trennt zwei verwandte Konzepte. Selbstzufriedenheit ist ein unangemessenes Vertrauen, das zu weniger Wachsamkeit und zu einer unkritischen Annahme der Ausgabe des Systems führt (Bittencourt, 2025). In der Praxis gehen beide zusammen. Wer zu sehr vertraut, prüft weniger, und wer weniger prüft, neigt dazu, das anzunehmen, was erscheint.

In der gastrointestinalen Endoskopie wurde der Automatisierungsbias als die Neigung beschrieben, sich kognitiv von Aufgaben abzuschalten, die einer externen Technologie übergeben werden, mit Verlust des Situationsbewusstseins (Campion und Mitarbeiter, 2024). Der Ausdruck hilft, die Szene im Dienst zu verstehen. Der Assistenzarzt betrachtete den markierten Bereich aufmerksam, hörte aber auf, den Rest der Untersuchung mit derselben Aufmerksamkeit zu durchsuchen.

Unterlassung und Begehung

Der Automatisierungsbias kann Unterlassungsfehler erzeugen, wenn die Person eine notwendige Handlung nicht vornimmt, weil das System nicht gewarnt hat, und Begehungsfehler, wenn die Person einer unangemessenen Empfehlung des Systems folgt (Sujan und Mitarbeiter, 2019). Die Szene im Dienst enthält beide. Die falsche Markierung im Frontallappen anzunehmen ist Begehung. Die Blutung durchgehen zu lassen, die das System nicht angezeigt hat, ist Unterlassung.

Diese Unterscheidung ist für das Denken nützlich, weil jeder Fehler eine andere Absicherung verlangt. Gegen die Kommission ist die Absicherung, den Vorschlag zu prüfen, bevor man ihn annimmt. Gegen die Omission ist die Absicherung, die Suche vollständig zu halten, auch wenn das System schweigt. Der Text über diagnostische Unsicherheit zeigt, wie man den Zweifel aushält, ohne die Untersuchung zu früh zu beenden.

Die Gegenseite: die Abneigung gegen den Algorithmus

Es gibt auch den umgekehrten Fehler. Die Abneigung gegen den Algorithmus bedeutet, die Ausgabe der KI aus Misstrauen zu ignorieren (Kocak und Cuocolo, 2026). In der Endoskopie ist der Nutzer, wenn er den Algorithmus einen Fehler machen sieht, viel eher geneigt, die folgenden Hinweise desselben Systems zu verwerfen (Campion und Mitarbeiter, 2024). Zwischen dem einen und dem anderen Extrem liegt das kalibrierte Vertrauen, das die Autoren befürworten: zu wissen, wann das Werkzeug meist richtig liegt und wann es meist versagt.

Was die Studien bei der Verordnung und in der Bildgebung zeigen

Die direktesten Belege stammen aus Experimenten, in denen die Forscher die Qualität des Vorschlags kontrollieren. So lässt sich sehen, was mit der Fachkraft geschieht, wenn die Maschine richtig liegt und wenn sie irrt, was sich im Alltag selten beobachten lässt.

Elektronische Verordnung

Ein Experiment zur elektronischen Verordnung variierte die Qualität der Entscheidungshilfe, mit richtiger, falscher oder fehlender Hilfe, und die Komplexität der Aufgabe, mit und ohne Unterbrechung (Lyell und Mitarbeiter, 2017). Verglichen mit Szenarien ohne Hilfe verringerte die richtige Hilfe die Omissionsfehler, also die Fehler beim Erkennen von Verordnungsfehlern. Die falsche Hilfe erhöhte diese Fehler. Die Teilnehmer begingen zudem Kommissionsfehler, indem sie falsch positive Warnungen annahmen, auf allen getesteten Komplexitätsstufen.

Das Studiendesign zeigt den Kern des Problems. Dasselbe Werkzeug, das hilft, wenn es richtig liegt, stört, wenn es falsch liegt, und wer es nutzt, hat Schwierigkeiten, den Unterschied im Moment der Entscheidung zu erkennen. Der Text über klinische Entscheidungsfindung erörtert, wie man eine neue Information danach abwägt, was sie am Vorgehen ändert.

Angio-MRT und Hirnaneurysmen

Eine Studie zur zerebralen Angio-MRT stellte einen Satz von Untersuchungen zusammen, bei dem die Hälfte mindestens einen falsch positiven Befund der KI aufwies (Kim und Mitarbeiter, 2025). Falsch positive Ergebnisse erhöhten den Verdacht auf ein Aneurysma bei den Befundern deutlich. Die weniger Erfahrenen empfahlen bei einem falsch positiven Befund der KI intensivere Nachuntersuchungen, mit p = 0,005 (Kim und Mitarbeiter, 2025).

Dieselbe Studie maß die Lesezeit. Mit Hilfe der KI lasen die unerfahrenen Befunder im Mittel in 164,1 Sekunden gegenüber 228,2 ohne Hilfe, und die sehr Erfahrenen in 117,9 gegenüber 153,5 (Kim und Mitarbeiter, 2025). Der Geschwindigkeitsgewinn zeigte sich auf allen Stufen. Die Autoren schlossen, dass Radiologen bei falsch positiven Befunden der KI für den Automatisierungsbias anfällig sind.

Für das Denken lohnt es sich, ein Detail zu bedenken, das der Artikel selbst hervorhebt: Bei Screening-Programmen mit vielen normalen Untersuchungen erzeugen selbst sehr genaue Tests mehr falsch positive als richtig positive Ergebnisse, das sogenannte Paradox des falsch positiven Befunds (Kim und Mitarbeiter, 2025). Der Text über die Grundrate in der Diagnostik erklärt, warum das geschieht.

Mammografie-Screening

Eine Simulation mit einer großen Datenbasis von Mammografien aus Victoria in Australien testete fünf Wege, die KI in das Screening einzubinden, und untersuchte den Effekt der Interaktion zwischen Mensch und Maschine (Frazer und Mitarbeiter, 2024). Als Zweitleser oder als Filter mit hoher Konfidenz verbesserte die KI die Ergebnisse und verringerte den Umfang menschlicher Befundungen. Der Automatisierungsbias verschlechterte die Leistung bei Anordnungen mit mehreren Befundern und verbesserte die Leistung einzelner Befunder (Frazer und Mitarbeiter, 2024). Der Effekt hängt davon ab, wie das Werkzeug in den Arbeitsablauf eingebunden wird.

Was die Studien in der Pathologie, der Endoskopie und der Strahlentherapie zeigen

Die Befunde in der Bildgebung wiederholen sich in anderen Bereichen, die auf visuelle Erkennung angewiesen sind. In jedem lautet die Frage gleich: Was geschieht mit der Leistung der Fachkraft, wenn der Vorschlag falsch ist?

Leberpathologie

Ein Deep-Learning-Assistent wurde bei der Klassifizierung von Leberkrebs durch 11 Pathologen mit unterschiedlichem Erfahrungsniveau getestet (Kiani und Mitarbeiter, 2020). Der Assistent allein schnitt bei Validierungs- und Testobjektträgern recht gut ab. Dennoch veränderte die Nutzung des Werkzeugs die durchschnittliche Genauigkeit der Gruppe nicht und verbesserte nur die Trefferquote einer Untergruppe von neun Pathologen mit klar definierten Erfahrungsniveaus.

Die wichtigste Erkenntnis kam aus der Analyse pro Fall. Wenn die Vorhersage des Modells korrekt war, erhöhte die Hilfe die Trefferquote deutlich, mit einer Odds Ratio von 4,289 (Kiani und Mitarbeiter, 2020). Wenn die Vorhersage falsch war, senkte die Hilfe die Trefferquote, mit einer Odds Ratio von 0,253, und beide Effekte zeigten sich auf allen Erfahrungs- und Schwierigkeitsniveaus (Kiani und Mitarbeiter, 2020). Die Autoren fordern, die Risiken der Unterstützung bereits bei der Gestaltung und Prüfung solcher Werkzeuge zu berücksichtigen.

Gastroskopie

Bei der Koloskopie wurden Systeme zur computergestützten Detektion vorrangig eingesetzt, um die Adenom-Detektionsrate zu verbessern (Campion und Mitarbeiter, 2024). Die ersten Ergebnisse waren ermutigend, doch einige Studien aus der Praxis zeigten geringere oder keine Effekte, zudem mehr unnötige Abtragungen von Polypen ohne malignes Potenzial. Die Autoren vermuten, dass Faktoren der Mensch-KI-Interaktion den Unterschied zwischen Experiment und Praxis erklären.

Dieselbe Arbeit erinnert daran, dass diese Systeme auch Fehlalarme auslösen, im Durchschnitt 2,4 pro Minute beim Zurückziehen des Geräts, und dass die Wirkung dieser Wiederholungen auf die Ermüdung des Endoskopikers noch untersucht werden muss (Campion und Mitarbeiter, 2024). Das Werkzeug, das die Aufmerksamkeit entlasten sollte, konkurriert am Ende um sie.

Prostatastrahlenherapie

In der Strahlentherapie verglich eine Studie die manuelle Konturierung von Prostatastrukturen mit der von der KI erstellten und von Ärzten angepassten Konturierung (Arjmandi und Mitarbeiter, 2026). Die KI-Unterstützung verbesserte die Übereinstimmung zwischen Beobachtern und innerhalb desselben Beobachters. Dennoch übertraf die angepasste Konturierung nicht immer die manuelle, und die Autoren nennen den Automatisierungsbias oder die selektive Übernahme als möglichen Einfluss auf die Anpassungen. Die Schlussfolgerung spricht sich für strukturierte Qualitätssicherung und menschliche Aufsicht aus.

Bereich	Studiendesign	Befund zum Bias	Quelle
Elektronische Verordnung	Experiment mit 120 Teilnehmenden	Falsche Unterstützung erhöhte Auslassungsfehler; Fehlalarme wurden akzeptiert	Lyell und Mitarbeiter, 2017
Leberpathologie	11 Pathologen mit und ohne Assistent	Falscher Vorschlag senkte die Trefferquote auf allen Niveaus	Kiani und Mitarbeiter, 2020
Angio-MRT des Gehirns	Die Hälfte der Untersuchungen mit falsch-positivem Befund	Mehr Verdacht auf Aneurysma und schnellere Befundung	Kim und Mitarbeiter, 2025
Mammografie	Simulation mit fünf Anordnungen	Bias verschlechterte mehrere Leser und half einzelnen Lesern	Frazer und Mitarbeiter, 2024
Prostatastrahlenherapie	Manuelle und angepasste Konturierung	Anpassung übertraf nicht immer die manuelle	Arjmandi und Mitarbeiter, 2026
Medizinische Ausbildung	185 Studierende mit Chatbot	Nützlicher und schädlicher Einfluss erschienen den Studierenden gleich	Hayden und Mitarbeiter, 2026

Automatisierungsbias in der medizinischen Ausbildung

Die Studierenden von heute werden ihr ganzes Berufsleben lang mit KI arbeiten, deshalb ist wichtig, wie sie lernen, sie zu nutzen. Eine Pilotstudie mit Studierenden im zweiten Studienjahr gestaltete eine Übung in zwei Teilen: eine Unterrichtseinheit über Fähigkeiten und Grenzen der KI und einen klinischen Fall, in dem die Studierenden die Differenzialdiagnose vor und nach der Befragung eines Chatbots ordneten (Hayden und Mitarbeiter, 2026).

Die Unterrichtseinheit behandelte Halluzinationen, Bias, Datenschutz und das Fehlen echten klinischen Denkens, und der Fall endete mit einer von Lehrenden geleiteten Diskussion (Hayden und Mitarbeiter, 2026). Bei 185 Studierenden war die Nutzung der KI mit mehr richtigen Diagnosen verbunden, mit dem größten Nutzen bei denen, die vor der Befragung schlechter abgeschnitten hatten.

Was die Studierenden bemerkten

Der interessanteste Befund liegt in der Wahrnehmung. Die 65 Lernenden, die sich verbesserten, und die 26, die sich nach der Nutzung der KI verschlechterten, schrieben ihr einen größeren Einfluss zu als die Lernenden, deren Trefferquote unverändert blieb (Hayden und Mitarbeiter, 2026). Die wahrgenommene Einflussnahme ging damit einher, dass die KI die Reihenfolge der Hypothesen verändert hatte, ob die Veränderung gut oder schlecht war. Die Autoren schlossen, dass die Lernenden den nützlichen Einfluss nicht sicher vom schädlichen unterscheiden konnten, ein Muster, das zum Automatisierungsbias passt.

Dieses Ergebnis passt zu dem, was über das Training mit Fällen bekannt ist. Der Text über fallbasiertes Lernen in der Klinik zeigt, warum die Diskussion nach dem Fall genauso viel wiegt wie der Fall selbst. Und das Training mit Differenzialdiagnose und Hinweisen hilft zu erkennen, wann eine neue Information die Liste aus guten Gründen verändert hat.

Eine systematische Übersichtsarbeit über generative KI fand die Sorge um den Verlust von Fähigkeiten unter den wiederkehrenden Themen, neben dem Automatisierungsbias (Al-Anezi, 2026), und der Text über die Nutzung künstlicher Intelligenz im klinischen Denken erörtert, wie sich diese Werkzeuge in das Lernen einfügen lassen.

Warum wir der Maschine zu sehr vertrauen

Die gesichteten Artikel bieten einige Erklärungen, die sich ergänzen. Die erste ist die Art, wie KI bewertet wird. Die meisten Leistungsstudien verwenden Kennzahlen wie Sensitivität, Spezifität, Genauigkeit und Fläche unter der ROC-Kurve, und diese Zahlen beschreiben den Algorithmus allein und nicht das Gespann aus Arzt und Maschine (Bittencourt, 2025). Wer einen Artikel mit hoher Genauigkeit liest, neigt dazu, dieses Vertrauen auf den Alltag zu übertragen.

Die zweite Erklärung liegt in der Funktionsweise der Modelle selbst. Systeme des maschinellen Lernens können eine relevante Änderung des Kontexts oder der Daten schlecht erkennen und weiterhin mit Zuversicht falsche Vorhersagen treffen, wenn sie Fälle erhalten, die von denen im Training abweichen (Challen und Mitarbeiter, 2019). Dieselben Autoren erinnern daran, dass der Kliniker sein Verhalten angesichts eines potenziell schwerwiegenden Ausgangs ändert, selbst wenn das seine scheinbare Genauigkeit verringert, und dass die Maschine diese Vorsicht nachahmen muss.

Die dritte Erklärung ist der Zeitdruck. Die KI beschleunigte die Befundung in allen Erfahrungsstufen in der Studie zur Magnetresonanzangiografie (Kim und Mitarbeiter, 2025), und die Übersichtsarbeit zum Verlust von Fähigkeiten beschreibt Einbußen bei der korrekten Diagnose unter Zeitdruck (Heudel und Mitarbeiter, 2026). Geschwindigkeit und Überprüfung konkurrieren um dieselbe Aufmerksamkeit.

Wenn das Problem subtil oder selten ist

Eine Übersichtsarbeit zur Bewertung von KI in der Entscheidungsunterstützung beschreibt den Automatisierungsbias als ein Risiko mit gefährlichen Folgen, wenn das System irrt, ausfällt oder wenn das Problem des Patienten auf subtile Weise einzigartig ist (Magrabi und Mitarbeiter, 2019). Das ist der Fall, der in der Diagnose am meisten beunruhigt. Die seltene Krankheit, die atypische Präsentation und der Patient außerhalb des Trainingsprofils sind genau die Momente, in denen die Maschine die geringste Grundlage hat und in denen der Zweifel des Arztes am meisten zählt.

Die Autoren fordern eine strenge Bewertung vor und während der Nutzung, weil sich das Verhalten der Algorithmen mit der Zeit und mit dem Kontext ändern kann (Magrabi und Mitarbeiter, 2019). Die Prätestwahrscheinlichkeit ist hier ein guter Anker: Eine Markierung der KI ist ein Test, und ihr Wert hängt davon ab, wer der Patient ist.

Wie man sich im Alltag schützt

Die Übersichtsarbeiten stimmen in einigen Empfehlungen überein. Um die Gefälligkeit zu verringern, sind Maßnahmen an mehreren Fronten nötig: allgemeine Aufklärung über KI-Werkzeuge und gezieltes Training dazu, wann jedes Werkzeug gut oder schlecht funktioniert (Bittencourt, 2025). Die Institutionen wiederum müssen den Nutzungskontext, Protokolle, Arbeitsabläufe, Schulung und Zertifizierung festlegen.

In der Radiologie lautet die Empfehlung, dass die Fachleute KI-Kompetenz besitzen, um die Fehlermodi zu erkennen und das Vertrauen zu kalibrieren (Kocak und Cuocolo, 2026). Dieselben Autoren erinnern daran, dass die KI als Zweitmeinung oder Sicherheitsnetz dienen kann und nicht als Ersatz für die Befundung. Die Übersichtsarbeit über generative KI ergänzt die Anwesenheit eines Menschen im Entscheidungskreis, die Erklärbarkeit der Systeme, die Governance und die Qualifizierung der Fachleute (Al-Anezi, 2026).

Eine Routine für den Umgang mit dem Vorschlag

Die folgende Abfolge ist didaktisch aufgebaut und wurde aus den oben genannten Empfehlungen zusammengestellt. Sie ersetzt keine lokalen Protokolle.

1. Bilden Sie Ihre Hypothese vorher. In der Studie mit Studierenden wurde die Reihenfolge der Hypothesen vor und nach der Konsultation der KI erfasst (Hayden und Mitarbeiter, 2026).
2. Fragen Sie, wofür das Werkzeug gemacht wurde. Das gezielte Training umfasst zu wissen, wann es meist richtig liegt und wann es meist versagt (Bittencourt, 2025).
3. Prüfen Sie den Vorschlag. Der Begehungsfehler ist, einer falschen Empfehlung zu folgen (Sujan und Mitarbeiter, 2019).
4. Schließen Sie die vollständige Suche ab. Der Unterlassungsfehler ist, nicht zu handeln, weil das System nicht gewarnt hat (Sujan und Mitarbeiter, 2019).
5. Misstrauen Sie im atypischen Fall mehr. Das Risiko steigt, wenn das Problem subtil einzigartig ist (Magrabi und Mitarbeiter, 2019).
6. Dokumentieren Sie, wenn Sie widersprechen. Die strukturierte menschliche Aufsicht ist Teil der Qualitätssicherung (Arjmandi und Mitarbeiter, 2026).

Zurück zum Dienst

Der Assistenzarzt in der Szene tat, was viele tun würden: Er sah sich sorgfältig an, was die Maschine zeigte, und prüfte weniger, was sie nicht zeigte. Nach den obigen Schritten hätte er die gesamte Untersuchung gelesen, bevor er die Markierung öffnete, dann den markierten Bereich geprüft und schließlich zum übrigen Schädel zurückgekehrt. Der Text darüber, wie man das Denken in der Patientenakte ordnet, zeigt, wie man den Widerspruch so dokumentiert, dass er für die später Lesenden nützlich ist.

Fehler wie dieser sind wertvolles Material für die Morbiditäts- und Mortalitätssitzungen, in denen das Team bespricht, was geschehen ist, ohne Schuldige zu suchen. Und der Text über Telemedizin und Denken ohne Untersuchung vor Ort zeigt ein weiteres Szenario, in dem die Technologie zwischen Arzt und Patient tritt.

Wie NEXO hilft, dieses Denken zu trainieren

Bei NEXO ist der Fall des Tages fiktiv, mit echter klinischer Darstellung und bis zu sechs fortschreitenden Hinweisen, und Sie stellen die Diagnose, indem Sie den Code in der ICD-10 suchen.

Die Grenzen der Nutzung des Spiels sind auf der Seite Wirtschaft von NEXO beschrieben. Wenn Sie die Lehre des klinischen Denkens erforschen, erklärt die Seite für Researcher, wie Sie Kontakt aufnehmen. Fachleute, die Fälle schreiben oder überarbeiten, finden Informationen unter Curator und unter Creators, und Institutionen können das Angebot auf der Seite für Partnerschaften kennenlernen. Zu wissen, wie man den richtigen Code in der ICD-10 findet, hilft, die Diagnose so zu dokumentieren, dass andere die Angabe nutzen können.

Häufige Fragen

Tritt der Automatisierungsbias nur bei künstlicher Intelligenz auf?

Er wurde zuerst in der Luftfahrt beschrieben, bei Piloten, die aufhörten, Fluginstrumente zu überwachen, oder den Autopiloten bei einer Störung nicht abschalteten (Sujan und Mitarbeiter, 2019).

Sind auch erfahrene Ärzte betroffen?

In der Pathologie verringerte der falsche Vorschlag der KI die Trefferquote auf allen Erfahrungsstufen (Kiani und Mitarbeiter, 2020).

Verbessert die KI die Leistung derer, die sie nutzen?

Sie verbessert sie, wenn sie richtig liegt, und der größte Nutzen zeigte sich bei Studierenden, die vor der Konsultation schlechter abgeschnitten hatten (Hayden und Mitarbeiter, 2026).

Was ist die beste Verteidigung gegen den Automatisierungsbias?

Die Übersichtsarbeiten nennen allgemeine Bildung über KI zusammen mit gezieltem Training dazu, wann jedes Werkzeug richtig liegt oder versagt (Bittencourt, 2025).

Take-home messages

• Der Automatisierungsbias ist, der Ausgabe der Maschine mehr zu vertrauen als dem eigenen Urteil.
• Er erzeugt Unterlassungsfehler, wenn das System nicht warnt, und Begehungsfehler, wenn das System falsch anleitet.
• Dieselbe Hilfe, die die Trefferquote verbessert, wenn sie richtig ist, verringert sie, wenn sie falsch ist.
• Erfahrung hilft wenig: Leser und Pathologen aller Stufen wurden beeinflusst.
• Die veröffentlichte Genauigkeit beschreibt den Algorithmus allein und nicht das Gespann aus Arzt und Maschine.
• Das Risiko steigt im atypischen Fall, in dem die Maschine weniger Grundlage hat.
• Die Hypothese vor der Konsultation des Werkzeugs zu bilden, bewahrt das eigene Denken.

Möchten Sie das Denken mit fortschreitenden Hinweisen üben? Spielen Sie den Fall des Tages.

Literatur

1. Al-Anezi FM. Generative Artificial Intelligence in Healthcare: Automation Bias, Deskilling, and Cognitive Implications - A Systematic Review. J Healthc Leadersh. 2026. PMID 42445869.
2. Arjmandi N, Sebzari AR, Molaei F, et al. Clinical validation of AI-assisted contouring in prostate radiation therapy treatment planning: Highlighting automation bias and the need for standardized quality assurance. J Appl Clin Med Phys. 2026. PMID 41414851.
3. Bittencourt MS. Will You Tell Them When They Are Wrong? Automation Bias and Artificial Intelligence in Medicine. Arq Bras Cardiol. 2025. PMID 40667888.
4. Campion JR, O'Connor DB, Lahiff C. Human-artificial intelligence interaction in gastrointestinal endoscopy. World J Gastrointest Endosc. 2024. PMID 38577646.
5. Challen R, Denny J, Pitt M, et al. Artificial intelligence, bias and clinical safety. BMJ Qual Saf. 2019. PMID 30636200.
6. Frazer HML, Peña-Solorzano CA, Kwok CF, et al. Comparison of AI-integrated pathways with human-AI interaction in population mammographic screening for breast cancer. Nat Commun. 2024. PMID 39214982.
7. Hayden R, Blanco M, Ramesh S, et al. Diagnostic reasoning with and without AI: automation bias in pre-clerkship medical students. BMC Med Educ. 2026. PMID 42482261.
8. Heudel PE, Crochet H, Filori Q, et al. Artificial intelligence in medicine: a scoping review of the risk of deskilling and loss of expertise among physicians. ESMO Real World Data Digit Oncol. 2026. PMID 41890350.
9. Kiani A, Uyumazturk B, Rajpurkar P, et al. Impact of a deep learning assistant on the histopathologic classification of liver cancer. NPJ Digit Med. 2020. PMID 32140566.
10. Kim SH, Schramm S, Riedel EO, et al. Automation bias in AI-assisted detection of cerebral aneurysms on time-of-flight MR angiography. Radiol Med. 2025. PMID 39939458.
11. Kocak B, Cuocolo R. Human-AI interaction and collaboration in radiology: from conceptual frameworks to responsible implementation. Diagn Interv Radiol. 2026. PMID 41582537.
12. Lyell D, Magrabi F, Raban MZ, et al. Automation bias in electronic prescribing. BMC Med Inform Decis Mak. 2017. PMID 28302112.
13. Magrabi F, Ammenwerth E, McNair JB, et al. Artificial Intelligence in Clinical Decision Support: Challenges for Evaluating AI and Practical Implications. Yearb Med Inform. 2019. PMID 31022752.
14. Sujan M, Furniss D, Grundy K, et al. Human factors challenges for the safe use of artificial intelligence in patient care. BMJ Health Care Inform. 2019. PMID 31780459.