In einem fiktiven Fall kommt ein 20-jähriger Student wegen Schlaflosigkeit in die Sprechstunde. Mitten im Gespräch erzählt er, dass er seit Monaten jede Nacht mit einem Chatbot spricht und dass er ihm letzte Woche geschrieben habe, er "sehe keinen Sinn mehr weiterzumachen". Das Programm antwortete mit einer allgemeinen unterstützenden Nachricht und wechselte das Thema. Er fragt, etwas verlegen, ob das "zählt".

Es zählt, und zwar sehr. Chatbots für psychische Gesundheit sind von einer Kuriosität zu einem täglich genutzten Werkzeug für viele Menschen geworden, und die Forschung ist in zwei Bereichen vorangekommen, die wenig miteinander sprechen. Auf der einen Seite messen randomisierte Studien die Wirkung dieser Programme auf Symptome von Depression, Angst und Stress. Auf der anderen Seite prüfen Auditstudien, wie Chatbots reagieren, wenn jemand von Suizid oder Selbstverletzung spricht.

Dieser Text fasst zusammen, was die Meta-Analysen zeigen, wer an den Studien teilgenommen hat, wo die Ergebnisse nicht schlüssig sind und was in der Sprechstunde zu tun ist, wenn ein Patient erzählt, dass er in einer Krise mit einem Chatbot spricht.

Die wichtigsten Punkte

• In einer Übersicht mit 13 randomisierten Studien mit jungen Menschen, von denen 11 in der Meta-Analyse zusammengefasst wurden, verringerten die Chatbots das psychische Leiden mit kleiner Effektstärke (Hedges g von −0,28), wobei die Autoren die Evidenzsicherheit als moderat einstuften (Li et al., 2025).
• In derselben Arbeit war die Wirkung auf das psychische Wohlbefinden nicht schlüssig, weil das Konfidenzintervall das Fehlen eines Effekts einschloss (Li et al., 2025).
• In einer Meta-Analyse von acht in Asien durchgeführten Studien mit 921 Teilnehmenden verringerten die Chatbots depressive Symptome, doch die Wirkungen auf Angst und Stress waren nicht schlüssig (Leung et al., 2026).
• In einem Test mit 29 Chatbots angesichts simulierter Nachrichten mit steigendem Suizidrisiko gab keiner eine Antwort, die nach den Kriterien der Autoren als angemessen galt (Pichowicz et al., 2025).
• Die meisten Teilnehmenden der Studien waren junge Menschen ohne Diagnose, rekrutiert an Schulen und Universitäten, und fast keine Studie verfolgte die Wirkungen länger als einige Wochen.

• Was ein Chatbot für psychische Gesundheit ist
• Was die Meta-Analysen bei jungen Menschen zeigen
• Was die Studien in Asien und die breiteren Übersichten zeigen
• Wo das Risiko liegt: die Antwort in der Krise
• Was zu tun ist, wenn ein Patient erzählt, dass er einen Chatbot nutzt
• Wie NEXO hilft, dieses Denken zu trainieren
• Häufige Fragen
• Take-home messages

Was ein Chatbot für psychische Gesundheit ist

Ein Chatbot ist ein Programm, das per Text oder per Sprache mit dem Nutzer spricht. Im Bereich der psychischen Gesundheit beschreibt die Übersicht von Li und Kollegen eine Entwicklung von regelbasierten Systemen mit vordefinierten Antworten und Entscheidungsbäumen hin zu Systemen künstlicher Intelligenz (KI), die natürliche Sprache verarbeiten (Li et al., 2025). Die neuesten nutzen große Sprachmodelle, dieselben, die hinter den Alltagsassistenten stehen.

Diese Unterscheidung ist wichtig, weil die Studien sehr unterschiedliche Produkte vermischen. Ein regelbasierter Chatbot folgt einem von Klinikern geschriebenen Drehbuch der kognitiven Verhaltenstherapie. Ein generatives Modell erzeugt jede Antwort im Moment und kann Dinge sagen, die niemand vorhergesehen hat. Und viele Menschen nutzen zum Dampfablassen Alltagsassistenten, die weder als Intervention für psychische Gesundheit konzipiert noch getestet wurden.

Wie sich dieses Thema von den Symptom-Checkern unterscheidet

Der Beitrag über Symptom-Checker behandelt Anwendungen, die eine Liste von Beschwerden erhalten und Hypothesen sowie einen Dringlichkeitsgrad zurückgeben. Hier geht es um etwas anderes: Programme, die fortlaufend mit der Person sprechen, mit der Absicht, Symptome zu verringern, und darum, was passiert, wenn dieses Gespräch in eine Krise mündet. Die zentrale Frage ist nicht mehr, ob das Programm die Diagnose richtig trifft, sondern ob es hilft und ob es schützt.

Was die Meta-Analysen bei jungen Menschen zeigen

Die systematische Übersicht mit Meta-Analyse von Li und Kollegen suchte Interventionsstudien mit Chatbots für junge Menschen von 10 bis 24 Jahren, veröffentlicht zwischen Januar 2014 und September 2024 (Li et al., 2025). Die Autoren schlossen 29 Studien ein, von denen 13 randomisierte Studien waren; 11 davon gingen in die Meta-Analyse ein, und zwei blieben wegen fehlender Daten außen vor.

Das Hauptergebnis war eine Verringerung der psychischen Belastung, die Depression, Angst, Stress und negativen Affekt umfasste, mit einem Hedges g von −0,28 und einem 95-Prozent-Konfidenzintervall von −0,46 bis −0,10 (Li et al., 2025). Ein Hedges g um 0,2 bis 0,3 wird üblicherweise als kleiner Effekt gelesen. Die Autoren stuften die Sicherheit dieser Evidenz als moderat ein, herabgestuft wegen der Heterogenität zwischen den Studien.

Für das psychische Wohlbefinden betrug das Hedges g 0,13, mit einem Intervall von −0,16 bis 0,41 (Li et al., 2025). Da das Intervall die Null einschließt, ist das Ergebnis nicht schlüssig: Die Daten sind mit einem Nutzen, mit keinem Effekt und mit einem kleinen Schaden vereinbar. Die Sicherheit dieser Evidenz wurde als niedrig eingestuft, wegen Verzerrungsrisiko und Inkonsistenz.

Was die Untergruppen zeigen

Die Autoren führten vorab festgelegte Untergruppenanalysen durch, und jede umfasst wenige Studien, was Vorsicht verlangt. Für die psychische Belastung war die Verringerung in klinischen oder subklinischen Populationen statistisch signifikant, mit g von −0,34 und einem Intervall von −0,57 bis −0,10, in fünf Studien (Li et al., 2025). In Populationen ohne klinische Symptome betrug das g −0,19, mit einem Intervall von −0,48 bis 0,10, in sechs Studien, ein nicht schlüssiges Ergebnis.

KI-basierte Chatbots hatten ein g von −0,36, mit einem Intervall von −0,58 bis −0,14, in acht Studien, während regelbasierte ein g von −0,09 hatten, mit einem Intervall von −0,39 bis 0,20, in vier Studien, ein nicht schlüssiges Ergebnis (Li et al., 2025). Die multimodale Interaktion hatte ein g von −0,39 und die rein textbasierte ein g von −0,19 mit einem Intervall, das die Null einschließt. Beim Wohlbefinden kehrt sich die Richtung um: Nur die regelbasierten Chatbots zeigten einen statistisch signifikanten Effekt, mit g von 0,29 und einem Intervall von 0,01 bis 0,57, in drei Studien.

Diese Kontraste stammen aus Vergleichen zwischen verschiedenen Studien, mit verschiedenen Populationen und Kontrollen, und dienen dazu, Hypothesen zu erzeugen, und nicht dazu, einen Chatbot-Typ auszuwählen.

Wer untersucht wurde

Das Alter der Teilnehmenden reichte von 8 bis 33 Jahren, und Männer machten im Durchschnitt 38,3 Prozent der Stichproben aus (Li et al., 2025). Zwanzig der 29 Studien rekrutierten Populationen ohne Diagnose, fünf schlossen Menschen mit psychischen Symptomen ein, vier rekrutierten klinische Populationen, und die meisten fanden in Schulen und Universitäten statt. Länder mit hohem Einkommen machten 62,1 Prozent der Studien aus, und am stärksten vertreten waren die Vereinigten Staaten, China und Neuseeland, so die Autoren (Li et al., 2025).

Die Autoren selbst benennen die Grenzen: Stichproben ohne Diagnose, aus entwickelten Ländern, Verzerrungsrisiko und Heterogenität, wenige Studien zur Bewertung langfristiger Effekte und der Einschluss nur von Veröffentlichungen auf Englisch und Chinesisch. Sie merken auch an, dass nur 14 der 29 Studien Schutzmaßnahmen hatten, wie Notfallhilfe, Krisenerkennung oder professionelle Begleitung.

Die erste Studie mit Studierenden

Eine der meistzitierten Studien veranschaulicht die Art von Evidenz hinter diesen Mittelwerten. Fitzpatrick und Kollegen beschreiben eine randomisierte Studie ohne Verblindung mit 70 Studierenden von 18 bis 28 Jahren, die Symptome von Angst und Depression berichteten und über ein universitäres soziales Netzwerk rekrutiert wurden (Fitzpatrick et al., 2017). Eine Gruppe nutzte zwei Wochen lang einen Chatbot mit Inhalten der kognitiven Verhaltenstherapie, und die andere erhielt ein informatives E-Book über Depression.

In der Intention-to-treat-Analyse verringerte die Chatbot-Gruppe die mit dem PHQ-9 gemessenen depressiven Symptome, und die Kontrollgruppe nicht (Fitzpatrick et al., 2017). In der Analyse derjenigen, die die Studie abschlossen, sank die Angst in beiden Gruppen, ohne nachgewiesenen Vorteil für den Chatbot. Die Autoren beschreiben sie als Machbarkeitsstudie, mit kleiner Stichprobe, kurzer Intervention und ohne Nachbeobachtung. Eine der Autorinnen gründete das Unternehmen, das den Chatbot entwickelte, ein im Artikel erklärter Interessenkonflikt.

Was die Studien in Asien und die breiteren Übersichten zeigen

Die Übersicht von Leung und Kollegen umfasste acht randomisierte Studien mit 921 Teilnehmenden aus China, Südkorea, Indien, Japan und Taiwan, veröffentlicht zwischen 2020 und 2023 (Leung et al., 2026). Die Chatbots verringerten die Schwere der depressiven Symptome um 0,46 im gepoolten Effektmaß der Autoren, mit einem 95-Prozent-Konfidenzintervall von −0,76 bis −0,16 und hoher Heterogenität (Leung et al., 2026).

In den Untergruppen war die Verringerung der Depression in klinischen Populationen und bei chinesischen Teilnehmenden signifikant, nicht aber bei südkoreanischen Teilnehmenden, und sie war im Vergleich mit Bibliotherapie signifikant, nicht aber in den Vergleichen mit anderen Kontrollen (Leung et al., 2026). Für Angst, positiven Affekt und Stress fand die Übersicht keinen signifikanten Effekt, was diese Ergebnisse unschlüssig macht.

Die Autoren schließen, dass kein unerwünschtes Ereignis berichtet wurde, die Information stammt aber aus nur drei Studien, die Sicherheit beschrieben haben (Leung et al., 2026). Als Grenzen nennen sie rund 40 Prozent der Studien mit hohem Verzerrungsrisiko (drei von acht), wenige Studien mit Nachbeobachtung über vier Wochen hinaus und begrenzte Aussagekraft bei den meisten Vergleichen (Leung et al., 2026).

Übersichten mit mehr Studien

Eine größere Metaanalyse umfasste 48 randomisierte Studien mit 28 071 Teilnehmenden aus 31 Ländern und mischte KI-basierte und regelbasierte Chatbots (Mokhtari Masoumi Alamdarloo et al., 2026). Die Effekte, ausgedrückt als standardisierte Mittelwertdifferenz, betrugen −0,27 für Depression, −0,20 für Angst und −0,26 für Stress, alle mit Intervallen, die die Null ausschließen. Die Autoren merken an, dass die meisten Studien in Ländern mit hohem Einkommen stattfanden, dass weniger als die Hälfte Sicherheit, menschliche Rückendeckung oder die Überwachung unerwünschter Ereignisse behandelte und dass Langzeitdaten fehlen.

Für generative Chatbots umfasste eine systematische Übersicht 26 Studien und eine Metaanalyse von 14 Studien mit 6314 Teilnehmenden (Zhang et al., 2025). Die gepoolte Effektstärke betrug 0,30 bei der Verringerung von Problemen der psychischen Gesundheit, mit einem Konfidenzintervall von 0,004 bis 0,59. Das Prädiktionsintervall von −0,85 bis 1,67 schließt die Abwesenheit eines Effekts ein: In einer neuen Studie kann das Ergebnis von Schaden bis zu großem Nutzen reichen, was die Vorhersage für einen bestimmten Kontext unschlüssig macht.

Quelle und Design	Wer untersucht wurde	Endpunkt	Ergebnis wie berichtet	Einordnung
Li 2025, Metaanalyse von 11 Studien	Junge Menschen von 8 bis 33 Jahren, die meisten ohne Diagnose	Psychisches Leiden	g von −0,28 (95 % KI: −0,46 bis −0,10)	Kleiner Effekt, moderate Sicherheit
Li 2025, dieselbe Analyse	Dieselbe Stichprobe	Psychisches Wohlbefinden	g von 0,13 (95 % KI: −0,16 bis 0,41)	Unschlüssig, geringe Sicherheit
Leung 2026, Metaanalyse von 8 Studien	921 Teilnehmende in Asien	Depressive Symptome	−0,46 (95 % KI: −0,76 bis −0,16)	Verringerung, hohe Heterogenität
Leung 2026, dieselbe Analyse	Dieselbe Stichprobe	Angst und Stress	Kein signifikanter Effekt	Unschlüssig
Mokhtari 2026, Metaanalyse von 48 Studien	28 071 Teilnehmende, 31 Länder	Depression, Angst, Stress	SMD von −0,27, −0,20 und −0,26	Kleine Effekte
Zhang 2025, Metaanalyse von 14 Studien	6314 Teilnehmende, generative Chatbots	Probleme der psychischen Gesundheit	0,30 (95 % KI: 0,004 bis 0,59)	Prädiktionsintervall schließt Null ein

Quellen: Li et al., 2025; Leung et al., 2026; Mokhtari Masoumi Alamdarloo et al., 2026; Zhang et al., 2025. 95 % KI: 95-Prozent-Konfidenzintervall (Li et al., 2025); SMD: standardisierte Mittelwertdifferenz. Negative Werte zeigen eine Verringerung der Symptome an, außer beim Wohlbefinden und in der Zeile von Zhang, wo die Autoren den Nutzen mit positivem Vorzeichen angeben.

Das Problem des Abbruchs

Die mittleren Effekte gelten für diejenigen, die weiter nutzen. Eine Metaanalyse von 39 Studien schätzte eine gepoolte Abbruchrate von 17,04 Prozent, mit einem Intervall von 11,46 bis 23,38, bei Interventionen der psychischen Gesundheit mit KI (Yang et al., 2026). Generative Chatbots hatten laut den Autoren einen geringeren Abbruch von 9,25 Prozent als Systeme auf Basis der Antwortsuche mit 23,12 Prozent (Yang et al., 2026). Bei Interventionen gegen Depression war ein geringerer Abbruch mit größeren Effekten verbunden. Die Autoren fanden zudem Hinweise auf Publikationsverzerrung: Mit der Anpassung durch Imputation fehlender Studien stieg die gepoolte Rate auf 36,49 Prozent (Yang et al., 2026).

In der Übersicht von Li lag der Median des Abbruchs bei 23,4 Prozent, mit einer Spanne von null bis 89,7 Prozent zwischen den Studien (Li et al., 2025). Wer abbricht, verschwindet aus den Daten, und genau dort können diejenigen sein, denen es schlechter ging.

Wo das Risiko liegt: die Antwort in der Krise

Randomisierte Studien messen Symptome über Wochen. Sie messen fast nie, was in der Nacht geschieht, in der jemand schreibt, dass er an den Tod denkt. Dafür testeten Forschende die Chatbots mit simulierten Nachrichten.

Neunundzwanzig Chatbots angesichts eines steigenden Risikos

Pichowicz und Kollegen testeten 29 KI-Chatbots, 24 speziell für psychische Gesundheit und fünf für den allgemeinen Gebrauch, mit einer standardisierten Abfolge von Nachrichten auf Grundlage der Columbia-Suicide Severity Rating Scale, die ein steigendes Risiko simulierte (Pichowicz et al., 2025). Die Antwort wäre angemessen gewesen, wenn das Programm unter anderem professionelle Hilfe empfohlen, auf die sofortige Suche nach Hilfe gedrängt, einen korrekten Notfallkontakt genannt hätte, ohne dass danach gefragt wurde, und erklärt hätte, dass es eine suizidale Krise nicht bewältigen kann.

Von den 29 Programmen erfüllte keines die Kriterien für eine angemessene Antwort. Fünfzehn, also 51,72 Prozent, erfüllten die lockereren Kriterien für eine grenzwertige Antwort, und 14, also 48,28 Prozent, wurden als unangemessen eingestuft (Pichowicz et al., 2025). Nur fünf, also 17,24 Prozent, fragten irgendwann ausdrücklich nach suizidalen Gedanken (Pichowicz et al., 2025). Viele gingen davon aus, dass der Nutzer in den Vereinigten Staaten war, und nannten Notfallkontakte, die für Menschen in anderen Ländern nutzlos sind, und einige antworteten unpassend oder bestätigten sogar die Absicht.

Die Autoren räumen die wichtigste Einschränkung ein: Die Nachrichten folgten einer klinischen Skala und bildeten keine echten Gespräche nach, in denen Menschen in der Krise meist indirekte Sprache verwenden.

Was bei indirekten Fragen geschieht

Die Studie von Arnaiz-Rodriguez und Kollegen stellte einen Satz von 2046 Testnachrichten zusammen, die aus 12 öffentlichen Datenbanken mit Gesprächen über psychische Gesundheit stammten und in sechs Krisenkategorien eingeteilt wurden, und prüfte die Antworten von fünf Sprachmodellen (Arnaiz-Rodriguez et al., 2026). Mehrere Modelle antworteten auf ausdrückliche Offenbarungen einer Krise konsistent und insgesamt zuverlässig, doch ein nicht unerheblicher Anteil der Antworten wurde als unangemessen oder schädlich eingestuft, vor allem in den Kategorien Selbstverletzung und suizidale Gedanken, mit großen Unterschieden zwischen den Modellen.

Die gemeinsame Schwäche war das indirekte Signal. Menschen in der Krise fragen oft in neutralen Worten nach Informationen über Methoden, und die untersuchten Modelle neigten dazu, die Sensibilität dieser Fragen nicht zu erkennen, und antworteten neutral oder sogar anleitend, statt die Absicht zu erfragen und Unterstützung anzubieten (Arnaiz-Rodriguez et al., 2026). Die Bewertung der Antworten erfolgte durch ein Sprachmodell, das gegen Fachleute validiert wurde, und die Nachrichten stammten aus öffentlichen Datenbanken und nicht von Nutzern in Echtzeit.

Dasselbe Modell, ein anderer Zugang

Cantor und Kollegen beschreiben eine beobachtende Querschnittsstudie, die 30 suizidbezogene Fragen in fünf von Klinikern festgelegten Risikostufen an fünf Modelle für den allgemeinen Gebrauch schickte, jede davon 100 Mal über die Verbraucher-App und 100 Mal über die Programmierschnittstelle, insgesamt 30 000 Antworten (Cantor et al., 2026). Der Endpunkt war die direkte Antwort, also die gewünschte Information oder Anleitung zu geben.

Insgesamt waren 69,8 Prozent der Antworten direkt, 77,4 Prozent über die Programmierschnittstelle und 62,2 Prozent über die App (Cantor et al., 2026). Bei den Fragen mit sehr hohem Risiko waren 24,8 Prozent der Antworten über die Programmierschnittstelle direkt, gegenüber 4,6 Prozent über die App (Cantor et al., 2026). Der Zugang über die App war mit deutlich geringeren Chancen auf eine direkte Antwort verbunden, mit einer Odds Ratio von 0,09 und einem Intervall von 0,08 bis 0,10. Die Richtung war nicht bei allen Modellen gleich: Eines antwortete über die App etwas häufiger direkt. Die Autoren merken an, dass sie nur Fragen auf Englisch in einem einzigen Nachrichtenaustausch verwendeten und dass sich die Modelle ohne Ankündigung ändern, sodass das Ergebnis ein Bild eines Moments ist.

Das ist wichtig, weil dasselbe Modell über die Programmierschnittstelle in andere Anwendungen eingebettet sein kann, mit weniger Schutzschichten als die Version, die der Hersteller der Öffentlichkeit anbietet.

Was eine narrative Übersicht ergab

Eine narrative Übersichtsarbeit hat 11 Primärstudien zu Chatbots bei der Bewertung des Suizidrisikos zusammengefasst (Elbarbary et al., 2026). Die Bewertung durch die Chatbots stimmte bei den Risikoextremen mit Fachleuten überein, verfehlte aber durchgängig die Unterscheidung der mittleren Stufen, und die Schwere wurde systematisch unterschätzt. Die Autoren trennen die von Klinikern entwickelten Chatbots, die Machbarkeit zeigten, von kommerziellen Produkten ohne klinische Validierung. Sie räumen ein, dass alle Studien aus Ländern mit hohem Einkommen stammten, dass das narrative Design ein Risiko für Selektionsverzerrung birgt und dass die Heterogenität eine quantitative Synthese verhinderte.

Was tun, wenn der Patient erzählt, dass er einen Chatbot nutzt

Die Offenbarung, dass der Patient mit einem Chatbot spricht, ist ein Zugang, kein Nebendetail. Sie kann Einsamkeit anzeigen, Schwierigkeiten beim Zugang zur Versorgung oder Scham, mit Menschen zu sprechen. Sie kann auch anzeigen, dass jemand in Not zu einem kritischen Zeitpunkt eine Antwort erhalten hat, die ihn nicht geschützt hat.

Fragen ohne zu urteilen

Fragen Sie beiläufig, wie oft die Person den Chatbot nutzt, zu welchen Zeiten, wofür und wie sie sich danach fühlt. Bitten Sie sie, wenn sie möchte, ein schwieriges Gespräch zu zeigen oder zu beschreiben. Das gibt Zugang zu dem, was sie in Momenten gesagt hat, in denen sie es in der Sprechstunde vielleicht nicht sagen würde. Die Nutzung abzuwerten verschließt eher das Gespräch, und das Ziel ist das Gegenteil.

Das Risiko direkt einschätzen

Wenn die Person dem Chatbot erzählt hat, dass sie an den Tod denkt, wird die Einschätzung des Suizidrisikos in der Sprechstunde verpflichtend. Direkt nach Suizidgedanken, Absicht, Methode und Zugang zu Mitteln zu fragen, ist die Grundlage dieser Einschätzung, wie in Suizidrisiko: was die klinische Einschätzung erfasst erörtert. Tests mit Chatbots zeigen, dass wenige Programme diese Frage von sich aus stellen (Pichowicz et al., 2025) und dass die Schwere gerade auf den mittleren Stufen unterschätzt wird (Elbarbary et al., 2026).

Bei bestehendem Risiko weisen Sie die Person und die Familie an, die nötige Hilfe bei den am Wohnort verfügbaren Notfall- und psychiatrischen Diensten zu suchen, und vereinbaren Sie mit ihr einen Sicherheitsplan: Warnzeichen, Personen, an die man sich wenden kann, Fernhalten von letalen Mitteln und wann man zurückkommt. In akuten Situationen nach traumatischen Ereignissen helfen die in psychologische Erste Hilfe beschriebenen Grundsätze, die Aufnahme zu ordnen.

Den Chatbot in die Versorgung einordnen

Erklären Sie, was die Evidenz sagen lässt: Bei Jugendlichen und in Studien mit Populationen ohne Diagnose verringerten Chatbots Symptome in geringem Maß und für kurze Zeit, und fast keine Studie untersuchte die Sicherheit in der Krise (Li et al., 2025; Mokhtari Masoumi Alamdarloo et al., 2026). Ein Chatbot kann eine Ergänzung zwischen Terminen sein, aber seine Antwort in einer Krise ersetzt keinen Menschen. Bei einer Depression kommen andere Interventionen mit Evidenz ins Gespräch, wie körperliche Bewegung bei Depression.

Es lohnt sich auch zu fragen, ob der Chatbot ein Produkt für psychische Gesundheit mit klinischem Inhalt und beschriebenen Schutzmaßnahmen ist oder ein Allzweckassistent, und daran zu erinnern, dass dieselbe Technologie je nach Anwendung unterschiedlich antworten kann (Cantor et al., 2026).

Vorsicht vor übermäßigem Vertrauen

Auch die Fachperson nutzt diese Werkzeuge. Die Neigung, das zu akzeptieren, was die Maschine sagt, ohne es zu prüfen, beschrieben in Automatisierungsverzerrung, gilt für den Patienten, der dem Chatbot vertraut, und für den Arzt, der einer von KI erzeugten Zusammenfassung vertraut, Thema von KI-Schreiber in der Sprechstunde. Eine allgemeinere Sicht steht in Einsatz künstlicher Intelligenz im klinischen Denken.

Zurück zum Fall

Der Student aus dem fiktiven Fall schrieb einem Chatbot, dass er keinen Sinn mehr darin sah weiterzumachen, und erhielt eine allgemeine Antwort. In der Sprechstunde fragt die Ärztin direkt nach Suizidgedanken, Absicht, Methode und Zugang zu Mitteln und erfährt, dass die Gedanken seit Wochen kommen und gehen, ohne feste Absicht. Sie vereinbart mit ihm einen Sicherheitsplan, weist die Familie an, die nötige Hilfe zu suchen, falls die Zeichen schlimmer werden, überweist zur psychiatrischen Weiterbetreuung und vereinbart einen baldigen Folgetermin.

Sie verbietet den Chatbot nicht. Sie erklärt, was die Studien zeigen, vereinbart, dass er in den nächsten Konsultationen berichten wird, worüber er mit dem Programm gesprochen hat, und behandelt die Schlaflosigkeit als Teil des Krankheitsbildes und nicht als isolierte Beschwerde.

Wie NEXO hilft, dieses Denken zu trainieren

Bei NEXO ist der Fall des Tages fiktiv, mit echter klinischer Präsentation und bis zu sechs aufeinander aufbauenden Hinweisen, und Sie schlagen die Diagnose vor, indem Sie den ICD-10-Code suchen. Zu erkennen, dass eine Schlaflosigkeitsbeschwerde ein größeres Risiko verbirgt, verlangt dieselbe Übung: jede neue Information als Hinweis zu behandeln und die Hypothese zu überprüfen, wie beim Training der Differenzialdiagnose mit Hinweisen.

Die Grenzen der Nutzung des Spiels sind auf der Seite Wirtschaft von NEXO beschrieben. Wenn Sie die Vermittlung klinischen Denkens erforschen, erklärt die Seite für Researcher, wie Sie Kontakt aufnehmen können. Fachleute, die Fälle schreiben oder überprüfen, finden Informationen unter Curator und unter Creators, und Institutionen können das Angebot auf der Seite für Partnerschaften kennenlernen. Die Suche nach dem richtigen ICD-10-Code vervollständigt dieses Training.

Häufige Fragen

Funktionieren Chatbots für psychische Gesundheit?

In Meta-Analysen verringerten sie Symptome von Depression, Angst, Stress oder psychischem Leid mit kleinen und kurzfristigen Effekten, doch einige Endpunkte blieben unklar (Li et al., 2025; Leung et al., 2026).

Gelten die Ergebnisse für Menschen mit schwerer Depression?

Die meisten Teilnehmenden waren junge Menschen ohne Diagnose, rekrutiert an Schulen und Universitäten, und es gibt kaum Daten zu Menschen mit schweren Krankheitsbildern (Li et al., 2025).

Sind generative Chatbots besser als regelbasierte?

In der Übersichtsarbeit von Li hatten die auf KI basierenden einen größeren Effekt auf psychisches Leid, doch nur die regelbasierten hatten einen signifikanten Effekt auf das Wohlbefinden, und die Vergleiche beziehen sich auf unterschiedliche Studien (Li et al., 2025).

Ist der Chatbot in einer suizidalen Krise sicher?

Tests mit simulierten Nachrichten zeigen häufig unangemessene Antworten und Schwierigkeiten mit indirekten Signalen (Pichowicz et al., 2025; Arnaiz-Rodriguez et al., 2026). In einer Krise sollte die Person die nötige Hilfe bei Fachleuten und Gesundheitsdiensten suchen.

Soll ich dem Patienten raten, die Nutzung zu beenden?

Die Entscheidung ist individuell. Am hilfreichsten ist es, die Nutzung zu verstehen, das Risiko direkt einzuschätzen und den Chatbot als Ergänzung und nicht als Ersatz für die Versorgung einzuordnen.

Take-home messages

• Chatbots für psychische Gesundheit verringerten in Meta-Analysen Symptome mit kleinen Effekten, vor allem bei jungen Menschen ohne Diagnose und über wenige Wochen.
• Mehrere Endpunkte blieben unklar, etwa das Wohlbefinden bei jungen Menschen sowie Angst und Stress in den asiatischen Studien.
• Fast keine Studie untersuchte die Sicherheit in der Krise, und Tests mit simulierten Nachrichten zeigen häufig unangemessene Antworten.
• Wenn der Patient erzählt, dass er mit einem Chatbot spricht, fragen Sie ohne zu urteilen und schätzen Sie das Suizidrisiko direkt ein.
• In einer Krise weisen Sie darauf hin, die nötige Hilfe bei den lokalen Diensten zu suchen, und vereinbaren Sie einen Sicherheitsplan.

Literatur

1. Li J, Li Y, Hu Y, et al. Chatbot-delivered interventions for improving mental health among young people: a systematic review and meta-analysis. Worldviews Evid Based Nurs. 2025;22(4):e70059. [PubMed](https://pubmed.ncbi.nlm.nih.gov/40662463/).
2. Leung WKC, Lam SC, Chan BCL, et al. Chatbot interventions for improving mental health among people in Asia: a systematic review and meta-analysis of randomised controlled trials. BMJ Health Care Inform. 2026;33(1):e101479. [PubMed](https://pubmed.ncbi.nlm.nih.gov/41534952/).
3. Fitzpatrick KK, Darcy A, Vierhile M. Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent: a randomized controlled trial. JMIR Ment Health. 2017;4(2):e19. [PubMed](https://pubmed.ncbi.nlm.nih.gov/28588005/).
4. Mokhtari Masoumi Alamdarloo S, Mirzakhani A, Azhdarloo M, et al. Effectiveness of AI and rule-based conversational agents for depression, anxiety and stress: a meta-analysis. NPJ Digit Med. 2026;9(1). [PubMed](https://pubmed.ncbi.nlm.nih.gov/42209800/).
5. Zhang Q, Zhang R, Xiong Y, et al. Generative AI mental health chatbots as therapeutic tools: systematic review and meta-analysis of their role in reducing mental health issues. J Med Internet Res. 2025;27:e78238. [PubMed](https://pubmed.ncbi.nlm.nih.gov/41401240/).
6. Yang H, Liu J, Li L, et al. Ethical implications of high attrition in AI-based mental health interventions: a systematic review and meta-analysis. BMC Med Ethics. 2026;27(1). [PubMed](https://pubmed.ncbi.nlm.nih.gov/42374513/).
7. Pichowicz W, Kotas M, Piotrowski P. Performance of mental health chatbot agents in detecting and managing suicidal ideation. Sci Rep. 2025;15(1):31652. [PubMed](https://pubmed.ncbi.nlm.nih.gov/40866537/).
8. Arnaiz-Rodriguez A, Baidal M, Derner E, et al. Between help and harm: an evaluation study of mental health crisis handling by large language models. JMIR Ment Health. 2026;13:e88435. [PubMed](https://pubmed.ncbi.nlm.nih.gov/42275418/).
9. Cantor J, Huang E, Zhang LA, et al. Suicide-related responses from AI chatbots through application programming interfaces and consumer-facing apps: observational cross-sectional comparative study. J Med Internet Res. 2026;28:e97968. [PubMed](https://pubmed.ncbi.nlm.nih.gov/42855144/).
10. Elbarbary K, Alfudoul A, Samir AA, et al. Are artificial intelligence chatbots safe for suicide risk assessment? A narratively synthesized review of current evidence. Glob Ment Health (Camb). 2026;13:e135. [PubMed](https://pubmed.ncbi.nlm.nih.gov/42466259/).