KI-Antworten wirken empathischer: Was eine Studie mit 195 Patientenfragen zeigt und was nicht

Gutachtende bevorzugten in 78,6 Prozent der Bewertungen die Antwort des Chatbots gegenüber der einer Ärztin oder eines Arztes. Die Studie sagt viel über Textwirkung und wenig über Begleitung. Eine Einordnung mit Grenzen.

Eine Studie aus dem Jahr 2023 wird bis heute oft als Beleg dafür genannt, dass KI „empathischer“ sei als Menschen. Was sie tatsächlich untersucht hat, ist enger und bleibt für die Begleitung doch aufschlussreich. Die Analyse baut auf KI in der Begleitung und Offenheit gegenüber Maschinen auf und knüpft an deren Frage an, wie Menschen auf Antworten von Systemen reagieren.

Was untersucht wurde

Ayers und Kolleg:innen zogen aus dem öffentlichen Forum r/AskDocs (Reddit) zufällig 195 Austausche aus dem Oktober 2022, in denen eine verifizierte Ärztin oder ein verifizierter Arzt auf eine öffentliche Frage geantwortet hatte. Dieselben Fragen wurden am 22. und 23. Dezember 2022 in jeweils neuen Sitzungen ChatGPT gestellt. Frage sowie anonymisierte, zufällig geordnete ärztliche und Chatbot-Antworten wurden von einem Team approbierter Gesundheitsberufe jeweils dreifach bewertet: Welche Antwort ist besser, wie hoch ist die Qualität der Information, wie hoch die Empathie beziehungsweise der „Bedside Manner“?¹

Die Ergebnisse

Maß	Ärztliche Antworten	Chatbot-Antworten
Bevorzugt (von 585 Bewertungen)	übrige Bewertungen	78,6 % (95-%-KI 75,0–81,8 %)
Durchschnittliche Länge	52 Wörter	211 Wörter
Qualität „gut“ oder „sehr gut“	22,1 %	78,5 %
Empathie „empathisch“ oder „sehr empathisch“	4,6 %	45,1 %

Die Autor:innen schließen, dass der Chatbot im Forum Antworten von guter Qualität und mit hoher wahrgenommener Empathie lieferte, und regen an, KI als Entwurfshilfe zu prüfen, deren Texte Fachleute bearbeiten. Randomisierte Studien könnten klären, ob solche Assistenzsysteme Antworten verbessern und Überlastung verringern.¹

Wie man die Zahlen lesen sollte

Länge ist ein Störfaktor. Chatbot-Antworten waren mehr als viermal so lang wie die ärztlichen. Ausführlichere Texte können allein deshalb zugewandter wirken. Die Studie trennt Länge und Empathie nicht.
Forum, keine Behandlung. Die ärztlichen Antworten stammen aus einem öffentlichen Forum, nicht aus einer Sprechstunde. Wie viel Zeit und Kontext die Antwortenden hatten, bleibt offen.
Bewertet wurde Text. Die Gutachtenden beurteilten schriftliche Antworten, nicht Beziehung, Verlauf oder Folgen für die Fragenden. Eine „empathische“ Wirkung im Text ist kein Beleg, dass eine Person sich verstanden fühlt und anders handelt.
Eine Momentaufnahme. Es handelt sich um eine Querschnittsstudie mit einem Modell im Dezember 2022. Die Systeme haben sich seitdem weiterentwickelt; die Zahlen sind kein Maß für heutige Anwendungen.
Eigene Einschränkung der Autor:innen. Das Abstract spricht selbst von weiterem Forschungsbedarf in klinischen Settings und von randomisierten Studien als nächstem Schritt.

Was das für Begleitung bedeuten kann

Die folgenden Überlegungen sind Thesen:

These 1: Die Studie zeigt, dass zugewandter Ton und Ausführlichkeit lernbar und reproduzierbar sind. Das ist eine Information für Menschen in der Begleitung: Wer knapp und sachlich schreibt, wird im Textvergleich vermutlich als weniger zugewandt erlebt. Zeit und Wortwahl sind Mittel, nicht Kern der Beziehung (siehe Arbeitsbeziehung als Wirkfaktor).
These 2: Der vorgeschlagene Einsatz als Entwurfsassistenz setzt voraus, dass ein Mensch prüft und verantwortet. Das verknüpft sich mit dem Problem, dass Menschen Systemvorschlägen oft zu sehr folgen (siehe Automationsbias).
These 3: Empathie im Text ersetzt keine Verantwortung. Wo es um Krisen, Risiken oder Diagnosen geht, bleibt die Grenze zur Behandlung bestehen (siehe Grenzen der Begleitung).

Wann diese Betrachtung nicht nötig ist

Wer KI nur für Organisatorisches nutzt, etwa Terminabstimmung oder Gliederungsentwürfe ohne personenbezogene Inhalte, braucht die Empathiefrage nicht. Sie wird relevant, sobald Texte an Menschen gehen, die darauf Entscheidungen oder Gefühle stützen. Vertrauliche Inhalte gehören ohnehin nur in Systeme, deren Datenverarbeitung geklärt ist (siehe Datenminimierung in der Begleitung).

Offene Fragen

Wie verändert sich die Bewertung, wenn Länge, Struktur und Fachlichkeit der Antworten vergleichbar gehalten werden?
Wie reagieren Menschen, wenn sie wissen, dass eine zugewandte Antwort maschinell entworfen wurde?
Welche Folgen hat Entwurfsassistenz für Begleitende selbst, etwa für ihre Sorgfalt und ihre Beziehung zu den Begleiteten?

Alle hier verwendeten Quellen stehen im Evidenzregister.

Offenlegung: Guidance Observatory wird von BA Entertainment herausgegeben. BA Entertainment betreibt mit Co;Gether zugleich eine Plattform für professionelle Begleitung. Diese Analyse fasst Forschung zusammen und nennt keine Anbieter.

Ayers, J. W., Poliak, A., Dredze, M., Leas, E. C., Zhu, Z., Kelley, J. B., Faix, D. J., Goodman, A. M., Longhurst, C. A., Hogarth, M., & Smith, D. M. (2023). Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838 ↩ ↩²