KI in der Begleitung: Was sie übernehmen kann – und was nicht

Die vierte Säule unserer Arbeitsdefinition heißt Human-AI Hybridity: das bewusste Zusammenspiel von KI-Werkzeugen und menschlicher Begleitung. Dort haben wir eine Frage offen gelassen: Welche Aufgaben kann KI in der Begleitung verantwortbar übernehmen – und welche nicht?

Die Antwort hat zwei Seiten. Was kann KI nach heutigem Wissen leisten? Und was darf sie in einem Arbeitskontext in der EU überhaupt?

Was die Forschung zeigt – und was nicht

Die Forschung zu KI-Coaching ist jung. Eine viel zitierte Arbeit von Terblanche und Kolleg:innen vergleicht zwei Langzeitstudien: eine mit menschlichen Coaches, eine mit einem KI-Chatbot, beide mit Kontrollgruppen. In beiden Fällen erreichten die begleiteten Gruppen ihre Ziele deutlich besser als die Kontrollgruppen – und der Chatbot schnitt nach zehn Monaten ähnlich ab wie die menschlichen Coaches.¹

Das ist bemerkenswert, aber eng zu lesen:

• Gemessen wurde Zielerreichung, nicht Beziehung, Einsicht oder der Umgang mit schwierigen Situationen.
• Der Chatbot führte ein eng umrissenes, geskriptetes Gespräch. Die Autor:innen selbst sehen fehlende Empathie und emotionale Intelligenz als Grenze.
• Es handelt sich um ein Werkzeug in einem Setting – kein allgemeiner Nachweis für „KI-Coaching“.

These: KI kann klar strukturierte Teile von Begleitung wirksam unterstützen, vor allem Zielverfolgung und Reflexion zwischen den Terminen. Für alles, was Beziehung, Urteil und Verantwortung braucht, gibt es bisher keinen belastbaren Beleg.

Was das Recht vorgibt

Seit 2024 gilt in der EU die KI-Verordnung (AI Act). Drei Regeln sind für Begleitung in Organisationen unmittelbar relevant:

1. Transparenz. Menschen müssen erkennen können, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist.²
2. Verbot der Gefühlserkennung am Arbeitsplatz. KI-Systeme, die aus Merkmalen einer Person auf deren Emotionen schließen, sind am Arbeitsplatz und in Bildungseinrichtungen verboten – außer aus medizinischen oder Sicherheitsgründen.³
3. Hochrisiko bei Personalentscheidungen. KI-Systeme, die Leistung und Verhalten von Beschäftigten überwachen und bewerten oder in Entscheidungen über Beförderung und Beendigung eingehen, gelten als Hochrisiko-Systeme mit umfangreichen Pflichten.⁴

Hinzu kommt die DSGVO: Niemand darf einer ausschließlich automatisierten Entscheidung unterworfen werden, die ihn erheblich beeinträchtigt, außer in eng begrenzten Ausnahmen.⁵

Hinweis: Diese Einordnung ist keine Rechtsberatung. Ob ein konkretes System unter eine Regel fällt, hängt von Zweck und Ausgestaltung ab.

Das KI-Aufgabenraster

Aus Forschung und Recht ergibt sich ein Raster in drei Zonen.

Aufgabe	Zone	Bedingung
Termine, Erinnerungen, Organisation	geeignet	–
Reflexionsfragen zwischen den Terminen	geeignet	als KI erkennbar, abschaltbar
Zielverfolgung bei klar formulierten Zielen	geeignet	Ziele von der Person selbst gesetzt
Zusammenfassung eigener Notizen für die begleitete Person	mit Bedingungen	Zustimmung, keine Weitergabe, kein Training fremder Modelle
Vorbereitung von Begleiter:innen auf ein Gespräch	mit Bedingungen	nur freigegebene Inhalte, Mensch entscheidet
Erkennung von Gefühlen aus Stimme, Gesicht oder Text	nicht zulässig	im Arbeitskontext verboten
Bewertung von Personen für die Organisation	nicht geeignet	Hochrisiko; widerspricht der Vertraulichkeit
Begleitung in Krisen oder bei Gesundheitsthemen	nicht geeignet	gehört zu qualifizierten Menschen

Drei Grundregeln für die Praxis

1. Erkennbar bleiben. Jede begleitete Person weiß, wann sie mit einem Menschen und wann mit einem System arbeitet. Das ist nicht nur Pflicht, sondern Voraussetzung für Vertrauen.

2. Verantwortung beim Menschen. KI darf vorbereiten, erinnern, strukturieren. Die Verantwortung für die Begleitung – und für jede Entscheidung, die daraus folgt – bleibt bei einem qualifizierten Menschen.

3. Datenwege trennen. Was in der Begleitung entsteht, fließt nicht in Leistungsbewertung oder Personalentscheidungen. Diese Trennung schützt die Vertraulichkeit und hält KI-Werkzeuge aus dem Hochrisiko-Bereich heraus. Wie sich Wirkung trotzdem messen lässt, beschreibt unsere Analyse Wirkung messen, ohne Vertraulichkeit zu brechen.

Offene Fragen

• Wie verändert sich Offenheit, wenn Menschen Reflexionen einem System statt einem Menschen anvertrauen – positiv oder negativ?
• Welche Qualifikation brauchen Begleiter:innen, um mit KI-Werkzeugen verantwortlich zu arbeiten?
• Wo genau verläuft die Grenze zwischen „Reflexion unterstützen“ und „Emotionen erkennen“, wenn Sprachmodelle freie Texte verarbeiten?

Alle Quellen stehen im Evidenzregister.

---

Offenlegung: Guidance Observatory wird von BA Entertainment herausgegeben. BA Entertainment betreibt mit Co;Gether zugleich eine Plattform für professionelle Begleitung. Diese Analyse beschreibt Prinzipien und nennt keine Anbieter von KI- oder Begleitungs-Software.

Quellen

1. Terblanche, N., Molyn, J., de Haan, E., & Nilsson, V. O. (2022). Comparing artificial intelligence and human coaching goal attainment efficacy. PLOS ONE, 17(6), e0270255. https://doi.org/10.1371/journal.pone.0270255 ↩

2. Art. 50 Verordnung (EU) 2024/1689 (KI-Verordnung), Transparenzpflichten. https://eur-lex.europa.eu/eli/reg/2024/1689/oj ↩

3. Art. 5 Abs. 1 lit. f Verordnung (EU) 2024/1689. ↩

4. Anhang III Nr. 4 lit. b Verordnung (EU) 2024/1689. ↩

5. Art. 22 DSGVO (Automatisierte Entscheidungen im Einzelfall). ↩