
Too Positive to Be True? Sentiment Analysis of AI-Guided vs. Human-Led Debriefings in Virtual Reality Counseling Training
Debriefings are a crucial component of simulation-based learning, as they allow participants to critically reflect on their performance and translate experiences into knowledge. With the rise of artificial intelligence (AI), large language models (LLMs) are increasingly being explored as conversational agents in debriefings. However, concerns have been raised that AI debriefers may display sycophantic tendencies, characterized by overly positive sentiment and a lack of critical feedback. Such tendencies could affect learners' self-evaluations. In this study, 45 university students participated in a virtual reality (VR) counseling simulation, followed by either an AI-guided or a human-led debriefing. Sentiment analysis of 958 debriefing statements (350 AI, 608 human) was conducted using a German sentiment classification model. Results show that AI debriefers expressed significantly more positive sentiment and substantially fewer negative statements compared to human debriefers, corroborating the assumption of a sycophancy effect. However, sentiment was not found to predict self-rated counseling competence or self-efficacy. While AI debriefers provide consistent encouragement, their lack of critical feedback raises questions about their long-term effectiveness for professional skill development. Future research should explore hybrid approaches that combine AI scalability with human expertise in constructive reflection.
Auf einen Blick
Das könnte Sie auch interessieren

Hochschul-Initiative Digitale Barrierefreiheit für Alle
Die chancengerechte - gesetzlich geforderte - Teilhabe an digitaler Lehre für Studierende mit Beeinträchtigungen erfordert technische und didaktische Kompetenzen von Hochschulangehörigen sowie zugängliche medientechnische Infrastrukturen und Studieninhalte. SHUFFLE folgt dem Universal Design for Learning, das alle Studierenden einbezieht. Es werden Maßnahmen für Online- und Hybridveranstaltungen in einem Studierenden- und Lehrenden-zentrierten Ansatz entwickelt, pilotartig skaliert, technisch und didaktisch evaluiert und in einem Reifegradmodell zusammengefasst. Die Maßnahmen betreffen: Digitalisierungsstrategie und Curricula; barrierefreie digitale Lernmaterialien; automatische Live-Untertitelung und -Übersetzung mit manueller Korrekturmöglichkeit; multimodale und interaktive Lernskripte mit synchronisierten Folien, Videoaufnahme, Transkript und Gebärdensprache; eine virtuelle Begegnungsplattform; MOOCs und lokale Lerngruppen; Zertifizierung von Kompetenzen in barrierefreier Lehre; barrierefreie Lernplattformen Moodle/ILIAS inkl. Funktionalitäten für E-Prüfungsleistungen. Die Maßnahmen werden an Pilot-Hochschulen ausgerollt und evaluiert, so dass eine Skalierung der Projektergebnisse bereits in der Projektlaufzeit stattfindet.
Projekt anzeigen
Tio – interaktiver Chatbot zur Prüfungsgestaltung
Im Arbeitspaket „Digitale Prüfungssysteme“ zeigte sich die ausgeprägte Heterogenität der neun Verbundhochschulen als zentrale Herausforderung. Strukturen, Strategien und Prozesse unterschieden sich teils erheblich, insbesondere im Bereich der Prüfungsformen. Zwar waren diese inhaltlich häufig vergleichbar, wurden jedoch in den jeweiligen APO/ASPO unterschiedlich benannt und definiert. Zusätzlich standen nicht an allen Hochschulen dieselben digitalen Prüfungssysteme zur Verfügung. Diese Unterschiede erschwerten die Entwicklung einheitlicher, klar strukturierter Use Cases für Lehrende erheblich. Nach intensiven Abstimmungen wurde entschieden, alle Anwendungsfälle in einem regelbasierten Chatbot abzubilden und über die Projektwebseite bereitzustellen. Dieser Ansatz ermöglicht eine strukturierte Darstellung der vielfältigen digitalen Prüfungslandschaft. Der Chatbot Tio unterstützt Lehrende bei der Auswahl geeigneter Prüfungsformate und erleichtert den Zugang zu bewährten Praxisbeispielen.
Maßnahme anzeigen
Prüfungen an sächsischen Hochschulen – Perspektiven, Entwicklungen und Probleme ein Jahr nach Auslaufen der Notfallverordnungen.
[Kurzbeschreibung folgt (Anm. StIL)]
Publikation anzeigen