Maßnahme Bühne
Zum Projekt

Learning Analytics

Übergeordnetes Feedback für das Studierverhalten mit Hilfe von „Learning Analytics“ unterstützt die Studierenden in ihrem Lernverhalten. Dabei werden die Datenspuren der Studierenden in Moodle mit Zusatzdaten ergänzt und mit Hilfe von selbstprogrammierten KI-Modellen mit Vorgängerkohorten verglichen und Prognosen auf das Bestehen der Prüfung gemacht, sowie aufgrund der persönlichen Datensituation individuelle Tipps zum Wiederholen und Lernen gegeben. Der Maßnahme liegt ein robustes Datenschutzkonzept für die Verarbeitung der persönlichen Daten der Studierenden zugrunde.

Kategorien

Bitte nennen Sie bis zu fünf Stichwörter, die den Inhalt Ihrer Maßnahme aussagekräftig beschreiben.
Learning Analytics
Machine Learning Modell
KI
Feedbacktools
Zielgruppe(n)
Wissenschaftliche Mitarbeiter:innen/LfBA
Professor:innen
Lehrbeauftragte
Hochschul-, Fachbereichs-/Fakultätsleitung
(Fach-)Öffentlichkeit
Studierende
Handlungsfeld & Aktivität(en)
Technisch-räumliche Infrastruktur
Softwarelösungen & technische Ausstattung entwickeln
Lernassistenz-/Monitoringsysteme entwickeln
Lehr-/Studienangebote
Lehr-/Lernmaterialien entwickeln
Supportangebote
Angebote für Lernbegleitung und Studienberatung entwickeln

Beschreibung

Herausforderung

• Das Vorwissen der Studierenden in Mathematik und Physik ist sehr heterogen geworden, so dass individuelle Lernpfade immer wichtiger werden.

• Die Motivation der Studierenden für das Lernen ist sehr unterschiedlich, Aufwand/Nutzen-Optimierung wie in der Schule funktioniert in MINT-Fächern meist nicht, gute Lerntechniken für das Studium sind vielfach nicht vorhanden.

Herangehensweise

Im Fach Physik im Studiengang Wirtschaftsingenieurwesen deuten die Prüfungsergebnisse aus dem Studienjahr 2023/24 auf einen positiven Effekt durch die Maßnahme „Learning Analytics“ gegenüber den Vorjahresergebnissen hin. Potenzielle Indikatoren für den Prüfungserfolg wurden identifiziert und aufbereitet. Machine Learning Modelle (MLM) wurden mit den Indikatoren für eine Prognose, die Prüfung zu bestehen, trainiert.

Für das Feedbacktool wurde in einem Team aus Lehrenden, didaktischen Mitarbeitenden und Studierenden in einem Gaming Prozess (www.empamos.de) und durch Fragebögen die Kriterien für ein lernförderliches und unterstützendes Feedback herausgearbeitet. Ein Lernfeedback mit Dashboard-Grafiken, KI-Prognose und individuellen und allgemeinen Lerntipps wurde zweimal pro Semester an die Studierenden per E-Mail versendet. Die fachlichen Feedbacks bei den Moodle-Quiz-Aufgaben für die einzelnen Antworten unterstützen das Konzept hierbei.

Zusammenhang

Lehrveranstaltung Physik im Studiengang Wirtschaftsingenieurwesen.

Voraussetzung

Die Erstellung eines Datenschutzkonzeptes nach Datenschutz-Grundverordnung (DSGVO) war Voraussetzung für die Verarbeitung der personenbezogenen Daten. Die Trainingsdaten sind pseudonymisiert und anonymisiert auf einem zugangsbeschränkten Server abgespeichert. Die Studierenden mussten aktiv der Teilnahme zustimmen. Jederzeit war eine Wahl oder Abwahl von der Teilnahme an Learning Analytics möglich.

Es mussten Indikatoren für eine erfolgreiche Prüfung identifiziert werden, um die KI-Modelle trainieren zu können. Diese heißen auch Merkmale, Prädikatoren oder Feature-Variablen.

Die Daten zur Auswertung wurden für eine maschinenlesbare Auswertung aufbereitet, Es wurden Skripte für die Auswertung (KI-Modellierung, Grafikerzeugung, Feedback-Wortbaukasten, E-Mail-Komposition) geschrieben.

Das „Framing“ im Unterricht beim Einsatz von Learning Analytics ist sehr wichtig, damit die Studierenden die Aktivitäten mit Ihren Nutzen für das Lernen einordnen können.

Eignung

Die Learning-Analytics-Feedback-E-Mail wurde von den Studierenden in Nachbefragungen positiv bewertet und als motivierend empfunden.

Die Prüfung im Sommersemester 2024 hatte die niedrigste Durchfallrate in diesem Physikkurs seit 20 Jahren.

Vorgehen/Schritte

Datenschutzkonzept auf Basis der DSGVO erstellen.

Datensammlung (z.B. aus Moodle oder andere das Lernen betreffende Daten) ist wichtig. Es müssen auch Daten von vergleichbaren vergangenen Kohorten zum KI-Training vorliegen. Dazu sollten alte Kurse im Lernmanagementsystem nicht gelöscht, sondern gespeichert werden.

Identifizierung der Indikatoren für den Prüfungserfolg.

Manuelle Datenaufbereitung ist notwendig, insbesondere sogenanntes „Nullhandling“ (Umgang mit fehlenden Daten) und u.U. Zusammenfassung von Features/Indikatoren.

Erstellung der Vorlage für eine Feedback-E-Mail - dies benötigt Zeit und Kompetenz (fachlich, didaktisch, pädagogisch).

Hinweise

Effekte

Über 90 % der Studierenden haben an Learning Analytics teilgenommen.

Die Feedback-E-Mail wurde von den Studierenden positiv und motivierend aufgenommen.

Die Prüfung im Sommersemester 2024 (Pilotsemester) hatte die niedrigste Durchfallrate in diesem Physikkurs seit 20 Jahren.

Im Kollegium besteht großes Interesse daran, Learning Analytics auch im eigenen Kurs einzusetzen.

Das „Nullhandling“ und die Programmierung der Machine Learning Modelle war zeitaufwändig.

Learnings

Die Erstellung des Datenschutzkonzeptes ist aufwändiger als erwartet.

Der Zeitaufwand für die Datenaufbereitung („Nullhandling“) ist sehr hoch.

KI-Modelle zu programmieren erfordert viel Wissen zu den Modellen und den Größen, die modelliert werden. Vieles ist Trial & Error, erfordert eine Lernkurve und manches kann durch gezielte Planung verbessert werden.

Empfehlung

Denkbar wäre ein kombinierter Ansatz aus einem Dashboard im Lernmanagementsystem (LMS), z.B. Moodle – analog dem Display einer Fitnessuhr – und drei semesterbegleitenden Einzel-E-Mails, die auf Basis der Online-Quiz-Ergebnisse individuelle Lernempfehlungen enthalten.

Tipps

Verschiedene Machine-Learning-Modelle haben verschiedene Vor- und Nachteile.

Wenn man Feedback geben will, muss man wissen, warum das KI-Modell Petra Musterfrau in die Gruppe der eher gefährdeten Studierenden gesteckt hat. Klassische Neuronale Netze leisten das z.B. nicht, weil wie in einer Blackbox der Weg zur Einordnung unbekannt ist. Wir haben mit Entscheidungsbäumen (Decision Trees), Support Vector Machines (SVM) und Logistischer Regression gearbeitet, weil sie erklärbare Modelle sind. Sogenannte Explainable AI (XAI) könnte sich lohnen auszuprobieren.

Es gibt eine weltweite Learning Analytics Community, die unter www.solaresearch.org erreichbar ist. Auf den jährlichen Tagungen treffen sich über 600 Aktive.

Sonstiges

Wir haben uns bewusst gegen ein Learning-Analytics-Dashboard im Lernmanagementsystem entschieden, das wie eine Pulsuhr jede Minute „Gesundheitsdaten zum Lernen“ sendet. E-Mails sind gezielter und werden persönlicher wahrgenommen. Dies war eine gute Entscheidung.

Methoden

Empfohlen

Methoden
Insbesondere die Logistische Regression als KI-Modell

Nicht empfohlen

Methoden
Nicht-erklärbare-KI (Machine Learning Modelle, die nicht nachvollziehbar und daher für Lernempfehlungen ungeeignet sind)

Kontakt

Bearbeiter:innen und Beteiligte
Keine Kontaktdaten vorhanden
Material
NameDownload / LinkBeschreibungLizenzFormatGröße
Alle Publikationen des PRO-Aktjv-Teams inkl. Learning AnalyticsLink aufrufen/Link/
Einsatz von Learning Analytics zur Entwicklung eines Feedbacktools für höheren Studienerfolg (VortraLink aufrufen/PDF/
Predictive LA generiert Lernfeedback: KI-Design, Herausforderungen, 1. Ergebnisse (6. MINT Symp. 202Link aufrufen/PDF/
Predictive Learning Analytics Generating Learning Feedback: AI Design, Challenges, First Findings (PLink aufrufen/PDF/
PRO-Aktjv: Hochschuldidaktikteam an der TH RosenheimLink aufrufen/Link/

Das könnte Sie auch interessieren

Projekt 101737
Projekt

EAT: Teaching 1-world-diet in 2 nations

Hintergrund: Im Lancet EAT Report formulierten Experten Empfehlungen für eine nachhaltige Ernährung, zum Wohl des Planeten und der Menschen. Hausarztpraxen sind entscheidende, aber unzureichend genutzte Stellen für die Dissemination dieser Informationen an Patient*innen. Projekt: Das internationale blended-learning Lehrprojekt EAT entwickelt und implementiert ein Curriculum für die gemeinsame Edukation von Medizinstudierenden und Lehrärzt*innen der Allgemeinmedizin der Universitäten Bonn und St. Andrews (Schottland). Studierende lernen die EAT-Ernährung gemeinsam in Theorie und Praxis kennen. Unter Anleitung von geschulten Hausärzten trainieren sie die Edukation von Hausarztpatient*innen. Didaktik: Das Projekt integriert zahlreiche innovative didaktische Methoden, z.B. digitale Kochsessions geleitet von Ökotrophologen, Erfahrungslernen in binationalen Kleingruppenteams, Strategien zur Patientenedukation. Vorarbeiten: Im Wahlfach Culinary Medicine mit digitalen Kochsessions, das von Studierenden als sehr gut evaluiert wurde, hat Bonn umfangreiche Vorerfahrungen gesammelt. Evaluation: Das EAT-Projekt wird wissenschaftlich von einem interprofessionellen Team von Dozierenden beider Universitäten mit einem Mixed-Methods-Ansatz evaluiert. Impact: Das Projekt ist als nachhaltiges Lehrprojekt angelegt, das national und international in Lehrsettings anderer Universitäten integriert werden kann.

Projekt anzeigen
Maßnahme 100056
Maßnahme

Workspace zur Unterstützung des Studieneinstiegs

Der Studieneinstieg ist eine Phase, in der viele Studierende Unsicherheit und Überforderung erleben, da viele Dinge erledigt werden müssen und vieles neu ist. Der Workspace zum Thema „Onboarding“ leitet Schritt für Schritt durch die verschiedenen Phasen des Onboarding-Prozesses und gibt den Studierenden so ein Gefühl von Orientierung und Informationssicherheit zurück.

Maßnahme anzeigen
Publikation 100464

Multimodale Modellantworten als direktes Feedback bei der individuellen Unterrichtsvideoanalyse

Im Diskurs um Reformen in der Lehrkräftebildung wird der Forderung nach fundierten, berufspraktisch relevanten Kompetenzen u. a. mit dem Einsatz von Unterrichtsvideos begegnet. Dabei stellt sich nicht nur die Frage nach geeigneten Maßnahmen, um den Kompetenzerwerb auch im digitalen Raum bei der individuellen Videoanalyse zu begleiten, sondern es gilt auch zu untersuchen, welche Modalität diese Begleitmaßnahmen haben sollten, um für Studierende im Sinne der Cognitive Theory of Multimedia ansprechend und gut nutzbar zu sein. Es wurde eine Erhebung in einem videobasierten Online-Lernsetting durchgeführt, bei dem 137 Grundschullehramtsstudierende zwischen auditiven und transkribierten Modellantworten als direktes Feedback wählen konnten. Analog zur Feedbackmodalitätsforschung bestätigte sich das Audio als präferierte Modalität. Jedoch wurde ein einschränkender Reihenfolgeeffekt festgestellt. Erste Erklärungen, warum Studierende Audio oder Transkript präferieren, liefert eine Inhaltsanalyse.

Publikation anzeigen