
Der Kompetenzverbund lernen:digital gestaltet den Dialog zwischen Wissenschaft und Praxis für die digitale Transformation von Schule und Lehrkräftebildung.
Über den Kompetenzverbund
Vier Kompetenzzentren bündeln die Expertise aus rund 200 länderübergreifenden Forschungs- und Entwicklungsprojekten. In den Projekten entstehen evidenzbasierte Fort- und Weiterbildungen, Materialien sowie Konzepte für die Schul- und Unterrichtsentwicklung in einer Kultur der Digitalität.
Über die Kompetenzzentren
Eine Transferstelle macht die Ergebnisse für Lehrkräfte sichtbar, fördert die konstruktive Weiterentwicklung mit der Praxis und unterstützt den bundesweiten Transfer in die Lehrkräftebildung.
Über die Transferstelle
Was bedeutet es, kritische KI-Kompetenz zu fördern?
Im Sinne der OECD hat die Schule die Aufgabe, Schüler:innen in unserer digitalisierten Welt zu begleiten und entsprechend auf ihre Zukunft vorzubereiten (OECD, 2020, 2023). Dazu ist es wichtig, dass Schüler:innen einen verantwortungsvollen Umgang mit Künstlicher Intelligenz (KI) entwickeln und Handlungsfähigkeit erlangen.
Um kritische Urteilsfähigkeit zu erlangen, sollten sowohl Chancen als auch Risiken und Limitationen im Umgang mit KI erlernt werden. Dazu sind zweierlei Fähigkeiten entscheidend (vgl. Long & Magerko, 2020):
- Technik zielgerichtet, bspw. für Bildungszwecke, als Werkzeug anwenden zu können,
- aber auch die Fähigkeit zu besitzen, darüber reflektieren zu können, um ethische und gesellschaftliche Folgen abzuleiten.
Am besten lässt sich dies anhand eines fiktiven Beispiels illustrieren: In einer Klasse werden die Hausaufgaben der Schüler:innen durch ein KI-gestütztes Bewertungssystem benotet. Dieses System kann für die Lehrkraft durch die Zeitersparnis und Formulierung von schüler:innenspezifischem ausführlichem Feedback eine enorme Hilfe in der Bewältigung ihrer Lehraufgaben sein. Eine Schülerin aus einem nicht-muttersprachlichen Haushalt bemerkt, dass sie trotz korrekter Antworten in ihren Hausaufgaben oftmals schlechtere Noten als ihre Freunde erhält. Ihr Klassenkamerad stellt zudem fest, dass Mädchen in seiner Klasse oft schlechter abschneiden als Jungen, obwohl sie ähnlich gute Leistungen erbringen. Sie sprechen ihre Lehrkraft darauf an.
Die Lehrkraft und die Schüler:innen nehmen dies als Anlass, um die technischen Hintergründe zu recherchieren und die Ursache dadurch besser zu verstehen. In diesem gemeinsamen Prozess wird klar, dass das KI-gestützte Bewertungssystem sprachliche und geschlechtsspezifische Vorurteile (sog. „Biases“, siehe auch Infobox in dieser Frage) reproduziert und in die Notenvergabe einfließen lässt. Die Vorurteile entstehen, da das KI-System mit historischen Trainingsdaten aus unserer Gesellschaft trainiert wurde und diese Daten solche Vorurteile enthalten.
Nun können Lehrkraft und Schüler:innen mit diesem Wissen Schlussfolgerungen für gesellschaftlich verantwortungsvolles Handeln ziehen. Für den Einsatz von KI-basierten Systemen lässt sich unter anderem ableiten, dass stets ein Mensch in den Entscheidungsprozess eingebunden sein sollte („human in the loop“), um Verantwortung zu übernehmen und etwaige Fehlurteile zu kontextualisieren und korrigieren. Außerdem muss der Output von KI-Systemen stets hinterfragt werden, da auch KI-Systeme nicht völlig objektiv, sondern abhängig von Trainingsdaten sind. Durch den selbst bestimmten Umgang mit KI-basierten Systemen können sich Lehrkräfte und auch Schüler:innen so nicht nur als Nutzer:innen, sondern auch als aktive Gestalter:innen von KI in Bildungskontexten sehen.
In diesem Beispiel wird deutlich, dass nur unter Einbezug technologischer Hintergründe die Situation ganzheitlich betrachtet, hinsichtlich ihrer gesellschaftlichen Implikationen analysiert und verantwortungsvoll darauf reagiert werden kann.
Wie vermittle ich ethische und gesellschaftliche Implikationen an Schüler:innen?
Lehrkräfte können eine kritische Reflexion über KI praxisnah vermitteln, indem sie konkrete Beispiele für KI-Nutzung aus dem schulischen Alltag der Schüler:innen (oder der Lehrkräfte) aufgreifen und mit Lernaufgaben verbinden. Lehrkräfte können durch das kontinuierliche Setzen und Mitreflektieren von kleinen oder größeren medienerzieherischen Impulsen mehr erreichen als durch separate Unterrichtseinheiten, die in der Alltagspraxis oftmals aufgrund von beschränkten Ressourcen nicht leistbar sind.
Ein Rechercheauftrag, in dem Schüler:innen oder Lehrkräfte KI nutzen, kann eine ausgezeichnete Gelegenheit sein, um Themen wie beispielsweise Deepfakes, Fake News oder Social Bots aufzugreifen. Gleichzeitig kann man beispielsweise gesellschaftliche Herausforderungen wie den ungleichen Zugang zu Informationen durch bei der Recherche auftretende Paywalls beim Zugang zu KI-Tools thematisieren (s. nächster Abschnitt).
Im Rahmen solcher realitätsnahen ganzheitlichen Aufgaben können neben ethischen und gesellschaftlichen Fragestellungen im Idealfall auch technische Funktionsweisen von KI besprochen werden. Diese Themen können so als kleinere Impulse organisch in bestehende Unterrichtsfächer eingebettet werden, ohne explizite Stunden zur Medienerziehung zu planen. Auf diese Weise lassen sich gleichzeitig sowohl die Chancen als auch die Risiken von KI lebensweltnah und handlungsorientiert im Unterricht vermitteln und kritisches Denken fördern.
Was kann ich als Lehrkraft tun, um mit Ungleichheiten bei der KI-Nutzung umzugehen?
Wenn nicht alle Schüler:innen den gleichen Zugang zur Software eines Large Language Models wie ChatGPT haben, nennt man dies digitale Kluft (engl.: Digital Divide). Um der Problematik ungleicher Zugänge zu KI-Tools zu begegnen, können frei zugängliche Tools oder Open-Source-Plattformen (fAIrChat, Mistral, Llama) genutzt werden, die ähnliche Funktionen bieten. Es kann auch sinnvoll sein, darauf hinzuweisen, dass die Kompetenz im Umgang mit KI oft wichtiger ist als der Zugang zu den neuesten Tools. Projekte, bei denen Schüler:innen einfache KI-Anwendungen selbst erstellen oder simulieren, stärken ihr Verständnis und ihre Handlungsfähigkeit unabhängig von kostenintensiven Tools.
Was wäre hier zukünftig wünschenswert?
Langfristig wäre es wünschenswert, wenn Bildungsinstitutionen und politische Akteur:innen Rahmenbedingungen schaffen, die gleichen Zugang zu pädagogisch fundierten KI-Tools für alle Schüler:innen gewährleisten. Mögliche Ansätze könnten in der Förderung offener Lernmaterialien (Open Educational Resources, OER), der Entwicklung gemeinwohlorientierter KI-Anwendungen oder in Partnerschaften mit nicht-kommerziellen Anbietern liegen, um chancengleiche Zugänge für Schüler:innen zu ermöglichen.
Vertiefung
In diesem Bereich finden Sie Literatur, Materialien und Links, um sich noch weiter mit dem Thema zu beschäftigen, und die Quellenangaben für den Beitrag.
Links und weiterführende Literatur
- Do’s and Dont’s im Umgang mit KI in der Schule (klicksafe.de)
- Risiken durch KI-Systeme einfach erklärt (klicksafe.de)
- Information zum KI-Gesetz der EU (Webseite des Europäischen Parlaments)
- Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke der Europäischen Kommission (Webseite der Europäischen Union)
- KI und Globale (Un)Gerechtigkeit: Ethische Perspektiven auf Künstliche Intelligenz (Videovortrag von Anne Burkhardt, Universität Tübingen)
Quellen
Was Sie auch interessieren könnte:
Jana Boos

Jana Boos ist wissenschaftliche Mitarbeiterin und Doktorandin am Tübingen Center for Digital Education der Universität Tübingen. Sie forscht an der Schnittstelle von Künstlicher Intelligenz, Bildung und Ethik, mit einem besonderen Fokus auf der Vermittlung von KI-Kompetenz für Lehramtsstudierende unter Berücksichtigung ethisch-gesellschaftlicher Fragestellungen. Dabei arbeitet sie interdisziplinär mit Expert:innen aus den relevanten Fachbereichen zusammen.
Neben ihrer Forschung engagiert sich Jana Boos aktiv in der Wissenschaftskommunikation, insbesondere im Rahmen der Initiative KI macht Schule, und kooperiert mit dem KI-Makerspace Tübingen.