10.10.2024

KI-Empfehlungen der KMK – Wikimedia Deutschland, DKJS und GEW: richtiger Schritt, aber noch Leerstellen

Mit den länderübergreifenden Handlungsempfehlung für die Bildungsverwaltung zum Umgang mit Künstlicher Intelligenz (KI), die von der Bildungsministerkonferenz heute vorgestellt werden, wollen die Minister*innen der Länder Antworten auf die Frage geben, wie Schulen mit den „Potenzialen und Risiken“ von KI-Anwendungen umgehen sollen. Die Deutsche Kinder- und Jugendstiftung (DKJS), Wikimedia Deutschland und die Gewerkschaft Erziehung und Wissenschaft (GEW) begrüßen diesen überfälligen Schritt. Allerdings bleiben die Minister*innen an vielen Stellen zu unkonkret.

Wo ist die Vision?

Die Vision eines zeitgemäßen Bildungssystems mit KI, hinter der sich alle Stakeholder vereinen können, ist nicht klar zu erkennen. Stefan Schönwetter, DKJS-Experte für Digitale Bildung, betont hierzu: „Aus unserer Sicht versäumen es die Länder, klar zu benennen, welche pädagogischen, didaktischen und administrativen Herausforderungen mit Systemen der künstlichen Intelligenz gelöst und bearbeitet werden sollen.” Den Zweck und das Ziel zur Nutzung von KI zu benennen, ist dabei nicht nur zentral für die Motivation von Stakeholder*innen wie Lehrkräften. Dies wird auch in zentralen Regelungswerken wie der DSGVO und dem AI-Act gefordert. Gerade die Perspektive von Kindern und Jugendlichen sollte hierbei berücksichtigt werden. Sie bringen ganz unterschiedliche Voraussetzungen mit, die den Lehrkräften bekannt sein sollten. Damit ließe sich das Potential von KI-Systemen, bezogen auf das Anknüpfen an die Lebenswelten der jungen Menschen und ihre eigene Expertise in dem Feld, besser nutzen.

Entlastung durch KI? 

Die Handlungsempfehlungen betonen vor allem Entlastungen, die sich durch den Einsatz von KI etwa für die Unterrichtsvorbereitung ergeben. Entstehende Belastungen – und wie damit umzugehen ist – werden vernachlässigt. „Lehrkräfte müssen dringend zeitlich entlastet werden. KI-Anwendungen und -Systeme leisten das nicht automatisch. Denn Rationalisierungsmaßnahmen können auch zu Mehrarbeit und Arbeitsverdichtung führen. Indem neue Aufgaben hinzukommen oder Prozesse beschleunigt werden, die Frequenz der Aufgaben erhöht wird oder größere Klassengrößen angesetzt werden. Auf keinen Fall darf die Einführung KI-basierter Anwendungen und automatisierter Lernsysteme als Lösung für den Lehrkräftemangel ins Feld geführt werden. Wir brauchen mehr Lehrkräfte, die für Entlastung sorgen. KI kann nicht die Lösung für eine verfehlte Haushaltspolitik sein“, betont GEW-Vorsitzende Maike Finnern.

Wie soll Qualifizierung erfolgen?

Die Länder formulieren das Ziel, dass KI für alle Lehrkräfte ein Hilfsmittel wird. Dazu braucht es zunächst pädagogische und didaktische Weiterbildungen. Offen bleibt jedoch die Frage, woher das Lehrpersonal an den Hochschulen und Lehrkräfteseminaren kommen soll, dass die Lehrkräfte entsprechend ausbildet. Der AI-Act, dem ab August 2026 zu folgen ist, macht vor allem Fortbildungen für einen sicheren Umgang mit KI-Anwendungen notwendig – damit Lehrkräfte KI im Bildungsbereich, der als Hochrisikoszenario definiert ist, anwenden können. Die Ausbildung eines KI-Verantwortlichen in einer Kommune oder an einer Schule reicht nicht aus. Es braucht daher Qualifizierungs- und Awarenessformate, die dezidiert den Anforderungen des AI-Act entsprechen.

Welche KI wollen wir in der Bildung?

Dass die Länder allen Schulen ein datenschutzkonformes und für pädagogische Zwecke trainiertes großes Sprachmodell (Large Language Model) bereitstellen wollen, geht in die richtige Richtung. Sie haben jedoch versäumt, existierende Open-Source-Modelle wie OpenGPT-X oder EuroLingua-GPT explizit zu berücksichtigen. „Wenn KI-Systeme für den Bildungskontext entwickelt werden, müssen die zugrunde liegenden Modelle und Daten offen und transparent sein, da nur so eine unabhängige Prüfung der Technologien stattfinden kann. Diese Voraussetzung erfüllen proprietärer Modelle bisher noch nicht. Darüber hinaus trägt die Nutzung freier Modelle und Software dazu bei, Abhängigkeiten von Techkonzernen zu vermeiden“, fordert Heike Gleibs, Leiterin des Teams Bildung und digitale Kulturgüter bei Wikimedia Deutschland.

Wenn mit Technologie- und Bildungsmedienanbietenden KI-Anwendungen entwickelt werden, müssen die Bedürfnisse der Lehrenden und Lernenden und das Gemeinwohl im Mittelpunkt stehen. Dazu gehören Transparenz in allen Phasen und die Beteiligung aller Stakeholder – auch der Lernenden. Schädliche Auswirkungen, wie zum Beispiel die Verstärkung von Stereotypen, müssen vermieden, Offenheit und Barrierefreiheit sichergestellt werden.

Wer trägt Verantwortung?

Die Länder fordern mehr Freiräume für Lehrkräfte, um neue Bildungstechnologien auszuprobieren. Wir begrüßen diese Entwicklung. Aber Freiräume dürfen nicht zu luftleeren Räumen werden. Es fehlen klare Aussagen, wie sichere Rahmenbedingungen für den Einsatz von KI in Schulen geschaffen werden. Politik und Verwaltung müssen Verantwortung übernehmen. Die Verantwortung für die Einschätzung möglicher Risiken beim Einsatz von KI-Systemen in der Schule darf nicht den Lehrkräften übertragen werden.

Dies erfordert unter anderem eine Anpassung der Landesschulgesetze, um die Bereitstellung digitaler Lernmittel als Pflichtaufgabe der Länder zu verankern. Die Länder müssen dabei die Verantwortung für die Verarbeitung personenbezogener Daten übernehmen, um Schulleitungen rechtlich zu entlasten und bundesweit einheitliche Regelungen zu ermöglichen. Zudem sollten KI-Systeme nur nach einer Datenschutzfolgeabschätzung sowie einem Fundamental Rights Impact Assessment (FRIA), wie von der DSGVO und dem AI-Act gefordert, eingeführt werden.

Pressekontakt

Franziska Kelch / Kommunikationsmanagerin politische Rahmenbedingungen

Kontakt:

01577-135 49 52

franziska.kelch@wikimedia.de

Über Wikimedia Deutschland

Wikimedia Deutschland ist ein gemeinnütziger Verein mit über 111.000 Mitgliedern und 180 Beschäftigten, der sich für die Förderung von frei verfügbarem Wissen im digitalen Raum einsetzt. Als größte Ländervertretung der internationalen Wikimedia-Bewegung fördert der Verein die ehrenamtlichen Communitys der Wikipedia und weiterer Wikimedia-Projekte in Deutschland. Wikimedia Deutschland entwickelt und pflegt freie Software und die freie Datenbank Wikidata. Der Verein engagiert sich im digital- und bildungspolitischen Bereich für Rahmenbedingungen, die den freien Zugang zu Wissen und Daten möglich machen. Zudem kooperieren wir mit Kulturinstitutionen, um mehr kulturelles Erbe frei zugänglich zu machen.