Modul 2 — Rechtssicher & DSGVO-konform

Dauer: ca. 90 Minuten · Kernfrage: Darf ich das? Und wie bleibe ich auf der sicheren Seite?

Rechtsstand: Juni 2026. Dieses Feld bewegt sich derzeit schnell. Wo eine Regel noch nicht endgültig ist, sagen wir das ausdrücklich. Diese Fortbildung ist keine Rechtsberatung — verbindlich sind Ihre Schulaufsicht und Ihr/e behördliche/r Datenschutzbeauftragte/r.

Lernziele

Nach diesem Modul können Sie …

• die eine goldene Regel des Datenschutzes beim KI-Einsatz benennen;
• erklären, warum das kostenlose ChatGPT für den Schulkontext problematisch ist;
• die drei Merkmale eines schulgeeigneten KI-Werkzeugs prüfen (EU-Hosting, kein Training mit Ihren Daten, AVV);
• die Frage „Darf ich das?" mit einem klaren Entscheidungsweg beantworten;
• einordnen, was die EU-KI-Verordnung von Schulen jetzt verlangt — und was erst später.

1. Zwei Gesetze, ein Ziel

Beim KI-Einsatz in der Schule treffen zwei Regelwerke aufeinander:

1. Die DSGVO (Datenschutz-Grundverordnung) — schützt personenbezogene Daten. Sie ist seit 2018 in Kraft und der eigentliche Alltagsmaßstab.
2. Die EU-KI-Verordnung (KI-VO / „AI Act") — regelt KI-Systeme nach Risiko. Sie ist neu und wird schrittweise scharf gestellt.

Beide zielen auf dasselbe: dass Technik den Menschen dient, nicht umgekehrt. Für Sie als Lehrkraft lässt sich fast alles auf eine Regel eindampfen — und die kommt zuerst.

2. Die goldene Regel

⛔ Keine personenbezogenen Daten von Schülerinnen und Schülern in ein öffentliches KI-Werkzeug.

Personenbezogen ist alles, was sich einer Person zuordnen lässt: Name, Klasse + Schule zusammen, Noten, Förderbedarf, Verhaltensauffälligkeiten, Gesundheitsangaben, ganze Schülertexte mit Namen darunter. Solche Daten gehören nicht in das kostenlose ChatGPT, Gemini & Co.

Der Grund ist einfach: Bei den kostenlosen Verbraucher-Werkzeugen geben Sie die Kontrolle über diese Daten ab — sie verlassen die Schule, landen auf Servern (oft in den USA) und werden in der Regel zum Training des Modells weiterverwendet. Daten von Minderjährigen stehen unter besonderem Schutz. Diese Kombination ist im Schulkontext nicht zu rechtfertigen.

✅ Rechtssicher dagegen ist: mit KI ohne Personenbezug arbeiten. „Formuliere eine Textaufgabe zum Dreisatz für Klasse 7" enthält keine Personendaten — das ist unproblematisch. Erst wenn Max' echter Aufsatz mit Namen hineinkommt, wird es kritisch.

3. Warum das kostenlose ChatGPT das Problemkind ist

Es ist nicht „böse" — es ist nur für den Schulkontext falsch gebaut. Vier konkrete Gründe:

Die in NRW etablierte Praxis zeigt den Ausweg: Eine Lehrkraft darf KI im Plenum einsetzen — sie tippt selbst die Eingaben (ohne Schülerdaten), die Klasse interagiert nicht direkt mit eigenen Konten. So bleibt der Personenbezug außen vor. Schülerinnen und Schüler sollen sich nicht mit privaten Konten in Verbraucher-KI einloggen.

4. Der Auftragsverarbeitungsvertrag (AVV) — das wichtigste Dokument

Sobald ein externes Werkzeug personenbezogene Daten im Auftrag der Schule verarbeitet, verlangt die DSGVO (Artikel 28) einen Auftragsverarbeitungsvertrag (AVV). Das ist der Vertrag, der festlegt: Der Anbieter verarbeitet die Daten nur weisungsgebunden, schützt sie, nutzt sie nicht für eigene Zwecke.

📌 Faustregel: Kein AVV → keine Schülerdaten. Wenn ein Anbieter Ihnen keinen AVV anbieten kann, ist das die klare Antwort.

Das ist auch Ihr stärkstes Prüfkriterium gegenüber jedem Anbieter: „Bekommen wir einen AVV nach Art. 28 DSGVO?" Ein schulgeeigneter Anbieter sagt sofort Ja und legt ihn vor.

5. Woran Sie ein schulgeeignetes KI-Werkzeug erkennen

Drei Merkmale — die gleiche Messlatte, die auch die staatlich beschafften Schul-Werkzeuge erfüllen (siehe Kasten):

1. EU-Hosting — die Daten werden in der EU/im EWR verarbeitet, nicht in einem Drittland.
2. Kein Training mit Ihren Daten — vertraglich zugesichert, dass Eingaben nicht ins Modelltraining fließen.
3. AVV vorhanden — ein unterschriftsreifer Auftragsverarbeitungsvertrag nach Art. 28.

Ein viertes Plus: Pseudonymisierung (z. B. über einen Identitätsdienst wie VIDIS), sodass der Anbieter Lernende gar nicht namentlich sieht.

📎 Zur Einordnung — der staatliche Maßstab: Seit Dezember 2025 stellen die Länder den Schul-Chatbot „telli" bereit (in Bayern als „AIS.chat"). Seine Eigenschaften sind genau die obigen: EU-betriebene Modelle, kein Training mit Eingaben, keine Datenweitergabe an Dritte, pseudonymisierter Zugang. Das ist heute die Messlatte für „datenschutzkonform" — und ein gutes Prüfraster für jedes weitere Werkzeug, das Ihnen angeboten wird.

6. „Darf ich das?" — der Entscheidungsweg

Die meisten Alltagsfragen lassen sich in drei Schritten klären:

Schritt 1 — Sind personenbezogene Daten im Spiel?

• Nein → ✅ in der Regel unbedenklich (z. B. Material erstellen, Ideen, Umformulieren ohne echte Namen).
• Ja → weiter zu Schritt 2.

Schritt 2 — Welches Werkzeug?

• Ein schulgeeignetes Werkzeug (EU-Hosting + kein Training + AVV, von der Schule freigegeben) → ⚠️ möglich, im Rahmen der Freigabe und Zweckbindung.
• Ein öffentliches/kostenloses Verbraucher-Werkzeug → ⛔ nicht mit Schülerdaten.

Schritt 3 — Transparenz & Zweck.

• Sind Lernende/Eltern informiert (siehe Abschnitt 8)? Ist der Zweck schulisch und verhältnismäßig? → ✅
• Geht es um eine Bewertung/Entscheidung über einzelne Lernende allein durch die KI? → ⛔ Das gehört zu den sensiblen „Hochrisiko"-Fällen und immer unter menschliche Letztentscheidung.

→ Den Entscheidungsweg als ausfüllbares Flussdiagramm finden Sie im Arbeitsblatt Modul 2.

7. Die EU-KI-Verordnung — was jetzt gilt, was später

Die KI-VO sortiert KI nach Risiko: verboten → hochriskant → begrenztes Risiko (nur Transparenz) → minimales Risiko. Für die Schule sind drei Dinge wichtig:

a) Schon in Kraft — die KI-Kompetenz-Pflicht (Artikel 4, seit 2. Februar 2025). Einrichtungen, die KI einsetzen, müssen für ausreichende KI-Kompetenz ihres Personals sorgen. Das betrifft Schulen — und genau diese Pflicht erfüllen Sie mit dieser Fortbildung. (Deshalb die Teilnahmebescheinigung: sie dokumentiert Ihre KI-Kompetenz.)

b) Ab 2. August 2026 — die Transparenzpflicht (Artikel 50). Wer mit einem KI-System interagiert, muss das wissen; KI-erzeugte Inhalte sind als solche zu kennzeichnen. Für die Schule heißt das: KI-Einsatz offenlegen, KI-erzeugtes Material kennzeichnen (mehr in Abschnitt 8). Dieser Teil wird nicht verschoben.

c) „Hochrisiko"-Anwendungen in der Bildung (Anhang III). Als hochriskant gelten nur bestimmte Einsätze: KI für Zugang/Aufnahme, für die Bewertung von Lernergebnissen (auch zur Steuerung des Lernwegs), für die Einstufung des Bildungsniveaus und für die Überwachung auf unzulässiges Verhalten in Prüfungen (KI-Proctoring).

✅ Entwarnung für den Alltag: Die meisten Unterrichts-Anwendungen sind nicht hochriskant — Material erstellen, zusammenfassen, üben, ein allgemeiner Chatbot zum Nachfragen. Hochriskant ist der schmale Bereich, in dem KI über Menschen entscheidet. Und selbst dort gilt: Wenn die KI nur einer Lehrkraft zuarbeitet, die die Entscheidung behält, fällt sie meist aus „Hochrisiko" heraus — außer es findet ein Profiling von Personen statt, dann bleibt es immer hochriskant.

⚠️ Aktueller Hinweis (Stand Juni 2026): Die strengen Hochrisiko-Pflichten sollten ursprünglich ab 2. August 2026 gelten. Durch das „Digital-Omnibus"-Paket der EU werden sie voraussichtlich auf den 2. Dezember 2027 verschoben. Diese Verschiebung ist politisch vereinbart, aber noch nicht endgültig beschlossen — das EU-Parlament stimmt 14.–17. Juni 2026 ab. Wir aktualisieren diese Angabe danach.

8. Transparenzpflicht: Lernende und Eltern informieren

Zwei Rechtsgründe verlangen Offenheit:

• KI-VO Art. 50 (ab Aug 2026): Interaktion mit KI offenlegen, KI-Inhalte kennzeichnen.
• DSGVO Art. 12–14 (schon jetzt): über die Verarbeitung personenbezogener Daten transparent informieren.

Praktisch heißt das:

• Sagen Sie der Klasse, wenn und wie KI eingesetzt wird („Dieses Übungsfeedback wird von einem KI-Tutor erstellt und von mir geprüft").
• Kennzeichnen Sie KI-erzeugtes Material, wo es relevant ist.
• Nehmen Sie den KI-Einsatz in die Datenschutz-Information der Schule auf (das macht die Schulleitung/der DSB — Sie müssen es nur anstoßen).
• Besonders bei allem, was Richtung Bewertung geht: offenlegen, und die Letztentscheidung bleibt bei der Lehrkraft.

9. Was bei staatlichen Schulen zusätzlich gilt (kurz)

Öffentliche Schulen sind Behörden. Für hochriskante KI-Systeme verlangt die KI-VO von Behörden zusätzlich eine Grundrechte-Folgenabschätzung vor dem Einsatz und eine Registrierung; die DSGVO eine Datenschutz-Folgenabschätzung (DSFA) bei risikoreicher Verarbeitung von Kinderdaten. Das ist Aufgabe der Schulleitung/des Schulträgers/des DSB, nicht der einzelnen Lehrkraft — aber gut, es zu kennen, damit Sie die richtigen Fragen stellen.

Zusammenfassung in fünf Sätzen

1. Goldene Regel: keine personenbezogenen Schülerdaten in öffentliche KI-Werkzeuge.
2. Das kostenlose ChatGPT ist im Schulkontext problematisch (kein AVV, Training mit Eingaben, US-Transfer, Altersgrenzen).
3. Ein schulgeeignetes Werkzeug erkennen Sie an EU-Hosting + kein Training mit Daten + AVV (Bonus: Pseudonymisierung).
4. Jetzt gilt die KI-Kompetenz-Pflicht (Art. 4); ab Aug 2026 die Transparenzpflicht (Art. 50); die strengen Hochrisiko-Pflichten voraussichtlich erst Dez 2027.
5. Die meisten Unterrichts-Anwendungen sind nicht hochriskant — und KI bleibt überall, wo es um Menschen geht, unter menschlicher Letztentscheidung.

Reflexionsfrage

Welche KI-Werkzeuge sind an Ihrer Schule aktuell freigegeben? Erfüllen sie die drei Merkmale (EU-Hosting, kein Training, AVV)? Wenn Sie es nicht wissen — das ist die erste Frage an Ihre Schulleitung bzw. Ihren DSB. → Arbeitsblatt Modul 2.