Modul 1 — KI verstehen, ohne sie kleinzureden

Lernziel: Sie können Fähigkeiten, Grenzen und Prüfbedarf eines generativen KI-Systems für eine konkrete Aufgabe begründen.

1. Das belastbare mentale Modell

Ein Sprachmodell erzeugt Text Token für Token. Ein Token ist ein Textbaustein — manchmal ein Wort, manchmal ein Wortteil oder Satzzeichen. Aus dem bisherigen Kontext berechnet das Modell eine Verteilung möglicher Fortsetzungen und wählt daraus die nächste Ausgabe. Training formt die dafür verwendeten Muster; eine Antwort ist aber keine einfache Kopie eines einzelnen Trainingsdokuments.

Das erklärt zwei Dinge gleichzeitig:

Sprachmodelle können erstaunlich gut erklären, umformulieren, strukturieren, Beispiele variieren und auf einen Dialog reagieren.
Eine flüssige, selbstsichere Formulierung ist kein Messgerät für Wahrheit. Das Modell optimiert die nächste passende Ausgabe, nicht automatisch den Wahrheitsgehalt.

Die oft verwendete Analogie „Autovervollständigung” ist ein guter Einstieg, aber unvollständig. Moderne Systeme können zusätzlich suchen, Dateien auswerten, Code ausführen oder Rechner verwenden. Diese Werkzeuge erweitern die Fähigkeiten — sie machen Ergebnisse nicht automatisch korrekt. Entscheidend ist immer: Welches Modell hatte welche Werkzeuge, welche Quellen und welche Kontrolle?

2. Vier Fehlerklassen statt des Sammelworts „Halluzination”

Wer nur nach Halluzinationen sucht, übersieht andere Fehler. Prüfen Sie mindestens vier Klassen:

Erfundene Tatsachen oder Quellen: Eine plausible Angabe existiert nicht oder belegt die Aussage nicht.
Veraltete Information: Die Antwort war früher richtig, ist heute aber überholt.
Schiefe Auswahl: Wichtige Gegenargumente, Perspektiven oder betroffene Gruppen fehlen.
Unpassende Anwendung: Ein brauchbarer Entwurf wird als Diagnose, Bewertung oder Entscheidung über eine Person verwendet.

Bei Schule ist die vierte Klasse oft die gefährlichste. Ein Textentwurf kann harmlos sein; derselbe Mechanismus wird problematisch, wenn er allein über Förderung, Note, Zugang oder Sanktion entscheidet.

3. Die Risiko-Triage in 30 Sekunden

Stellen Sie vor jeder Nutzung drei Fragen:

Frage	Niedrigeres Risiko	Höheres Risiko
Was passiert bei einem Fehler?	Entwurf wird verworfen	Lernende werden bewertet oder benachteiligt
Welche Daten gehen hinein?	erfunden, öffentlich, anonym	personenbezogen, vertraulich, besonders schützenswert
Wer trifft die letzte Entscheidung?	fachkundige Person prüft sichtbar	Systemausgabe wird ungeprüft übernommen

Ein guter Startpunkt ist deshalb reversibel, datenarm und prüfbar: drei Einstiege entwerfen, eine Erklärung vereinfachen, Übungsvarianten erzeugen oder Gegenbeispiele sammeln. Schlechte Startpunkte sind automatische Noten, Diagnosen, Verdachtsentscheidungen oder die Verarbeitung echter Lernendendaten in einem nicht freigegebenen Dienst.

4. Die Verifikationsleiter

„Ich habe die KI noch einmal gefragt” ist keine unabhängige Prüfung. Nutzen Sie eine Leiter, deren Höhe zum Schaden passt:

Plausibilitätscheck: Passt die Antwort zu Fachwissen und Aufgabenstellung?
Behauptungen markieren: Welche Sätze sind überprüfbare Tatsachen, Zahlen, Zitate oder Rechtsaussagen?
Primärquelle öffnen: Gesetz, Originalstudie, amtliche Statistik, Originaltext oder Herstellerdokumentation.
Gegenprobe: Bei relevanten Entscheidungen eine zweite unabhängige Quelle oder Methode heranziehen.
Werkzeug passend wählen: Rechnen mit Rechner/Code, Aktualität mit verlässlicher Suche, Zitate am Original.
Freigabe durch Menschen: Vor Veröffentlichung, Bewertung oder Einsatz mit Folgen trägt eine benannte Person Verantwortung.

Prompts wie „Erfinde nichts” können Aufmerksamkeit lenken, sind aber kein Sicherheitsmechanismus. Sicherheit entsteht aus Aufgabenauswahl, Quellen, Kontrollen und einem klaren Abbruchweg.

5. Ein persönlicher Arbeitsvertrag mit KI

Formulieren Sie drei Grenzen, die später im Praxislabor konkret werden:

Ich nutze KI für … Entwürfe, Varianten, Fragen, Struktur, sprachliche Unterstützung.
Ich prüfe immer … fachliche Kernaussagen, Quellen, Rechenwege, Aktualität, mögliche Benachteiligung.
Ich delegiere nie … alleinige Entscheidungen über Noten, Förderung, Zugang, Verdacht oder sensible Personen.

Das Ziel ist weder Vertrauen noch Misstrauen als Grundhaltung. Das Ziel ist kalibriertes Vertrauen: je höher Schaden, Unsicherheit und Datenbezug, desto stärker die Evidenz.