Woran erkenne ich, ob noch ein Mensch dahintersteht?
Vor einigen Tagen lief mir eine Anzeige auf Facebook durch die Timeline:
Eine Plattform, die mit Künstlicher Intelligenz in wenigen Minuten einen vollständigen Online-Kurs erzeugt, und die ausdrücklich damit wirbt, dass man das Fach / das Thema dafür nicht beherrschen muss.
Für Erwachsene, die ihr eigenes Wissen verkaufen möchten, mag das eine tragfähige Geschäftsidee sein, aber sobald Kinder mit solchen Kursen lernen sollen, verschiebt sich die Frage erheblich.
KI-generierte Kurse gehören heute zu den Online-Lernressourcen und sind weder automatisch schlecht noch automatisch brauchbar, denn entscheidend ist, ob jemand mit Fachkenntnis Eingaben gemacht hat, das Ergebnis geprüft hat und ob Jemand erreichbar ist, wenn Ihr Kind nicht weiterkommt.
Ich habe über zehn Jahre eine Schule geleitet und berate heute u.a. Familien zum Thema Online-Beschulung. In dieser zweiten Rolle sehe ich die Materialien, mit denen Kinder tatsächlich arbeiten, und dass dabei KI im Spiel ist, merkt man ihnen in den meisten Fällen nicht direkt an.
Woran erkenne ich, ob hinter einem Online-Kurs noch ein Mensch steht?
Am Text und an der Oberfläche selbst lässt sich das leider kaum noch erkennen. Generierte Inhalte sind flüssig formuliert, sauber strukturiert und sehen häufig sogar besser aus als über Jahre gewachsenes Material.
Erkennbar wird es z.B. an drei anderen Stellen, nach denen man dezidiert fragen kann:
- Wer antwortet, wenn Ihr Kind eine Frage stellt?
- Wer korrigiert eine Aufgabe und begründet die Korrektur?
- Und wer ist namentlich dafür verantwortlich, dass der Stoff fachlich richtig ist?
Diese drei Fragen führen weiter als jede Textanalyse, weil sie genau die Stelle treffen, an der die künstliche Generierung aufhört. Einen Kurs zu erzeugen ist in den letzten Jahren sehr billig geworden, während es nach wie vor aufwendig bleibt, einen fachlichen Fehler darin zu finden, bevor ein Kind ihn als vermeintlich richtig lernt.
Wenn Sie einen Testzugang zu einem Kurs bekommen, gibt es dafür eine einfache Probe:
Geben Sie eine bewusst falsche Antwort ein, am besten eine mit einem typischen Denkfehler, und sehen Sie sich an, was das System darauf erwidert. Eine Rückmeldung, die den Fehler benennt und erklärt, woran es gelegen hat, ist etwas anderes als ein knappes „leider falsch, versuche es erneut“, und beides ist wiederum etwas anderes, als wenn überhaupt keine Reaktion erfolgt.
Was können die Generatoren tatsächlich?
KI-Systeme erzeugen in kurzer Zeit eine brauchbare und überzeugende Struktur, und das ist eine ernstzunehmende Leistung, die ich hier nicht kleinreden will. Wie die Anbieter selbst darüber sprechen, zeigt die Seite einer verbreiteten Kurs-Software: Dort heißt es „Von der Idee zum Kurs – in Minuten“, der Dokumentenimport liefere einen „didaktisch fundierten ersten Entwurf, strukturiert fürs Lernen“, und das Werkzeug sei „KI, gebaut für Menschen, die keine Lerndesigner*innen sind“. Angegeben werden außerdem „9x schneller“ und „53% mehr Interaktivität in Kursen“.
Diese Zahlen stehen ohne Angabe einer Methode und ohne Quelle auf der Seite, was in diesem Markt der Normalfall ist und noch keinen Vorwurf begründet, aber es bedeutet eben auch, dass man sie nicht überprüfen kann.
Wichtiger als die Zahlen selbst finde ich die Herkunft solcher KI-Werkzeuge zur Kurserstellung, denn sie stammen oft aus der betrieblichen Weiterbildung und nicht aus dem Kontext schulischer Bildung
Was sagt die Forschung zur Qualität KI-generierter Lernmaterialien?
Es gibt dazu inzwischen belastbare Befunde, und sie fallen gemischt aus. Am aufschlussreichsten ist für mich ein österreichischer Pilotversuch zu einem KI-Unterrichtsassistenten, der an 36 Schulen begleitet wurde: 36 Prozent der befragten Lehrkräfte berichteten von einer besseren inhaltlichen, methodischen oder didaktischen Qualität ihrer Unterrichtsplanungen, während 31 Prozent keine Verbesserung erkennen konnten. Die erwartete Zeitersparnis trat für viele nicht ein, und einige berichteten sogar von einem höheren Aufwand als vorher (vgl. Abschlussbericht des Kompetenzzentrums MINT & Digitalität der PH Wien, Oktober 2025).
Interessanter als dieser Durchschnitt sind die Unterschiede zwischen den Fächern. In den Fremdsprachen sahen 51 Prozent der Lehrkräfte eine Verbesserung, in Mathematik und den Naturwissenschaften dagegen sahen 57 Prozent wenig oder keine Verbesserung und nur 14 Prozent eine Verbesserung. Genannt wurden dort Übungen, die zu leicht ausfielen, Rechenbeispiele, die zu niedrig angesetzt waren, und Formeln, die fehlerhaft formatiert wurden.
Entscheidend an diesem Befund ist für mich, dass Lehrkräfte befragt wurden, die ihr Fach beherrschen. Sie konnten erkennen, dass eine Aufgabe zu leicht geraten und eine Formel falsch gesetzt war, und sie haben die Materialien entsprechend nachgearbeitet. Genau diese Korrekturschleife entfällt, wenn jemand einen Kurs in einem Fach erzeugen lässt, das er selbst nicht beherrscht, und der Fehler verschwindet dadurch nicht aus dem Material, sondern fällt lediglich niemandem auf, bis z.B. ein Kind an ihm scheitert.
Muss ein Anbieter offenlegen, dass er KI eingesetzt hat?
In den meisten Fällen besteht keine solche Pflicht, und das überrascht viele Eltern, die von der europäischen KI-Verordnung gehört haben und annehmen, generierte Inhalte müssten inzwischen gekennzeichnet werden. Die Kennzeichnungspflicht aus Artikel 50 der KI-Verordnung greift bei Texten nämlich nur dann, wenn diese die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren, und sie entfällt zusätzlich dann, wenn eine menschliche redaktionelle Kontrolle stattfindet und eine Person die redaktionelle Verantwortung dafür trägt. Ein Lernangebot / Online-Kurs, der an Familien verkauft wird, fällt regelmäßig nicht darunter (vgl. Art. 50 KI-VO).
Die Einstufung als Hochrisiko-Anwendung betrifft im Bildungsbereich ebenfalls andere Dinge, als man zunächst vermuten würde, nämlich den Zugang und die Zulassung zu Bildungseinrichtungen, die Bewertung von Lernergebnissen, die Einschätzung des angemessenen Bildungsniveaus und die Überwachung von Prüfungen (Anhang III Nr. 3 KI-VO). Die Erstellung von Lerninhalten wird dort nicht aufgeführt. Ein KI-System, das eine Entscheidung über Ihr Kind trifft, unterliegt also strengen Anforderungen, während ein KI-System, das das Material schreibt, mit dem Ihr Kind täglich arbeitet, davon nicht erfasst wird.
Was empfehle ich Familien?
Ein wichtiges Prüfkriterium ist die Zulassung nach dem Fernunterrichtsschutzgesetz. Geprüft werden dabei unter anderem die didaktische Eignung, die Erreichbarkeit des Lehrgangsziels, die pädagogische Betreuung und die Lernerfolgskontrolle (vgl. §§ 1 und 12 FernUSG).
Damit berührt die Prüfung genau jene Punkte, an denen ein generierter Kurs ohne Menschen im Hintergrund Schwierigkeiten bekommen müsste, denn Betreuung und Lernerfolgskontrolle lassen sich nicht erzeugen, sondern müssen geleistet werden. Eine solche Zulassung sagt deshalb mehr über ein Angebot aus als jedes Qualitätssiegel, das sich ein Anbieter selbst verleiht.
Unabhängig davon gibt es sechs Fragen, die ich jedem Anbieter stellen würde:
- Wer hat die Inhalte dieses Kurses fachlich geprüft, und mit welcher Qualifikation?
- Wurde bei der Erstellung KI eingesetzt, und an welcher Stelle?
- Wer antwortet, wenn mein Kind etwas nicht versteht, ein Mensch oder ein Chatbot, und innerhalb welcher Zeit?
- Wer korrigiert die Aufgaben, und wie sieht eine Rückmeldung konkret aus? Hier lohnt es sich, um ein Beispiel zu bitten.
- Wie oft werden die Inhalte aktualisiert, und wer entscheidet darüber?
- Ist der Lehrgang nach dem FernUSG zugelassen, und unter welcher Nummer?
Die zweite dieser Fragen halte ich dabei nicht für die wichtigste. Ein Anbieter, der offen über den Einsatz von KI spricht und die fachliche Prüfung belegen kann, ist mir lieber als einer, der jeden Einsatz von KI bestreitet.
Und wie gehe ich selbst mit KI um?
Ich stelle auf meiner Seite auch Plattformen vor, die einen erkennbaren KI-Anteil haben. Aber es gibt immer auch die Unterüberschrift „Wer steht hinter dem Angebot“, die versucht, hier eine Transparenz im Sinne der interessierten Familien zu erzeugen und die ein Kriterium bei der Auswahl eines geeigneten Angebotes sein kann.
Auch bei der Erstellung meiner Beiträge lasse ich mich bei der Recherche durch KI unterstützen – die Beitragsformulierung und die Quellenprüfung bleibt aber bei mir.
Worauf es ankommt, ist nicht das Werkzeug, sondern die Prüfung und die Frage, ob jemand mit seinem Namen dafür einsteht. Wo ich etwas nicht geprüft habe, darf im Text auch nicht der Eindruck entstehen, es sei gesichert.
