Totale Transparenz: Wie die KI zum gläsernen Schüler führt

Ein Avatar unterrichtet im Gymnasium Wattwil Biologie – und in einer Aargauer Sekundarschule erstellt eine künstliche Intelligenz von jedem Kind ein Profil: Das ist gut für die individuelle Förderung, führt aber zum «gläsernen Schüler». Wollen wir das wirklich?«Das ist eine phantastische und extrem wichtige Frage!», lobt eine Stimme aus dem Laptop. Der Lehrerinnen-Avatar, der oben rechts auf dem Bildschirm des Schülers Denys zu sehen ist, bewegt Augen, Lippen und Kopf. Die Figur erinnert an eine Heldin aus einem japanischen Videospiel: mandelförmige Augen, scharf gezeichnete Brauen, hochgestecktes Haar, glatte Haut.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Auf Denys’ Frage, wie sich der Zustand einer Pflanze am Tag und in der Nacht unterscheidet, erklärt die digitale Lehrerin, dass eine Pflanze am Tag mittels Fotosynthese Sauerstoff an die Umgebung abgibt, in der Nacht aber ausschliesslich Kohlendioxid produziert. Denys hakt nach: «Also wird die Pflanze in der Nacht in gewissem Sinne zu einem Tier, weil sie dann wie ein Tier Zellatmung macht?» – «Genau so kann man sich das in etwa vorstellen», bestätigt die Maschine. Der Dialog erscheint zeitgleich als Transkript im linken Fenster.Es ist Donnerstagnachmittag, die Klasse 1SW im Gymnasium Wattwil hat Biologieunterricht. Einige der achtzehn Jugendlichen tragen Kopfhörer und sprechen mit ihren Bildschirmen, andere lesen und tippen auf der Tastatur. Während die 15- bis 16-jährigen Schüler mit Algorithmen interagieren, wachsen auf dem Fenstersims echte Pflanzen in kleinen Töpfen; die Mikroskope sind abgedeckt. Diese Lektion wird gänzlich von einer KI gehalten. Trotzdem läuft der Unterricht noch teilweise analog. Die Schülerin Anja beugt sich über die KI-generierten, ausgedruckten Arbeitsblätter und markiert wichtige Stellen mit gelbem Leuchtstift. «Erst danach bespreche ich den Stoff mit dem Tutor», erklärt sie.Die KI warnt vor FehlernDie Biologielehrerin Zensi Hopf beobachtet die Szenerie, geht von Schülerin zu Schüler, beantwortet da eine Frage und gibt dort einen Tipp. Seit drei Monaten testet sie in zwei ihrer Klassen das Programm Tutor.new. Es handelt sich um ein Projekt eines ETH-Spin-offs, das zuerst für den Nachhilfeunterricht entwickelt wurde und nun für den Schulbetrieb adaptiert wird.Nicht immer gibt die KI befriedigende Antworten: Da und dort geht zwischendurch die Hand einer Schülerin oder eines Schülers hoch.Wie es im Schulalltag funktioniert, zeigt sich am Nebentisch bei Joline. Sie hat ihre Arbeitsblätter bereits durchgearbeitet und tippt nun ein: «Kannst Du Konzept 1 bis 4 mit mir besprechen?» – «Klar», so erscheint die schriftliche Reaktion im Dialogfenster. Und gleich die erste Frage: «Was ist der Unterschied zwischen autotroph und heterotroph?» – «Ich bin mir nicht sicher», schreibt die Schülerin. Der Avatar erklärt es und blendet eine Grafik ein, darunter ein Warnhinweis auf gelbem Grund: «Dieses generierte Bild könnte fehlerhaft sein.»Joline weiss, dass sie nicht allem trauen darf, was von der KI kommt. Denn auch diese arbeitet nicht fehlerfrei. «Das Programm hat auch schon vergessen, mir Stoff zu erklären, der für eine Prüfung wichtig gewesen wäre», sagt sie. Das habe dann auf die Note gedrückt.Die meisten Schüler sind konzentriert bei der Sache. Am Ende der Doppellektion füllen alle ein Aufgabenblatt aus, entweder direkt auf dem Laptop oder handschriftlich auf Papier, das sie danach mit dem Smartphone einscannen. Die KI verarbeitet die Lernstandskontrolle und gibt sowohl den Jugendlichen als auch ihrer Lehrerin Feedback. «So weiss ich jederzeit, wo meine Schüler stehen», sagt Hopf.Der Tutor ist mehr als ein Programm, das den Schülern Stoff erklärt. Er ist auch ein Beobachter. Nach dem Unterricht weist er die Lehrerin darauf hin, wenn ihre Klasse etwas nicht verstanden hat, listet auf, welche Jugendlichen verzögert oder gar nicht interagiert haben, und zeigt, wer die Übungen ungenau erledigt hat oder besonderen «Aufmerksamkeitsbedarf» aufweist. Sie hat damit einen umfassenden Überblick über die Klasse. «Ich kann quasi in die Köpfe der Schüler schauen», erklärt Hopf. Das geht so weit, dass sie den Chatverlauf jedes einzelnen nachlesen kann. «Diese detaillierte Rückmeldung hilft mir, meinen Unterricht individueller zu gestalten», sagt Hopf. Der Tutor mache ihr die Arbeit nicht streitig, sondern er entlaste sie. «Ich kann meine Energie gezielter für die einzelnen Schüler einsetzen», sagt Hopf.«Ich kann meine Energie gezielter für die einzelnen Schüler einsetzen», sagt die Lehrerin Zensi Hopf.Es sind solche Möglichkeiten, die neue Perspektiven für die Bildung eröffnen. Sie verschieben aber auch Grenzen: Die künstliche Intelligenz ist nicht nur persönliche Lernbegleiterin der Schüler und Assistentin für die Lehrer. Vielmehr ist sie in der Lage, alles festzuhalten und aus der Flut der gespeicherten Daten eine präzise Analyse des Leistungsstands und des Verhaltens jedes einzelnen Schülers vorzunehmen.Welche Prompts wirken am effektivsten?Schöne neue Welt? Oder goldener Datenkäfig? Die Integration von KI im Unterricht, wie sie zunehmend in Schweizer Schulen erfolgt, ist Gegenstand intensiver Forschung. Zu den führenden Köpfen auf diesem Gebiet gehört die Informatikprofessorin Tanja Käser. Sie leitet das Labor für maschinelles Lernen an der EPFL in Lausanne und befasst sich mit der Frage, wie künstliche Intelligenz das Lernen sinnvoll unterstützen kann – und wo die Gefahren liegen. In einem neuen Projekt mit der Pädagogischen Hochschule Schwyz untersucht sie, wie KI das selbstregulierte Lernen fördern kann. «Wir vergleichen zum Beispiel, welche Prompts am effektivsten wirken», erklärt Käser. Ein anderes Projekt erforscht, wie Lernende ihre Lernerfahrungen mit einem KI-Tutor reflektieren.Käser sieht grosses Potenzial für die Technologie im Bildungsbereich. Ihre Vision ist eine Schule, in der Lehrerinnen und Lehrer eine Art Werkzeugkasten mit KI-Tools zur Verfügung haben, die sie zur Unterstützung ihres Unterrichts beiziehen können. «Die künstliche Intelligenz soll eine Partnerin der Pädagogen sein», sagt sie. Die Software könne dabei helfen, den Stoff zu individualisieren, Tests auszuwerten oder Wissenslücken frühzeitig zu erkennen. «Es ist aber klar, dass die Lehrpersonen stets im Führerstand bleiben müssen. Sie bestimmen, wann und wie KI eingesetzt wird.»Die Frage ist, ob das genügt. Und wer künftig die Schülerinnen und Schüler davor schützt, dass zu viele Daten über sie gesammelt werden. In einem Fachartikel hat Käser gemeinsam mit weiteren Autorinnen vor pädagogischen und psychologischen Konsequenzen gewarnt, wenn sich Lernende ständig überwacht, bewertet und aufgezeichnet fühlen. Die Expertinnen sehen die Gefahr, dass die Schüler Experimente und «Lernen durch Fehler» vermeiden könnten. Die Folgen: Konformität, Scham, vermindertes Selbstvertrauen, weniger Neugierde: «Aus gesellschaftlicher Sicht ist diese Erosion sicherer Lernräume besonders beunruhigend», steht in diesem Artikel.Der Lehrerinnen-Avatar oben rechts bewegt Augen, Lippen und Kopf, wenn er mit dem Schüler spricht. Im Feld links wird der Dialog auch noch schriftlich wiedergegeben.Im Gespräch bestätigt Käser diese Befürchtungen. Sie sieht einen klassischen Zielkonflikt zwischen individueller Förderung und Datenschutz. So hat sie zum Beispiel ein Tool entwickelt, mit dem Lehrlinge in einer Apotheke per Chatbot den Dialog mit zukünftigen Kunden üben können. «Es würde den Nutzen dieser Anwendung zerstören, wenn die Lehrlinge das Gefühl hätten, dass die Lehrerin ihre Dialoge sieht.» Hingegen könne es sinnvoll sein, dass die Lehrerin in einer nachträglichen Zusammenfassung sehe, welche Fehler Schüler häufig machten, um unterstützend einzugreifen.«Nur weil eine KI alles beobachten kann, heisst das nicht, dass sie alles weitergeben muss», stellt Käser klar. Das sei eine Frage des Designs, der Anwendungen und des Umgangs der Schulen mit den neuen Tools. Mit ihren sieben Doktoranden kann die Forscherin nur einen Bruchteil der rasanten Entwicklung in diesem Bereich abbilden. Sie spricht deshalb von einem «riesigen Feldversuch», der derzeit an den Schweizer Schulen stattfinde – den niemand wirklich überblicke.Eine Aargauer Schule stellt komplett auf KI umDenn während noch viele Fragen offen sind, experimentieren Lehrkräfte nicht nur in Wattwil, sondern an vielen anderen Schulen mit der neuen Technologie. Sie programmieren zum Beispiel eigene Chatbots, um Klassen auf Prüfungen vorzubereiten, oder sie greifen auf kommerzielle Angebote zurück. Viele tasten sich vorsichtig vor. Im Aargau aber wagt eine ganze Schule den grossen Schritt.Wenn der Schüler zu lange nichts tut, meldet sich das System.In der Kreisschule Mutschellen im Kanton Aargau herrscht an diesem Nachmittag drückende Sommerhitze. Für einmal sitzen statt Schülern eine Lehrerin und ein Lehrer an den schmalen Pulten und schwitzen. An der Wand hängt eine aufgerollte Landkarte, wie das Relikt einer analogen Epoche, die an dieser Schule bald zu Ende gehen wird. Der Lehrer Daniel Spiess, zuständig für den Informatiksupport, projiziert seinen Laptop-Bildschirm an die Leinwand.Die Schule hat ein ambitioniertes Ziel. Sie will «die erste KI-Schule der Schweiz» werden, wie der Schulleiter Florian Stähli erklärt. Nach den Sommerferien wird der ganze Betrieb auf künstliche Intelligenz umgestellt. Sämtliche rund achtzig Lehrerinnen und Lehrer arbeiten ab diesem Zeitpunkt mit der Software des Anbieters Pro Scola. Die Aufgabe von Spiess ist es, das System seinen Kolleginnen und Kollegen in kleinen Gruppen zu erklären.Die ersten Einführungsmodule sind schon abgeschlossen, nun geht es in dieser Weiterbildung um den sogenannten «Hub 360», den Teil des Systems, in dem sämtliche Daten der Schüler zusammenlaufen: Prüfungen, Tests, Lebenslauf, persönliches Profil, Stärken- und Schwächenanalyse. Das System schlägt Berufsfelder vor und verfasst auf Knopfdruck massgeschneiderte Motivationsschreiben. «Selbstverständlich sollten wir dennoch mit den Schülern üben, wie man solche Schreiben richtig verfasst», sagt Spiess zu seinen Lehrerkollegen.Die Berufswahl mit dem «Hub 360» steht erst am Ende des ganzen Prozesses. Die Software von Pro Scola setzt bereits viel früher an: Ab dem ersten Sekundarschultag wird sie künftig das Lernen und Lehren an der Kreisschule bestimmen, wie der Schulleiter Stähli erklärt. «Zum Beispiel müssen Lehrpersonen ihre Lektionen nicht mehr mühsam zu Hause vorbereiten.» Sie geben ein Thema ein, wählen per Klick einen pädagogischen Ansatz – vom traditionellen Unterricht über die Montessori-Methode bis zum spielbasierten Lernen –, worauf das Programm einen fertigen «Lernpfad», basierend auf dem Lehrplan 21, generiert, samt Arbeitsblättern und Tests. Diese werden anschliessend von den Schülern entweder ausgedruckt, bearbeitet und wieder eingelesen oder direkt am Bildschirm ausgefüllt.Eltern haben jederzeit die KontrolleAm Ende korrigiert die KI die Arbeiten und erstellt ein Profil sowohl der ganzen Klasse als auch jedes einzelnen Schülers. «Das Tool korrigiert die Prüfungen besser und schneller, als es je ein Mensch tun könnte», sagt der Schulleiter Stähli. Und die Rückmeldungen an Lehrer und Schüler sind differenziert und ausführlich. «Wir haben tausendmal so viele Informationen über die Schüler und können damit viel zielgerichteter arbeiten.»Auf dem Regal beim Fenster wachsen echte Pflanzen, während sich die Jugendlichen mit einem Algorithmus unterhalten.Selbst die soziale Interaktion wird zum Teil automatisiert. Auf Wunsch generiert die Software fertige Skripte, die der Lehrer für das Elterngespräch verwenden kann. Und nicht nur das: Die Eltern können sich jederzeit via App auf dem Smartphone über den Lernfortschritt sowie die Stärken und Schwächen ihres Kindes informieren. Auf Wunsch erhalten sie auch Anleitungen, wie sie ihren Kindern Nachhilfe geben können.Das Aargauer Modell zeigt, wie die digitale Erfassung des Schulalltags zur Realität wird. Das ist möglicherweise ein Problem auf politischer Ebene. Edouard Lamboray ist stellvertretender Direktor von Educa, der Fachagentur von Bund und Kantonen für den digitalen Bildungsraum Schweiz. Er beobachtet die rasante Entwicklung von KI im Schulbereich mit gemischten Gefühlen. «Je mehr ich über einen Schüler weiss, umso besser kann ich wohl auf seine Bedürfnisse eingehen und seine schulische Begleitung individualisieren», sagt er.Doch aus Sicht der Lernenden könne der individualisierte Unterricht mit KI-Lernplattformen zu einer Form von Profiling führen. «Alles, was digital abgebildet ist, kann theoretisch zum Monitoring verwendet werden», sagt Lamboray. Darum stelle der Einsatz von KI grosse Herausforderungen an den Datenschutz. Allerdings fehlt Educa der Überblick darüber, welche KI-Anwendungen an welcher Schule bereits im Einsatz stehen. Klar ist, dass die Kantone ihre Datenbearbeitungen unterschiedlich regeln. Nun wird versucht, hier etwas Ordnung zu schaffen. In einem dicken Bericht zeigt die Fachagentur dem Bund und den Kantonen sogenannte «Entwicklungsansätze für eine Datennutzungspolitik» auf, an denen sie Politik und Praxis ausrichten können.Das «Recht auf Intransparenz»Aber eigentlich geht es bei der sich anbahnenden KI-Revolution an den Schulen um viel mehr als um politische und pädagogische Fragen – es geht letztlich darum, welchen Menschentyp die Gesellschaft in Zukunft will. «Soll die Schule ein Ort der optimierten Produkteorientierung sein? Oder ein geschützter Raum für die menschliche Entwicklung?», fragt der Erziehungsphilosoph Roland Reichenbach. Die Vorstellung, dass die Lehrerin durch die KI-Analyse die «Perspektive eines allmächtigen Psychotherapeuten» erhalte, sei gefährlich für die Entwicklung des Kindes, sagt er.Nach ersten Erfahrungen mit dem KI-Tutor hat die Lehrerin ihren Unterricht etwas angepasst: Nun gibt sie zu Beginn jeder Doppellektion einen mündlichen Input.Für ihn ist die Vision des «gläsernen Schülers», der von einem allwissenden Lehrer mittels KI perfekt gefördert wird, nicht kompatibel mit dem «Recht auf Intransparenz», das jedem Menschen zustehe. Es sei wichtig, dass gewisse Sachen im Dunkeln blieben, betont der Professor am Institut für Erziehungswissenschaft der Universität Zürich. «Zu viel Helligkeit kann auch zerstören.» Deshalb sieht Reichenbach durch die KI-Anwendungen die vertrauensvolle pädagogische Beziehung in Gefahr. Denn ein Mensch müsse lernen, dass der andere nicht immer alles sehe, was er mache und denke. Nur so könne er ein Gefühl entwickeln für Anstand, Normen und Regeln. «Eine radikale Offenheit führt zu einer destruktiven Gesellschaft», mahnt Reichenbach.Von dieser Dystopie ist an diesem Donnerstagnachmittag an der Kantonsschule Wattwil wenig zu spüren. Nach den ersten neun Wochen hat die Lehrerin Zensi Hopf bei ihren Schülerinnen und Schülern eine Umfrage durchgeführt. Die grosse Transparenz ihrer Daten gegenüber der Lehrerin wird von keinem der Schüler kritisiert. Viele sprechen hingegen von Lerngewinn und zeigen sich motiviert, mit dem Tutor zu arbeiten.Doch einige sprechen auch von Orientierungslosigkeit und Verunsicherung, wenn sie nicht von einem Menschen, sondern einer Maschine angeleitet werden. Hopf hat deswegen ihr Konzept etwas angepasst. Zu Beginn jeder Doppellektion gibt sie nun einen kurzen mündlichen Input. Und bei schwierigen Themen verteilt sie zusätzlich ein Merkblatt als «survival kit», damit die Jugendlichen in der Stofffülle den Faden nicht verlieren.An diesem Nachmittag scheint das aufzugehen. Und doch geht immer wieder eine Hand in die Höhe. «Sie, ich bin jetzt gerade ein wenig verwirrt», sagt die Schülerin Anja und lässt sich von der Lehrerin nochmals genau erklären, wie Pflanzen in der Nacht atmen. «Dann ist es also nicht gut, wenn ich eine Pflanze in meinem Schlafzimmer stehen habe?», fragt sie. Die Arbeit geht Hopf trotz ihrem digitalen Assistenten nicht aus. Offensichtlich suchen die Jugendlichen nicht einfach computergenerierte Antworten, sondern ein persönliches Gegenüber. «Wenn ich die Wahl habe, dann frage ich natürlich lieber die Lehrerin», sagt Anja. Zu Hause, bei der Prüfungsvorbereitung, gehe das nicht. Da bleibt ihr nur der Avatar.Ein Artikel aus der «NZZ am Sonntag»Passend zum Artikel