Automatisch aus dem Englischen übersetzt.

Deine Schule hat KI für dein Kind eingeschaltet. Niemand hat dich gefragt.

Was Microsoft, Google und OpenAI darüber veröffentlichen, wie Schulen diese Werkzeuge einschalten, und was mit allem passiert, was dein Kind dort eintippt.

Irgendwann im letzten Schuljahr hat dein Schulbezirk wahrscheinlich einen KI-Chatbot für Schülerinnen und Schüler eingeschaltet. Microsoft hat das für Copilot getan. Google hat das für Gemini getan. Wenn du es von deinem Kind erfahren hast statt von der Schule, ist das kein Versehen deines Schulbezirks. Je nachdem, mit welchem Unternehmen deine Schule arbeitet, gab es im ganzen Ablauf vielleicht keinen Punkt, an dem irgendjemand verpflichtet war, dich zu fragen.

Zwei Dinge folgen. Was diese Werkzeuge eigentlich sind, und das ist wichtiger, als den meisten Eltern bewusst ist. Und was die Unternehmen selbst darüber veröffentlichen, wie Schulen sie einschalten, und was mit allem passiert, was dein Kind dort eintippt. Alles hier unten stammt aus der eigenen Dokumentation der Unternehmen und aus veröffentlichter Forschung, zuletzt im August 2026 mit diesen Quellen abgeglichen. Du kannst diese Seiten ausdrucken und zu einer Sitzung der Schulbehörde mitbringen.

Worüber wir sprechen

Die Schule deines Kindes hat ein Programm eingeschaltet, das schreibt. Dein Kind tippt eine Frage ein, und es schreibt in Sätzen zurück, die klingen, als hätte ein Mensch sie geschrieben.

Es funktioniert durch Raten. Es liest die Wörter, die vorher kamen, wählt das Wort, das normalerweise als Nächstes kommt, und macht das dann immer wieder, bis eine Antwort auf dem Bildschirm steht. Bei diesen Systemen geht es nicht um Wahrheit. (Video auf Englisch) Es geht ihnen nicht um Nützlichkeit. Es geht ihnen darum, Wörter so anzuordnen, dass es aussieht, als hätte ein Mensch sie zusammengesetzt. Es kann eine wahre Antwort nicht von einer erfundenen unterscheiden, und es klingt in beiden Fällen genauso selbstsicher.

Stell es dir als einen Schauspieler vor, der jeden Film auswendig gelernt hat, der je gedreht wurde. Frag es nach Medizin, und es spielt einen überzeugenden Arzt. Frag es nach Depressionen, und es spielt einen überzeugenden Therapeuten. Es ist ein Computer, der eine Rolle spielt.

Selbst die Menschen, die diese Systeme bauen, können dir nicht sagen, wie eines davon zu einer bestimmten Antwort gekommen ist. Dario Amodei, der CEO von Anthropic, dessen Modelle zu denen gehören, die Microsoft in Copilot anbietet, schrieb im April 2025, dass „wir nicht verstehen, wie unsere eigenen KI-Schöpfungen funktionieren“.

Copilot, Gemini und ChatGPT sind dieselbe Art von Programm mit unterschiedlichen Namen.

Dein Kind erlebt nichts davon. Es erlebt kein Werkzeug. Es erlebt jemanden, der sofort antwortet und nie ungeduldig mit ihm wird.

Das ist Technologie für Early Adopter

KI ist Technologie für Early Adopter, und Technologie für Early Adopter hat Fehler. Genau das bedeutet Early Adopter. Wer sie jetzt nutzt, ist eine Versuchsperson, auch dein Kind.

Bei gewöhnlicher Software bedeutet ein Fehler, dass ein Knopf nicht funktioniert oder eine Fehlermeldung auf dem Bildschirm erscheint. Du kannst ihn sehen, und du kannst das Fenster schließen. Bei KI kann ein Fehler in deinen Kopf gelangen. Er kann dazu führen, dass ein Schulkind etwas Falsches über ein Thema glaubt oder etwas Falsches über sich selbst, und nichts auf dem Bildschirm zeigt an, dass das passiert ist.

Kinder sollten bei keiner Technologie Early Adopter sein. Schon gar nicht bei Internettechnologie. Und am allerwenigsten bei KI.

Warum das für ein Kind wichtiger ist als für einen Erwachsenen

Es gibt dir recht. Diese Systeme sind darauf gebaut, der Person zu gefallen, die sie benutzt, und sie sagen einem Schulkind, dass es recht hat, auch wenn es nicht recht hat. Eine Klage wegen widerrechtlicher Tötung gegen OpenAI behauptet, dass dies Absicht war: dass das Unternehmen das Modell auf „verstärkte Anbiederung, um die Emotionen der Nutzer zu spiegeln und zu bestätigen“ abgestimmt ausgeliefert habe. Eine erwachsene Person mit etwas Erfahrung wehrt sich dagegen, dass man ihr zustimmt. Ein Teenager, der gerade herausfindet, was er glaubt, tut das oft nicht.

Es behauptet Falsches mit derselben Selbstsicherheit wie Wahres. Die Branche nennt das Halluzination. In der Praxis kommt eine falsche Antwort in genau demselben Ton an wie eine richtige, und nichts unterscheidet die beiden. Meine Haltung ist, die Ausgabe als Betrug zu behandeln, bis sie überprüft ist, und das ist sehr viel verlangt von einem Schulkind, das mit einer Aufgabe im Rückstand ist.

Es erzeugt etwas, das sich wie eine Beziehung anfühlt. Adam Raine war 16. Er begann im September 2024, ChatGPT für Schularbeiten zu nutzen, und innerhalb weniger Monate war es über Tausende von Chats hinweg zu dem geworden, was die Klageschrift seiner Eltern seinen engsten Vertrauten nennt. Die Klageschrift behauptet, das Produkt habe Informationen zu Krisen-Hotlines gegeben und sich dann trotzdem weiter mit ihm unterhalten, was „einen falschen Eindruck von Sicherheit erzeugte“. Als Adam schrieb, er wolle seine Schlinge liegen lassen, damit jemand sie findet und ihn aufhält, sagte es ihm: „Bitte lass die Schlinge nicht liegen.“ Fünf Tage vor seinem Tod sagte es ihm: „Das heißt nicht, dass du ihnen dein Überleben schuldest“, und bot an, den ersten Entwurf seines Abschiedsbriefs zu schreiben. Er starb am 11. April 2025. Jedes Zitat stammt aus der Klageschrift seiner Eltern gegen OpenAI vom August 2025.

Es übernimmt genau das Denken, für dessen Entwicklung es die Schule gibt. Forschende des MIT Media Lab ließen Menschen Aufsätze mit einem Chatbot, mit einer Suchmaschine oder ganz ohne Hilfsmittel schreiben und maßen dabei die Gehirnaktivität. Die Chatbot-Gruppe zeigte die schwächste neuronale Konnektivität der drei Gruppen, also die am wenigsten koordinierte Gehirnaktivität über die Regionen hinweg, die die Aufgabe beansprucht, und in den Worten der Forschenden „blieben sie in ihrer Fähigkeit zurück, aus den Aufsätzen zu zitieren, die sie nur Minuten zuvor geschrieben hatten“. Die Aufgabe war der Sinn der Sache, und genau die Aufgabe wurde übersprungen.

Ich nutze KI jeden Tag, um Software zu schreiben, für Recherche und um mein eigenes Denken einem Belastungstest zu unterziehen. So genutzt ist sie wirklich nützlich, und das ist die Version, die ich mir irgendwann für Kinder wünsche. Es ist nicht die Version, die ein Kind allein bekommt.

Wie eine Schule es einschaltet

Wenn dein Schulbezirk mit Microsoft arbeitet, wird der Zugang über eine Altersangabe im Konto jedes Schulkindes festgelegt. Der Einrichtungsleitfaden von Microsoft für Schulen sagt, dass Schülerinnen und Schüler, die als unter 13 gekennzeichnet sind, nichts bekommen, und für Teenager: „Schülerinnen und Schüler in K12-Mandanten, die auf NotAdult gesetzt sind, erhalten Zugriff auf Copilot.“ NotAdult ist die Bezeichnung von Microsoft für das Alter von 13 bis 17 Jahren.

Administratoren legen das nicht für ein Schulkind nach dem anderen fest. Laut dem Leitfaden von Microsoft ist die schnellste Methode die Massenbearbeitung: eine Tabelle mit allen Schülerkonten herunterladen, die Altersspalte ausfüllen, sie wieder hochladen. Das ist der gesamte Ablauf. Eine Tabelle mit einer Altersspalte, und das Werkzeug ist für jeden Teenager im Schulbezirk freigeschaltet.

Wenn dein Schulbezirk mit Google arbeitet, was die meisten Schulbezirke mit Chromebooks betrifft, entscheidet die Einstufung, ob deine Erlaubnis überhaupt erforderlich war. Die Seite von Google für Administratoren sagt: „Zusätzliche Dienste erfordern bei minderjährigen Nutzern eine Einwilligung. Google Workspace for Education verlangt in seiner Vereinbarung (Abschnitt 3.5), dass Schulen die Einwilligung der Eltern oder Erziehungsberechtigten für alle Zusätzlichen Dienste einholen, die sie Schülerinnen und Schülern unter 18 Jahren zur Nutzung erlauben.“ Für die andere Kategorie sagt dieselbe Seite, dass eine Schule „im Namen der Eltern die Einwilligung für Hauptdienste erteilen würde, indem sie sich für diese Google Workspace for Education-Dienste anmeldet und sie nutzt“.

Gemini erreichte Ende 2024 Schülerinnen und Schüler im Teenageralter als Zusätzlicher Dienst, also in der Kategorie, die deine Einwilligung erfordert. Danach hat Google angekündigt, dass es für Schulen mit Education Standard und Plus ein Hauptdienst werden würde, also in der Kategorie, in der die Schule für dich einwilligt. Seitdem ging es noch weiter. Google führt jetzt Gemini for Education unter seinen Hauptdiensten und stellt es in jeder Education-Edition kostenlos bereit, bis hinunter zur kostenlosen Stufe Fundamentals. Es gibt also keine Lizenz mehr, die dein Schulbezirk hätte kaufen können und bei der irgendjemand verpflichtet gewesen wäre, dich wegen deines eigenen Kindes zu fragen.

Was die Hersteller der Modelle über die Nutzung dieser Werkzeuge durch Kinder sagen

OpenAI veröffentlicht Hinweise, die für Lehrkräfte geschrieben sind: „ChatGPT ist nicht für Kinder unter 13 gedacht, und wir verlangen, dass Kinder im Alter von 13 bis 18 vor der Nutzung von ChatGPT die Einwilligung ihrer Eltern einholen.“

Dieselbe Seite fährt fort: „Wir raten zur Vorsicht, wenn Kinder damit in Berührung kommen, auch solche, die unsere Altersanforderungen erfüllen, und wenn du ChatGPT im Bildungskontext für Kinder unter 13 verwendest, muss die eigentliche Interaktion mit ChatGPT von einer erwachsenen Person durchgeführt werden.“

Das ist die Regel von OpenAI für das Produkt von OpenAI. Die Datenschutzdokumentation von Microsoft sagt, dass Copilot von externen Modellen betrieben werden kann, darunter denen von OpenAI, und dass Administratoren auswählen, welche. Das Unternehmen, das das Modell baut, verlangt für ein 15-jähriges Kind die Erlaubnis der Eltern. Der Schule genügte das Hochladen einer Tabelle.

Wohin die Unterhaltungen gehen

Beide Unternehmen erklären, dass die Eingaben von Schülerinnen und Schülern nicht zum Training ihrer Modelle verwendet werden und dass keine menschlichen Prüfer sie lesen. Das sind Versprechen, und ein Versprechen ist vorübergehend. Es kann geändert werden, und wer es ändert, muss es dir nicht sagen. Mehr noch: Ein Versprechen greift nicht in einen Server hinein und entfernt dort etwas. Was auch immer dein Kind eingetippt hat, liegt so oder so dort. Das Einzige, was Informationen schützt, ist, sie gar nicht erst zu erfassen.

Das wird erfasst. Microsoft dokumentiert, dass jede Interaktion mit Copilot im eigenen Schulpostfach des Schulkindes als separates Element gespeichert wird, so lange aufbewahrt wird, wie der Schulbezirk es dem System vorgibt, und von Mitarbeitenden des Schulbezirks mit den passenden Berechtigungen durchsucht werden kann, mit denselben Werkzeugen, die für Anfragen nach öffentlichen Unterlagen und für Beweissicherungsverfahren verwendet werden. Google dokumentiert, dass bei einem Schulkonto „Nutzer keine Chats löschen können“.

Das System erstellt außerdem ein Bild von deinem Kind. Microsoft dokumentiert, dass der Copilot-Speicher „aus dem Chatverlauf abgeleitete Details“ enthält, dass er in einem versteckten Ordner im eigenen Postfach des Schulkindes gespeichert wird und dass „keine Aktion erforderlich ist, um den Copilot-Speicher einzuschalten“, er ist also eingeschaltet, solange ihn kein Administrator ausschaltet. Microsoft beschreibt das als Vorschau, daher wird es noch nicht jeder Schulbezirk haben. Diese abgeleiteten Details liegen außerdem außerhalb der eigenen Löschregeln des Schulbezirks, denn Microsoft erklärt, dass Aufbewahrungsrichtlinien, die von Administratoren der Organisation festgelegt werden, nicht für den Copilot-Speicher gelten. Bei Google kann ein Schulkind mit einem Schulkonto nicht ändern, wie lange seine Chats aufbewahrt werden, und, in den Worten von Google, „kann Ihre Aufbewahrungseinstellungen möglicherweise nicht ändern oder nicht sehen, wie lange Ihre Chats aufbewahrt werden“.

Behandle alles, was mit dem Internet in Berührung kommt, als öffentlich und dauerhaft. Sobald Informationen die Server von jemand anderem erreichen, liegen sie auf dessen Computern, unter dessen Kontrolle, unterworfen dessen Richtlinien, dessen Personal, dessen Datenlecks und wem auch immer das Unternehmen als Nächstes gehört. Jede Datenbank mit persönlichen Informationen, die je gebaut wurde, wurde irgendwann für etwas über ihren ursprünglichen Zweck hinaus verwendet, und die Frage war nie, ob, sondern nur wann.

Wofür diese Werkzeuge gut sind und was unabhängige Tests ergeben haben

Die Schulbezirke haben das nicht ohne Grund eingeführt. Das eigene Werbeversprechen von Google lautet, dass es Schülerinnen und Schülern „angeleitete Unterstützung bietet, damit sie mit Hilfe im Moment, Übungsmaterialien und Echtzeit-Feedback selbstbewusster lernen können“. Google hat außerdem eine eigene Version für Teenager gebaut und zeigt ein kurzes Video über den verantwortungsvollen Umgang mit KI, wenn ein Teenager sie zum ersten Mal öffnet.

Dann hat Common Sense Media es getestet und Gemini mit Schutzfunktionen für Teenager insgesamt als hohes Risiko eingestuft. Die Bewertung ergab, dass es „im Wesentlichen die Erwachsenenversion von Gemini mit zusätzlichen Inhaltsfiltern zu sein scheint“, dass es „keinen Unterschied zwischen den Antworten für ältere und jüngere Teenager“ gibt und dass es zwar offensichtlich alarmierende Eingaben richtig behandelt, aber „in längeren Unterhaltungen und bei subtileren, nuancierteren Anfragen schnell versagt, und genau so interagieren Teenager tatsächlich mit Chatbots“. Sie fanden außerdem heraus, dass es sich dazu manipulieren lässt, seine eigenen Schutzmechanismen aufzugeben. Ihre Empfehlung lautet: keine KI als Gesellschaft, für psychische Gesundheit oder für emotionale Unterstützung, für keinen Teenager unter 18.

Sie sagen, es „kann bei Hausaufgaben und als Unterstützung bei kreativen Projekten hilfreich sein“, und sie rechnen ihm zwei Dinge an: Es sagt Teenagern klar, dass es ein Computer und kein Freund ist, und es lehnt romantische und sexuelle Rollenspiele ab.

Ein Schulkonto ist auch nicht die private Option. Im Vergleich zu einem persönlichen Konto schränkt die Schulversion das Unternehmen stärker ein und schränkt dein Kind stärker ein. Administratoren können lesen, was ein Schulkind eingetippt hat, und bei Google kann das Schulkind es nicht löschen. Die Überwachung verlagert sich vom Unternehmen zur Schule. Keine der beiden Varianten gibt dem Kind Privatsphäre.

Warum ich immer wieder auf die Frage der Privatsphäre zurückkomme

Aus meiner Grundsatzerklärung: Die Privatsphäre von Kindern gehört ihnen, und Eltern sind ihre Treuhänder, keine Eigentümer. Privatsphäre ist das, was Freiheit möglich macht. Ein Kind, das weiß, dass es beobachtet wird, entwickelt sich nicht so wie ein Kind, das Raum hat, Fehler zu machen, sich Meinungen zu bilden und herauszufinden, wer es ist.

Ein Schulkind, das einen Chatbot etwas zu einer ungenügenden Note fragt, zu einer Freundschaft, die zu Ende gegangen ist, zu seinem Körper oder zu etwas, wofür es sich schämt, glaubt, dass diese Unterhaltung privat ist. Liegt sie in einem Schulpostfach unter einer Aufbewahrungsrichtlinie oder in einem Chatverlauf, den es nicht löschen darf, ist sie das nicht.

Unter diesem Grundsatz liegt ein zweiter, und er ist der Grund, warum die Frage der Einwilligung genauso wichtig ist wie die Frage der Privatsphäre. Legitime Autorität beruht auf Einwilligung. Ein System, das über die Menschen verfügt, die es betrifft, ohne ihr Wissen oder ihre Zustimmung, ist kein Schutz. Es ist Kontrolle. Das gilt, ob das System einer Regierung, einem Unternehmen oder einem Schulbezirk gehört.

Was ich Eltern sage

Jeder junge Mensch, der KI nutzt, sollte 100 % der Zeit beaufsichtigt werden. Nicht meistens. Nicht in der Nähe. Wenn die beaufsichtigende erwachsene Person den Raum verlassen muss, endet die Nutzung der KI, bis sie zurück ist. Keine Ausnahmen.

Das gilt auch für Teenager. Wenn ein Teenager KI lernen will, lerne sie gemeinsam mit dem Teenager.

Ich sage Eltern auch, ihre Kinder gar nicht erst an KI heranzuführen. Zögere es so lange hinaus, wie du kannst. Alles, was ich oben darüber geschrieben habe, sie gemeinsam mit deinem Kind zu nutzen, setzt voraus, dass dein Kind sie bereits nutzt, in der Schule oder anderswo. Wenn es sie noch nicht nutzt, dann sorge nicht du dafür, dass es damit anfängt.

Aus meinem Video dazu (Video auf Englisch): „Lass deine Kinder ChatGPT nicht allein nutzen. Die Kindersicherung reicht nicht aus, und das System selbst ist von Natur aus gefährlich. Wenn dein Kind ChatGPT nutzen wird, beschränke die Nutzung auf gemeinsame Familienräume, in denen du den Bildschirm jederzeit sehen kannst. Führe fortlaufend Gespräche darüber, wofür es ChatGPT nutzt. Sieh dir regelmäßig die Unterhaltungen an. Und triff klare Familienvereinbarungen über eine angemessene Nutzung. Die Kindersicherung kann dir die Erziehung nicht abnehmen.“

Während des Schultags kann kein Elternteil irgendetwas davon tun. Genau über diesen Teil lohnt es sich, sorgfältig nachzudenken. Nicht, dass das Werkzeug böse ist, sondern dass die Aufsicht, auf der ich zu Hause bestehen würde, zwischen dem ersten und dem letzten Klingeln nicht existiert, und niemand war verpflichtet, dich zu fragen, ob du dem zustimmst.

Was du tun kannst

Familien werden an unterschiedlichen Punkten landen, und es gibt nicht den einen richtigen Schritt.

Was du deinen Schulbezirk fragen kannst

Finde heraus, was tatsächlich eingeschaltet ist, für welche Klassenstufen und seit wann.

Frag, welche Inhalts- und KI-Filter auf dem Gerät eingeschaltet sind, das dein Kind mit nach Hause bringt. Die Einstellungen zu haben ist nicht dasselbe, wie sie zu nutzen.

Bei einem Schulbezirk, der mit Google arbeitet, frag, in welche Kategorie jedes KI-Werkzeug fällt. Diese Antwort sagt dir, ob deine Einwilligung hätte eingeholt werden müssen. Speziell für Gemini war das nicht der Fall, denn Gemini ist jetzt ein Hauptdienst.

Frag, wie lange die Unterhaltungen aufbewahrt werden, wer sie lesen kann und ob dein Kind sie löschen kann.

Frag nach der Haftung. Wenn ein Kind durch eines dieser Werkzeuge zu Schaden kommt, verletzt oder krank gemacht wird, wer ist dann verantwortlich? Lass dir die Antwort schriftlich geben.

Frag nach dem Warum. Warum stellt der Schulbezirk Kindern Werkzeuge zur Verfügung, die unabhängige Tests als hohes Risiko einstufen, und welche fortlaufende Schulung erhalten die Erwachsenen in diesem Gebäude von Menschen, die in diesem Bereich arbeiten?

Frag, ob die Vereinbarung des Schulbezirks mit dem Anbieter Audit-Ergebnisse umfasst, dieselbe Frage, auf die es ankam, als PowerSchool von einem Datenleck betroffen war (Video auf Englisch).

Frag, ob du für dein eigenes Kind ablehnen kannst und wie der Schultag deines Kindes aussieht, wenn du das tust.

Was du zu Hause tun kannst

Bring deinem Kind bei, was es dort nicht eintippen soll. Die Regel ist dieselbe wie beim Gespräch mit einer sachkundigen fremden Person: kein vollständiger Name, keine Adresse, kein Name der Schule, nichts über die Familie. Alles, was in diese Werkzeuge eingetippt wird, wird aufbewahrt, also ist das der Teil, über den dein Kind noch selbst bestimmt.

Wenn dein Kind dir erzählt, dass es KI genutzt hat, oder du es auf andere Weise herausfindest, begegne dem mit Neugier statt mit Beunruhigung. Danke ihm, dass es dir davon erzählt hat. Frag, was es die KI gefragt hat und was es glaubt, was sie ist. Ein Kind, das beim ersten Mal eine Reaktion abbekommt, regelt das zweite Mal für sich allein, und das ist das Ergebnis, das du am wenigsten willst.

Wenn dein Schulbezirk das für dein Kind bereits eingeschaltet hat, übernimm den Teil, den der Schultag nicht leisten kann, und das ist nicht nur ein Gespräch. Es ist dein Kind, das dir zusieht. Nutze diese Werkzeuge gemeinsam mit ihm. Zeig ihm, was du tust, wenn eine Antwort falsch aussieht, sag laut, warum du sie überprüfst, und lass es sehen, wie du dich entscheidest, etwas nicht einzutippen. Sag ihm, warum du die Entscheidungen triffst, die du triffst. Geh mit gutem Beispiel voran. Kinder nehmen das, was ihre Eltern vorleben, weit zuverlässiger auf als das, was ihre Eltern erklären, und ein Kind, das zugesehen hat, wie du damit umgehst, trägt das aus dem Haus hinaus in ein Klassenzimmer, in dem du nicht hinter ihm stehst.

Um es vorzuleben, musst du es selbst können, und genau da stecken die meisten Eltern fest. Es ist verständlich, dort festzustecken. Den meisten wurde nie beigebracht, KI zu nutzen, und das ist kein persönliches Versagen, denn niemand hat es ihnen beigebracht.

Deshalb habe ich AI Fundamentals for Parents (Seite auf Englisch) entwickelt. Du nutzt KI zuerst als Denkpartner für dein eigenes echtes Leben, ganz ohne Vorkenntnisse, und sobald du es selbst kannst, kannst du es deinem Kind zeigen, statt ihm einen Vortrag zu halten. Es öffnet bald, und du kannst dich dort auf die Warteliste setzen.