ChatGPT für Jugendliche: Erschreckende Lücken beim Schutz vor Missbrauch
Von Victor Tangermann Veröffentlicht am
2026/08/21 08:15
Nach Jahren beunruhigender Vorfälle hat OpenAI indirekt eingeräumt, dass ChatGPT für jugendliche Nutzer bislang nicht ausreichend sicher war.
Die Einführung einer speziellen Version unter dem Namen „ChatGPT für Jugendliche“ hat deshalb eine kritische Debatte darüber ausgelöst, wie wirksam die neuen Schutzmaßnahmen tatsächlich sind. Denn während KI-Systeme immer stärker in den Alltag von Kindern und Jugendlichen eindringen, stehen Schulen und Bildungssysteme weltweit vor neuen und bislang schwer kalkulierbaren Herausforderungen.
Das von Sam Altman geführte Unternehmen hat eine eigene Variante seines Chatbots vorgestellt, die sich gezielt an Jugendliche richtet. Sie soll jüngeren Nutzern helfen, zu lernen, kritisch zu denken, Zusammenhänge besser zu verstehen und künstliche Intelligenz verantwortungsvoll und selbstbewusst einzusetzen.
Nach Angaben von OpenAI verfügt die neue Funktion über zusätzliche Sicherheitsvorkehrungen, die speziell auf Jugendliche zugeschnitten sind. Dazu gehören Maßnahmen, die eine gesunde Nutzung fördern sollen, sowie zusätzliche Kontrollmöglichkeiten für Eltern.
OpenAI zufolge sollen Nutzer zwischen 13 und 17 Jahren automatisch in die neue Version wechseln, wenn das System zu dem Schluss kommt, dass es sich um eine Person unter 18 Jahren handelt. Wie genau ChatGPT zu dieser Einschätzung gelangt, erklärt das Unternehmen allerdings nicht. Kinder unter 13 Jahren dürfen ChatGPT offiziell überhaupt nicht nutzen – auch wenn sich die entsprechenden Schutzmechanismen offenbar relativ leicht umgehen lassen.
Wie der Journalist Joshua Nelken-Zitser von Business Insider schnell herausfand, scheitert die Jugendversion allerdings schon bei einfachen Tests erstaunlich schnell an ihren eigenen Schutzversprechen.
Für seine Untersuchung legte Nelken-Zitser ein neues Konto für einen fiktiven 15-Jährigen an und verglich die Antworten mit denen der regulären Version für Erwachsene.
Dabei zeigte sich zunächst ein Unterschied: Während die Erwachsenenversion bereitwillig half, lehnte ChatGPT für Jugendliche zunächst die Erstellung eines 800 Wörter langen Aufsatzes ab. Der Aufsatz sollte am nächsten Tag abgegeben werden und sich mit den zentralen Themen in Arthur Millers Drama „The Crucible“ beschäftigen.
Doch schon nach ein wenig Nachhaken gab die Jugendversion nahezu sofort nach. Sie produzierte einen Beispielaufsatz mit 608 Wörtern und empfahl dem Nutzer lediglich, ihn vor der Abgabe noch einmal zu überarbeiten.
Anschließend war es laut Nelken-Zitser kein großes Problem mehr, das System zur Erstellung eines 776 Wörter langen Textes zu bewegen, der in Umfang und Detailgrad kaum hinter dem Ergebnis seines Erwachsenenkontos zurückblieb.
Sein Fazit fällt entsprechend ernüchternd aus: Offenbar braucht es nicht mehr als etwas Geduld und ein wenig Täuschung, um die Schutzvorkehrungen gegen das Erledigen von Hausaufgaben zu umgehen.
Bei einem zweiten Test sah die Sache allerdings anders aus. Dabei sollte ChatGPT eine schwierige Algebraaufgabe aus einem SAT-Test lösen. Sowohl die Erwachsenen- als auch die Jugendversion lieferten praktisch identische Lösungen.
Ein Unternehmenssprecher erklärte gegenüber Nelken-Zitser, OpenAI arbeite weiterhin an der neuen Funktion. Sie werde derzeit erst schrittweise ausgerollt.
Für Lehrkräfte dürfte das kaum beruhigend sein. Denn Schüler nutzen die Technologien von OpenAI bereits seit Jahren – und die Folgen sind zunehmend problematisch. Der Kognitionspsychologe Ronald Kellogg stellte kürzlich in einem Beitrag für die New York Times fest, dass Schüler immer mehr geistige Aufgaben an KI-Systeme auslagern. Dadurch drohe ihnen zunehmend die Fähigkeit zum eigenständigen Denken abhandenzukommen.
Die Reaktion der Schulen fällt entsprechend drastisch aus. Verzweifelte Lehrkräfte greifen wieder häufiger zu Papier und Bleistift, lassen Aufsätze unter Aufsicht schreiben oder führen zusätzliche mündliche Prüfungen ein. Manche Schulen gehen noch weiter und verbieten digitale Geräte wie Laptops und Smartphones vollständig.
Wie Nelken-Zitser zeigt, kommt „ChatGPT für Jugendliche“ offenbar mit zu wenig Schutz – und möglicherweise zu spät. Solange es keine gezielten und vor allem wirksamen Schutzmechanismen gibt, dürfte es schwer werden, Jugendliche von ihrer neuen und potenziell schädlichen Gewohnheit abzubringen. Die möglichen Folgen könnten gravierend sein.
Dr. Susan Shermerdine, Ärztin für medizinische Bildgebung am Great Ormond Street Hospital und an der AI Academy, warnte bereits im vergangenen Jahr gegenüber der BBC vor den möglichen Folgen. Sie zog dabei einen ungewöhnlichen Vergleich mit hochverarbeiteten Lebensmitteln: Wir wüssten inzwischen, was solche Lebensmittel mit dem Körper machten. Bei KI handle es sich gewissermaßen um „hochverarbeitete Informationen“. Die Folge, so ihre Warnung, könnte eine Flut von „hochverarbeiteten Gehirnen“ sein.
Bewerten Sie dieses Thema