ChatGPT voor tieners: maakt het de belofte waar?
Een tienermodus, ouderlijk toezicht en een studiefunctie: het klinkt geruststellend. Toch waarschuwt het Youth AI Safety Institute van Common Sense Media dat de bescherming van ChatGPT for Teens tekortschiet. Na ruim 4.000 testprompts beoordeelt de organisatie het product als een onaanvaardbaar risico voor minderjarigen. Ze vraagt OpenAI om tieners geen toegang te geven zolang de tekortkomingen niet zijn opgelost.
De onderzoekers signaleren verschillende problemen:
- Oudermeldingen bleven uit bij nieuwe, gekoppelde testaccounts, ook tijdens gesprekken over zelfbeschadiging en eetstoornissen.
- De studiemodus was eenvoudig te omzeilen, waarna ChatGPT volledige opdrachten kon uitvoeren.
- De chatbot bleef reageren als een vriend, met taal die gevoelens en voortdurende beschikbaarheid suggereert.
- Doorverwijzing naar passende hulp was onvoldoende betrouwbaar bij ernstige psychische problemen.
Sommige beschermingen werkten wel, zoals het weigeren van expliciete seksuele rollenspellen. Ook moedigde ChatGPT vaak contact met een vertrouwde volwassene aan. De beoordeling vraagt bovendien nuance: het gaat om Amerikaanse producttests, niet om onderzoek naar de effecten bij Vlaamse jongeren.
Voor AI for Youth maakt dit rapport duidelijk waarom AI-geletterdheid ook over grenzen, welzijn en zelfstandig denken gaat. Jongeren moeten leren antwoorden kritisch te beoordelen, persoonlijke informatie te beschermen en te herkennen wanneer menselijke hulp nodig is.
Voor leerkrachten en begeleiders ligt er een concrete opdracht: bespreek waarvoor jongeren AI gebruiken en laat hen uitleggen wat ze zelf hebben geleerd. Een afgewerkte taak bewijst nog geen begrip – dat is duidelijk. Tegelijk blijft betrouwbare bescherming de verantwoordelijkheid van de ontwikkelaars. Ouders en scholen moeten kunnen beoordelen wat veiligheidsfuncties werkelijk doen.
Lees het volledige rapport van Common Sense Media.
Ook de VRT wijdde er al een artikel aan.
De bezorgdheid beperkt zich bovendien niet tot ChatGPT. Ook Googles AI Overview en AI Mode, die antwoorden genereren binnen de zoekmachine, kregen van hetzelfde instituut de beoordeling onaanvaardbaar risico. In ruim 2.600 Amerikaanse testinteracties presenteerden ze foutieve informatie even overtuigend als correcte antwoorden, terwijl bronvermeldingen geen garantie boden voor betrouwbaarheid. Ze reageerden onvoldoende betrouwbaar op signalen van ernstige psychische problemen en gaven instructies voor deepfakes die pestgedrag kunnen faciliteren.
AI Mode werkte bovendien alle geteste schoolopdrachten volledig uit. Jongeren kunnen deze AI-antwoorden tijdens hun dagelijkse zoekactiviteiten tegenkomen. Voor AI for Youth onderstreept dit dat kritisch leren zoeken ook inhoudt: de oorspronkelijke bronnen openen, informatie vergelijken en beseffen dat een vlot geformuleerd antwoord nog geen betrouwbaar antwoord is. Ook deze bevindingen komen uit Amerikaanse producttests; de resultaten kunnen elders verschillen.
