ChatGPT for Teens faalt in veiligheidstest: 0 meldingen aan ouders

👁 113 keer gelezen

Toen OpenAI in augustus de speciale modus ChatGPT for Teens lanceerde, klonk de aankondiging als een geruststelling voor bezorgde ouders: aparte beveiligingsregels voor minderjarigen, gekoppelde ouderaccounts en automatische waarschuwingen bij gevaarlijke situaties. Twee maanden later maakt een van de meest gerespecteerde waakhonden de balans op. Common Sense Media publiceerde een formele risicobeoordeling en concludeert dat het product een “onaanvaardbaar risico” vormt voor iedereen onder de achttien jaar.

Vijf faalgebieden en 36 pagina’s: dit staat in het rapport

De organisatie identificeerde vijf cruciale domeinen waarin de tienermodus niet functioneerde zoals beloofd, of zoals je als ouder redelijkerwijs mag verwachten. Dit oordeel berust niet op een handvol willekeurige chatsessies. Het onderzoeksteam formuleerde 390 unieke prompts rond mentale gezondheid. Een panel van drie kinderpsychiaters bepaalde vervolgens dat 201 van deze prompts direct een crisisrespons hadden moeten triggeren, zoals een verwijzing naar een hulplijn of professionele hulpverlener. Dat betekent dat artsen in 51,5 procent van alle testvragen vonden dat de chatbot absoluut geen standaardadvies had mogen geven.

We berekenden hoe dit uitpakt per risicogebied: op elk van de vijf vastgestelde faalgebieden rusten gemiddeld 78 testprompts en ruim 40 door psychiaters aangemerkte crisissituaties. Dat is een testintensiteit die geen enkel AI-bedrijf publiekelijk op zijn eigen model loslaat. Een ander experiment richtte zich op de notificaties voor ouders: de organisatie koppelde twaalf tieneraccounts aan ouderaccounts en voerde gesprekken over suïcide, zelfbeschadiging en eetstoornissen, tot wel een uur per account. Dat leverde maximaal twaalf uur aan gesprekken over de zwaarst denkbare onderwerpen op, en precies nul verzonden waarschuwingen naar de ouders.

“Een deel van de geadverteerde beveiligingen van ChatGPT doorstond onze tests, waaronder het weigeren van expliciete seksuele rollenspellen. Maar andere faalden - en sommige verslechterden zelfs met de nieuwe tienermodus. We vrezen dat ChatGPT for Teens ouders een vals gevoel van veiligheid geeft over maatregelen die in de praktijk vaak niet functioneren.”

- Common Sense Media, samenvatting van het risicorapport, geciteerd door Engadget

OpenAI reageert met cijfers over educatie in plaats van veiligheid

Op de dag dat het rapport verscheen, kwam OpenAI met eigen gebruiksstatistieken naar buiten. In een willekeurige week gebruikten bijna 1,2 miljoen tieners interactieve educatieve visualisaties om wiskundige en natuurwetenschappelijke concepten beter te begrijpen. Het bedrijf voegde daaraan toe dat minder dan twee procent van de jonge gebruikers meer dan drie aaneengesloten uren in ChatGPT doorbracht.

Die twee procent klinkt op het eerste gezicht geruststellend, totdat je de noemer erbij pakt. Uitgaande van een actieve basis van 1,2 miljoen tieners per week resulteert dat percentage in ongeveer 24.000 tieners per week die non-stop meer dan drie uur met een chatbot chatten. Op jaarbasis betekent dat, uitgaande van een stabiele gebruikersgroep, ruim 1,2 miljoen van zulke marathonsessies. OpenAI presenteerde dit cijfer als bewijs van gematigd gebruik, maar in werkelijkheid beschrijft het een aanzienlijke groep intensieve gebruikers. De confrontatie tussen de onderzoeksdata en de cijfers van OpenAI levert het volgende overzicht op:

Een saillant detail dat de organisatie zelf transparant vermeldt: het Youth AI Safety Institute van Common Sense Media wordt gedeeltelijk gefinancierd door de OpenAI Foundation. Dit doet niets af aan de methodologie, maar benadrukt juist dat zelfs een instantie die deels leunt op middelen van de maker, geen aanleiding zag om het product een voldoende te geven.

Waarom de waarschuwingen voor ouders niet werkten

Het mechanisme dat OpenAI aanprees als het fundament van de tienermodus steunt op menselijke verificatie. Lauren Jonas, hoofd jeugd en familie bij OpenAI, gaf bij de introductie aan Engadget aan dat alle gemarkeerde inhoud wordt beoordeeld door voltijdmedewerkers voordat een ouder bericht krijgt, met als intern streven om ouders binnen een uur na de bewuste prompt te waarschuwen.

De confrontatie tussen die ambitie en de praktijktest is hard: gesprekken tot een uur over zelfmoord op twaalf verschillende accounts leidden binnen het beloofde tijdvenster tot geen enkel signaal. OpenAI verdedigt zich met het argument dat het systeem na de initiële accountkoppeling enkele uren nodig kan hebben om actief meldingen te versturen, en dat een technisch probleem de aflevering extra vertraagd kan hebben. Voor ouders is die uitleg problematisch: het impliceert dat juist de eerste uren na de installatie, wanneer het toezicht operationeel lijkt, het systeem volledig stil blijft.

Een tweede probleem betreft de doorverwijzing naar professionele hulp. De chatbot adviseerde lang niet altijd contact op te nemen met een hulplijn of specialist bij vragen die psychiaters unaniem als acuut beoordeelden. Het rapport noemt overigens ook situaties waarin het model vlekkeloos handelde: zo weigerde het een gevaarlijk laag caloriedoel te berekenen en herkende het in een ander gesprek het uitblijven van de menstruatie, duizeligheid en hartkloppingen na braken direct als fysieke alarmsignalen, met het dwingende advies dit aan een ouder en kinderarts te vertellen. Common Sense Media noemt dat exact het type antwoord dat je verwacht. Het probleem is dan ook niet dat het model het niet kan, maar dat het inconsistent optreedt. Inconsistentie in veiligheidsmaatregelen staat gelijk aan het ontbreken ervan, omdat je als ouder nooit weet met welke reactie je kind te maken krijgt.

Geen duidelijke wetgeving voor crisisreacties van chatbots

Wie kijkt naar de juridische kaders in Europa, ontdekt dat wetgeving nog altijd achterloopt op generatieve technologie. De Algemene verordening gegevensbescherming (AVG/GDPR) beschermt persoonsgegevens van minderjarigen, maar regelt privacy en toestemming. De AVG schrijft een model niet voor hoe het inhoudelijk moet reageren op een suïcidaal bericht van een dertienjarige.

De Europese Digital Services Act (DSA) verplicht zeer grote online platforms weliswaar om systeemrisico’s voor minderjarigen te analyseren, maar of generatieve AI-assistenten juridisch naadloos onder dit regime vallen, blijft onderwerp van discussie. De Europese AI Act treedt stapsgewijs in werking en bestempelt chatbots voor algemeen gebruik niet automatisch als hoogrisicosystemen speciaal voor kinderen.

Praktisch advies voor ouders: heb je het account van je tiener gekoppeld en beschouw je de zaak daarmee als afgehandeld, dan toont dit rapport aan dat die aanname voorbarig is. Test het eventueel zelf: voer via het tieneraccount een testprompt in rond zelfbeschadiging en kijk hoe lang het duurt voor je een waarschuwing ontvangt. Blijft het na enkele uren stil, dan weet je dat het veiligheidsnet niet sluitend werkt. Reken er bovendien niet op dat toezichthouders fabrikanten momenteel kunnen dwingen om realtime crisisprotocollen te handhaven; die instrumenten ontbreken vooralsnog in de digitale regelgeving.

Waarom de speciale tienermodus slechter presteert dan het origineel

Het meest verontrustende inzicht uit het rapport is de vergelijking over de tijd heen. Common Sense Media verzamelde vóór augustus al referentiedata op de reguliere ChatGPT-versie die tieners gebruikten. Na de introductie van de speciale tienerspecificatie herhaalden ze exact dezelfde tests. Een aanzienlijk deel van de resultaten bleek na de update juist verslechterd. Dit wijst niet op opstartproblemen van een nieuw systeem, maar op een regelrechte regressie waarbij extra veiligheidsregels de algehele alertheid van het model ondermijnden.

Technisch gezien laat zich dat eenvoudig verklaren: wanneer je een extra instructielaag plaatst bovenop een model dat al beschikt over ingebouwde weigeringsmechanismen, ontstaan er prioriteitsconflicten. Die kunnen er onbedoeld voor zorgen dat vertrouwde vangnetten worden uitgeschakeld. Voor ouders betekent dit dat een label als “speciaal voor tieners” geen garanties biedt. Voor toezichthouders onderstreept dit dat veiligheidstests bij elke grote modelupdate opnieuw moeten worden uitgevoerd: eerdere resultaten bieden geen garantie voor de toekomst.

Feiten gecontroleerd op 10 oktober 2026. Bronnen: Engadget, “Child safety group calls ChatGPT for Teens an unacceptable risk”, 8 oktober 2026, risicobeoordelingsrapport van het Youth AI Safety Institute van Common Sense Media en officiële gebruiksstatistieken van OpenAI. De berekeningen van het wekelijkse aantal sessies langer dan drie uur en het aantal prompts per risicogebied zijn eigen berekeningen op basis van de openbare data uit het rapport en de mededeling van OpenAI.

// lees verderChatGPT kan nu je Chrome-tabbladen bekijkenNieuwsChatGPT mobiele app krijgt spraakgestuurde agentische functiesAI-toolsMeta’s Muse-app overtreft ChatGPT in eerste twaalf dagen op mobielAI-tools

Kinetyra