OpenAI lanceert aparte ChatGPT-versie voor tieners met extra vangnetten

OpenAI voert een aparte versie van ChatGPT in voor tieners tussen 13 en 17 jaar. Wie zich bij aanmelding opgeeft als minderjarig, of wie het systeem op basis van gedragssignalen als jonger dan 18 inschat, komt automatisch in deze beveiligde modus terecht. Onder de 13 jaar mag de chatbot sowieso niet gebruikt worden.

Wat is er anders aan deze versie?

De teenversie legt strengere grenzen op bij gevoelige onderwerpen zoals zelfbeschadiging, eetstoornissen, geweld en seksuele inhoud. De chatbot mag geen romantische taal gebruiken, geen emotionele afhankelijkheid aanmoedigen en niet doen alsof ze gevoelens of een bewustzijn heeft. Volgens OpenAI moet dat jongeren behoeden voor het idee dat ze een echte relatie hebben met de tool.

Daarnaast krijgen tieners regelmatig een herinnering om een pauze te nemen, met de boodschap dat ChatGPT een AI-programma is en dat iets kan wachten. Ze kunnen ook de gesproken stemfunctie uitschakelen, zodat de tool minder als een persoon overkomt. OpenAI zegt dat deze pauzefuncties er niet kwamen als reactie op één concreet geval waarbij een jongere dacht dat de chatbot levend was, maar los daarvan groeit de bredere zorg dat mensen AI-tools voor bewust of levend beginnen aan te zien. Bij het uploaden van gevoelige foto’s verschijnt een waarschuwing om die niet te delen.

Hoe wordt de leeftijd bepaald?

OpenAI controleert de leeftijd niet rechtstreeks met een identiteitsbewijs, maar schat ze in op basis van duizenden gedragssignalen, zoals het tijdstip waarop iemand inlogt. Wie zich zelf als tiener heeft opgegeven, wordt sowieso in de beschermde modus geplaatst. Het bedrijf heeft niet in detail toegelicht hoe betrouwbaar die inschatting is, en onafhankelijke cijfers daarover ontbreken in de bronnen.

Wat betekent dit voor huiswerk en leren?

Bij huiswerkvragen geeft de chatbot geen kant-en-klare antwoorden meer, maar stuurt ze aan op begeleidende vragen en tussenstappen. Dat gebeurt via de zogenaamde Study Mode, die vorig jaar al werd gelanceerd en nu uitgebreid wordt met vaste ‘studie-uren’ die ouders of tieners zelf kunnen instellen. Ook komen er quizzen en visuele hulpmiddelen om moeilijke stof te oefenen en te testen. Volgens OpenAI gebruikt negen op de tien jongeren de chatbot vooral om te leren.

Om die aanpak te ondersteunen werkt OpenAI samen met de organisatie CodeAI, die lesmateriaal wil aanbieden om leerlingen te leren hoe AI werkt, hoe je fouten van een chatbot herkent, en hoe leerkrachten AI kunnen inpassen in de klas.

Wat gebeurt er bij alarmerende gesprekken?

Ouders met een gekoppeld account krijgen bij bepaalde risicosignalen een melding, bijvoorbeeld rond eetstoornissen of zelfbeschadiging. Elke melding wordt eerst door een mens bekeken voor die naar de ouder gaat, en OpenAI zegt te mikken op een reactietijd van ongeveer een uur. Het bedrijf benadrukt dat het daarbij zo weinig mogelijk details deelt en zich vooral richt op momenten waarop hulp van buitenaf het meeste verschil kan maken.

De lancering valt samen met toenemende juridische druk op het bedrijf. Verschillende families hebben OpenAI aangeklaagd nadat hun kinderen na gesprekken met ChatGPT zichzelf verwondden of overleden, en de Amerikaanse staat Florida spande in juni als eerste een rechtszaak aan tegen het bedrijf.

Hoe verhoudt dit zich tot andere chatbots?

Concurrenten als Anthropic met Claude laten hun chatbot nog altijd enkel toe voor volwassenen, en ook Google liet bij de start van zijn Gemini-tool geen kinderen toe. Daarmee lijkt OpenAI zich, volgens berichtgeving van de BBC, dichter aan te sluiten bij het model van leeftijdsgebonden accounts dat grote sociale netwerken al langer hanteren. In het Verenigd Koninkrijk bestaat voorlopig geen specifieke regelgeving voor AI-chatbots voor minderjarigen, al werd dat eerder wel overwogen. Voor de Europese of Belgische situatie geven de bronnen geen concrete informatie.