Beleid & regelgeving
OpenAI steunt Californische wet die AI-chatbots verplicht tieners automatisch te beschermen
OpenAI steunt een Californische wet die AI-chatbots verplicht tieners automatisch te beschermen, met leeftijdscontrole, ouderlijk toezicht en crisishulp.
Op basis van OpenAI
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- OpenAI vraagt gouverneur Newsom om Senate Bill 1119 te ondertekenen, een Californische wet over AI en jongeren.
- De wet verplicht bedrijven de leeftijd van gebruikers vast te stellen en tieners automatisch te beschermen tegen schadelijke content en gerichte advertenties.
- Bijna negen op de tien tienergebruikers zetten ChatGPT wekelijks in om te leren of iets te maken, stelt OpenAI zelf.
- OpenAI lanceerde eerder al ChatGPT for Teens met leeftijdsherkenning, ouderlijk toezicht en verwijzing naar crisishulp.
- De wet geldt enkel in Californië, maar Vlaamse bedrijven die AI-tools voor jongeren inzetten, doen er goed aan de trend te volgen.
OpenAI heeft zich publiek uitgesproken voor Senate Bill 1119, een wetsvoorstel in Californië dat regels vastlegt voor hoe AI-bedrijven met jonge gebruikers moeten omgaan. Het bedrijf stuurde een brief naar gouverneur Gavin Newsom met de vraag de wet te ondertekenen. Dat is opvallend, want techbedrijven verzetten zich doorgaans tegen extra regelgeving. OpenAI zegt de wet te steunen omdat ze veiligheid combineert met de mogelijkheid voor tieners om AI te blijven gebruiken om te leren en te creëren.
Wat houdt SB 1119 in?
De wet verplicht AI-bedrijven om de leeftijd van gebruikers vast te stellen en om veiligheidsrisico’s op te sporen en aan te pakken vóór een product beschikbaar wordt gemaakt voor jongeren. Bedrijven moeten zich laten onderwerpen aan onafhankelijke audits, jongeren beschermen tegen schadelijke inhoud zoals zelfbeschadiging en seksueel uitbuitende content, en crisishulp aanbieden wanneer er ernstige risico’s opduiken. Ouders krijgen instrumenten om het gebruik van hun kinderen te begeleiden en te beperken. Daarnaast beperkt de wet gerichte reclame naar minderjarigen en de verwerking van hun persoonsgegevens.
Belangrijk is dat deze beschermingen automatisch moeten gelden voor gebruikers tussen 13 en 17 jaar, niet als een optie die iemand zelf moet inschakelen. De wet maakt daarbij uitdrukkelijk een onderscheid tussen AI en sociale media: waar sociale media vooral onder druk staan om schadelijke content tegen te gaan, wil deze wet ook ruimte laten voor AI als leermiddel, bijvoorbeeld via functies die eerdere gesprekken onthouden om een leertraject voort te zetten.
Wat betekent dit voor ChatGPT-gebruikers?
OpenAI wijst op de eigen versie die het al lanceerde: ChatGPT for Teens. Wie door het systeem als minderjarig wordt ingeschat, of zelf aangeeft tussen 13 en 17 jaar oud te zijn, komt automatisch in die aangepaste versie terecht. Die bevat onder meer quizzen, leervisualisaties en een studiemodus die stap voor stap door opgaven loodst, ontwikkeld met leraren en leerexperts. Het model mag geen romantische toenadering zoeken, geen emotionele afhankelijkheid aanmoedigen en niet beweren mens of bewust te zijn. Ouders kunnen instellingen beheren en meldingen krijgen bij risicovolle situaties.
Volgens OpenAI gebruikt bijna negen op de tien tieners die ChatGPT wekelijks openen de dienst voor leren, informatie, vaardigheden of productiviteit. Dat cijfer komt van OpenAI zelf en is niet onafhankelijk bevestigd; onafhankelijke cijfers over hoe jongeren AI-chatbots werkelijk gebruiken, ontbreken in de bronnen.
Geldt dit ook in Europa?
SB 1119 is een Californische wet en heeft geen rechtstreekse werking in Vlaanderen of de rest van Europa. Voor een Vlaamse ondernemer of marketeer verandert er dus niets aan verplichtingen zolang de wet niet ondertekend en van kracht is, en zelfs dan blijft ze beperkt tot Californië. Toch is de wet relevant om te volgen: grote AI-aanbieders passen functies vaak wereldwijd aan zodra ze die voor één markt moeten bouwen, en de Europese AI-verordening en bestaande privacyregels bewegen intussen in een gelijkaardige richting, met extra aandacht voor minderjarigen en gerichte reclame.
Wat zijn de onduidelijkheden?
De bronnen laten enkele vragen open. Het is niet duidelijk hoe de leeftijdsbepaling technisch precies werkt, hoe streng de onafhankelijke audits zullen zijn, en welke gevolgen bedrijven riskeren als ze de regels niet naleven. Ook is nog niet bevestigd of en wanneer Newsom de wet effectief ondertekent. OpenAI zelf erkent dat verdere studie en samenwerking tijdens de uitvoering nodig zijn om de regels scherp te houden terwijl de technologie evolueert.
Voor Vlaamse bedrijven die zelf AI-chatbots inzetten richting jonge klanten, is dit vooral een signaal: de lat voor bescherming van minderjarigen bij AI-gebruik ligt elders al hoger dan wat vandaag verplicht is in Belgische wetgeving. Wie nu al met AI werkt in een context waar jongeren betrokken kunnen zijn, zoals onderwijsplatformen of klantendienst, doet er goed aan die evolutie te volgen, ook zonder dat er vandaag een juridische verplichting is.
Wat betekent dit voor jou
Strengere AI-regels voor tieners blijven vooralsnog Amerikaans
- Bedrijven met AI-chatbots voor klantcontact hoeven voorlopig niets aan te passen, want SB 1119 geldt alleen in Californië en legt geen verplichtingen op binnen de EU.
- AI-tools gericht op jongeren of scholen volgen best de evolutie, want EU-regels rond leeftijdsbepaling en bescherming bewegen in dezelfde richting.
- Marketeers die AI-chatbots inzetten richting minderjarigen zien in deze Californische wet een voorbeeld van hoe strenger toezicht op leeftijdsbepaling en gegevensgebruik er in de praktijk kan uitzien, ook al is dat vandaag nog geen verplichting hier.
Veelgestelde vragen
Wat is SB 1119 precies?
SB 1119 is een wetsvoorstel in Californië dat AI-bedrijven verplicht de leeftijd van gebruikers te bepalen en tieners automatisch te beschermen tegen schadelijke inhoud, gerichte reclame en risicovolle interacties. Bedrijven moeten ook onafhankelijke audits toelaten en ouders instrumenten geven om het gebruik van hun kinderen te beheren. OpenAI vraagt gouverneur Newsom de wet te ondertekenen.
Geldt deze wet ook in Belgi\u00eb of Europa?
Nee, SB 1119 is een Californische wet en heeft geen directe werking in Vlaanderen of de rest van Europa. De EU heeft eigen regels via de AI-verordening en privacywetgeving, die wel in een gelijkaardige richting evolueren. Voor Belgische bedrijven verandert er dus juridisch niets, maar de trend is wel relevant om te volgen.
Wat verandert er voor gebruikers van ChatGPT onder 18?
OpenAI heeft al ChatGPT for Teens gelanceerd: wie als minderjarig wordt ingeschat, komt automatisch in een aangepaste versie met leerfuncties, ouderlijk toezicht en verwijzing naar crisishulp. Het model mag geen romantische banden opbouwen of emotionele afhankelijkheid aanmoedigen. Deze beschermingen staan standaard aan en kunnen niet worden uitgeschakeld.
Moet ik als Vlaamse ondernemer nu iets aanpassen aan mijn AI-tools?
Niet noodzakelijk, want de wet geldt enkel in Californië en legt geen verplichtingen op aan Belgische bedrijven. Wie AI-chatbots inzet richting jonge klanten of leerlingen, kan de evolutie wel opvolgen, omdat vergelijkbare eisen rond leeftijdsbepaling en gegevensbescherming ook in de EU steeds vaker terugkomen.
Waarom steunt OpenAI zelf deze extra regelgeving?
OpenAI zegt dat de wet veiligheid combineert met blijvende toegang tot AI als leermiddel voor jongeren, en sluit aan bij principes die het bedrijf zelf al hanteert via ChatGPT for Teens. Door de wet te steunen, positioneert OpenAI zich ook als partij die vrijwillig meewerkt aan regelgeving, in plaats van zich er tegen te verzetten.
Wat zijn de belangrijkste verplichtingen in de wet?
De wet vereist leeftijdsbepaling, risicobeoordeling vóór lancering voor jongeren, onafhankelijke audits, bescherming tegen schadelijke inhoud, doorverwijzing naar crisishulp, ouderlijke controlemiddelen en beperkingen op gerichte reclame en gegevensverwerking bij minderjarigen. Deze beschermingen moeten automatisch gelden voor gebruikers tussen 13 en 17 jaar.