OpenAI zet onzichtbaar watermerk op ChatGPT-tekst in de EU: wat dat voor jouw teksten betekent

OpenAI begint met het toevoegen van een onzichtbaar watermerk aan tekst die ChatGPT en Codex (de programmeerhulp van OpenAI) genereren voor gebruikers in de Europese Unie. Dat gebeurt de komende weken, op alle abonnementen. Het bedrijf doet dit om te voldoen aan de Europese AI-verordening, die sinds 2 augustus eisen stelt aan het markeren van AI-content.

Wat is dat watermerk precies?

Het is geen zichtbaar teken, maar een patroon in de woordkeuze. Het model laat bij bepaalde woorden een lichte voorkeur doorschemeren die een lezer niet opmerkt, maar een detector wel kan oppikken. Omdat het in de woorden zelf zit, blijft het aanwezig als je de tekst kopieert en ergens anders plakt. OpenAI noemt de techniek textGrain en publiceerde er een technisch rapport over, samen met onderzoekers van de universiteiten van Pennsylvania en Yale.

Volgens OpenAI identificeert het watermerk de gebruiker niet, en veranderden de prestaties van de modellen niet merkbaar. Dat laatste is een eigen claim van het bedrijf. Bij tests op acht benchmarks zag het geen significant verschil, maar The Decoder merkt op dat die tests niet aantonen of de schrijfkwaliteit erop vooruit of achteruit gaat. Onafhankelijke metingen ontbreken.

Geldt het ook buiten de EU?

Voor ChatGPT en Codex alleen in de EU. Ontwikkelaars die de API gebruiken, de technische koppeling waarmee bedrijven OpenAI in eigen software inbouwen, kunnen het watermerk wereldwijd inschakelen voor een aantal modellen. Het staat standaard uit. Ook via cloudpartners zoals Microsoft Azure komt die optie de komende weken. Welke modellen dat precies zijn, staat volgens Search Engine Journal niet in de aankondiging. Ook blijft onduidelijk of EU-gebruikers van ChatGPT het watermerk zelf kunnen uitschakelen.

Het verschilt van Anthropic, dat sinds augustus tekst van Claude overal ter wereld markeert. Anthropic zegt dat het nog geen duurzame manier heeft om dat per regio te beperken. Dat leidde bij sommige Claude-gebruikers tot kritiek: zij vonden dat zij de instructies en beslissingen leverden en Claude slechts het gereedschap was.

Search Engine Journal wijst erop dat de Europese regels voor systemen die al vóór 2 augustus op de markt waren, tot 2 december uitstel geven. Ongeveer 190 organisaties tekenden tegen eind juli de vrijwillige gedragscode voor transparantie, waaronder Anthropic, Google, Meta, Microsoft en OpenAI.

Hoe betrouwbaar is het?

Niet heel, en OpenAI zegt dat zelf. De detector werkt het best op langere tekst. Bij een doelwaarde van 1 procent valse alarmen vond hij het merk in ongeveer 95 procent van passages van 400 tokens (ruwweg 300 woorden) over psychologie. Bij 200 tokens daalde dat tot ongeveer 80 procent. Bij wiskundige inhoud, waar het model weinig vrijheid heeft in woordkeuze, lag het aanzienlijk lager.

Bewerken helpt de tekst ontsnappen. Vervang je 10 procent van de woorden door synoniemen, dan zakt de detectie van ongeveer 92 naar 66 procent. Bij een kwart van de woorden blijft ongeveer 17 procent over. Ook vertaalde tekst is volgens OpenAI moeilijker te herkennen. Dit zijn cijfers van OpenAI zelf, getest op Engelstalige antwoorden. Over Nederlands zeggen de bronnen niets.

Wie kan een watermerk controleren?

Voorlopig bijna niemand. De detector is er alleen voor goedgekeurde onderzoekers en gespecialiseerde organisaties, die toegang kunnen aanvragen. De tool meldt alleen of een OpenAI-watermerk is gevonden, en toont geen gebruikers, prompts of gesprekken. OpenAI wil de toegang uitbreiden “when we believe results can be interpreted responsibly”, maar noemt geen datum. Voor beelden en audio bestaan al publieke controletools.

Een ontbrekend watermerk bewijst ook niet dat een mens de tekst schreef. De tekst kan te kort zijn, te zwaar bewerkt, vertaald, of uit een ander AI-systeem komen. Omgekeerd zegt een gevonden merk niets over hoeveel menselijk werk erin zit.