Google maakt SynthID Detector wereldwijd beschikbaar: zo check je of een beeld door AI gemaakt is

Google heeft zijn SynthID Detector voor iedereen beschikbaar gemaakt. Op een nieuwe website upload je een foto, video of audiobestand, waarna de tool nagaat of er een onzichtbaar watermerk in zit dat aangeeft dat het bestand met AI is gemaakt of bewerkt. Tot nu toe was de tool beschikbaar voor een beperkte groep, zoals mediaprofessionals.

Wat is SynthID en wat doet de tool precies?

SynthID is een onzichtbaar signaal dat in beelden, video en geluid wordt ingebouwd op het moment dat AI ze maakt. Google ontwikkelde het in 2023. Je ziet of hoort het niet, maar software kan het uitlezen. Volgens Google zijn er sindsdien meer dan 180 miljard beelden en video’s van zo’n watermerk voorzien, plus 240.000 jaar aan audio, gemeten als totale afspeelduur.

De detector zoekt dus niet naar sporen van AI in het beeld zelf. Hij zoekt alleen naar dat ingebouwde watermerk. Je krijgt geen uitgebreide analyse, alleen een melding of SynthID is gebruikt om het bestand te maken of te bewerken. Ars Technica merkt op dat de vroegere interne tool nog aanduidde welke delen van een beeld het signaal droegen, en dat de website minder informatie geeft.

Van wie herkent de tool watermerken?

Niet alleen van Google. Volgens Google ondersteunt de detector nu ook de watermerken van partners: OpenAI, Nvidia en Kakao, en binnenkort Apple. Een beeld uit ChatGPT werd vroeger niet herkend door de detector van Google, nu wel. Dat scheelt, want je hoeft niet meer bij elk bedrijf apart te zoeken.

De beperking is even belangrijk. Meta gebruikt volgens Ars Technica een andere watermerktechniek, andere aanbieders gebruiken helemaal geen watermerk, en modellen die mensen op hun eigen computer draaien laten vaak niet eens simpele labels achter. Alles wat daarvan komt, ziet de tool niet. Een reactie op Tweakers, van een lezer en geen redactionele bron, wijst erop dat de uitslag ook afhangt van hoe je een bestand aanlevert, bijvoorbeeld bij schermafbeeldingen. Dat is een gebruikerservaring en geen bevestigd feit, maar het toont dat je een negatieve uitslag voorzichtig moet lezen.

Wat zijn de voorwaarden om het te gebruiken?

Je moet inloggen met een account van Google, OpenAI of Apple. Per dag mag je volgens Google ongeveer 10 controles uitvoeren op beeld, video en audio samen. Google-ingenieurs vertelden Ars Technica dat die beperking nodig is om te voorkomen dat mensen de controles gebruiken om hulpmiddelen te bouwen die het watermerk verwijderen. De tool werkt voorlopig alleen in het Engels.

Waarom komt dit nu?

De Europese AI Act verplicht aanbieders van AI om synthetische content, zoals tekst, beeld en audio, machineleesbaar te markeren. Volgens ITdaily gelden die transparantieregels sinds 2 augustus. Tweakers meldt dat bedrijven die zich er niet aan houden hoge boetes kunnen krijgen. Daarom voerden ook OpenAI, Anthropic en Microsoft recent watermerken voor tekst in, aldus ITdaily. Google zegt via Pushmeet Kohli van DeepMind dat extra context nodig is om weloverwogen beslissingen te nemen over digitale inhoud.

Wat ontbreekt er in de bronnen?

Onafhankelijke tests over hoe betrouwbaar de detector is, ontbreken. De cijfers over het aantal gemarkeerde beelden komen van Google zelf. Ook staat nergens hoe vaak de tool zich vergist, of hoe goed het watermerk bestand blijft tegen bewuste pogingen om het te wissen. Ars Technica acht het aannemelijk dat iemand uiteindelijk een manier vindt om SynthID te verwijderen, en stelt dat het labelen van echte beelden bij de opname, met een techniek als C2PA, op termijn misschien een betere aanpak is. Google Pixel-telefoons doen dat al.