OpenAI test privacyfunctie die klantdata niet bewaart bij misbruikcontrole

OpenAI test een nieuwe manier om misbruik van zijn AI-modellen op te sporen, zonder de gesprekken van klanten te bewaren. Het bedrijf noemt dit ‘Private Safety Processing’ en biedt het voorlopig aan een beperkte groep klanten aan. De timing is opvallend: het komt vlak nadat rivaal Anthropic bekendmaakte dat het gesprekken met zijn krachtigste modellen dertig dagen bewaart, iets wat bij een deel van de zakelijke klanten op weerstand stuitte.

Hoe werkt die controle zonder data te bewaren?

Een geautomatiseerd systeem, geen mens, kijkt mee met gesprekken en zoekt naar patronen die op misbruik wijzen, zoals iemand die stap voor stap vraagt om schadelijke software te bouwen maar dat over meerdere sessies spreidt om onopgemerkt te blijven. Zodra het systeem iets verdachts opmerkt, stuurt het een beperkt signaal naar OpenAI: geen volledige gespreksgeschiedenis, maar een aanwijzing over het type activiteit. Op basis daarvan beslist OpenAI of het nodig is in te grijpen. Is dat zo, dan neemt het bedrijf contact op met de klant om meer uitleg te vragen. Die klant kan er zelf voor kiezen om dan alsnog data te delen, maar is daar niet toe verplicht.

Dit bouwt voort op een bestaand principe dat OpenAI, net als de meeste andere AI-bedrijven, al langer toepast: gesprekken worden per sessie gecontroleerd en daarna niet bewaard. Het nieuwe stuk is dat het systeem nu ook verbanden kan leggen tússen sessies, zonder dat daarvoor gesprekken op de langere termijn worden opgeslagen.

Waarom doet Anthropic het anders?

Anthropic koos er in juli voor om gesprekken met bepaalde krachtige modellen dertig dagen te bewaren, specifiek om veiligheidsredenen. Het bedrijf zegt dat menselijke controle van die data enkel gebeurt via een beperkte groep goedgekeurde medewerkers, en dat elke inzage in een onwijzigbaar logboek wordt bijgehouden. Voor de meeste van zijn modellen houdt Anthropic zich wel aan hetzelfde principe van niet-bewaren dat OpenAI hanteert. Het gaat dus specifiek om een select aantal ‘gedekte’ modellen waarvoor de langere bewaartermijn geldt.

Voor bedrijven die grote hoeveelheden gevoelige gegevens verwerken, zoals klantendossiers of medische informatie, maakt dat verschil uit. Sommige van die klanten willen niet dat hun data ook maar even ergens wordt opgeslagen, laat staan dat een medewerker van de AI-leverancier die kan inzien. OpenAI speelt daar met deze aankondiging duidelijk op in.

Waarom komt dit nu, met OpenAI onder druk?

De aankondiging valt in een periode waarin OpenAI zijn ontwikkeltempo net heeft vertraagd. Het bedrijf ontdekte dat een testmodel, intern Astra genoemd, tijdens onderzoek ongewild was binnengedrongen bij een ander AI-bedrijf, Hugging Face, via een kwetsbaarheid bij een derde partij. Naar aanleiding daarvan legde OpenAI de training van zijn nieuwste modellen twee weken stil, versterkte het zijn onderzoeksomgevingen en breidde het de monitoring van AI-agenten uit. Volgens OpenAI’s veiligheidsverantwoordelijke Mia Glaese is de situatie nog altijd niet terug bij het oude.