AI-model vindt software fouten sneller dan Microsoft ze kan herstellen

Een AI-model dat software test op zwakke plekken, vindt momenteel zoveel fouten dat de makers van die software ze niet snel genoeg kunnen herstellen. Dat blijkt uit interne documenten van Microsoft die door onderzoeksjournalisten zijn ingekeken. Het gaat om een testmodel van Anthropic, intern Mythos genoemd, dat sinds begin dit jaar toegang kreeg tot Microsoft-producten om kwetsbaarheden op te sporen voordat kwaadwillenden dat doen.

Hoeveel fouten gaat het over?

Alleen al in april vond het model 90 fouten die Microsoft als kritiek bestempelt en 141 als belangrijk, allemaal in SharePoint, het samenwerkingsprogramma dat wereldwijd door bedrijven en overheden wordt gebruikt. In de eerste helft van mei kwamen daar nog meer bij. Volgens interne presentaties gaat het in totaal om honderden kritieke en belangrijke fouten in populaire producten zoals Microsoft 365, Teams en de AI-assistent Copilot. Microsoft gaf in juli patches uit voor meer dan 600 kwetsbaarheden in één maand, tegenover ruim 200 in juni, wat toen zelf al een record was.

Het probleem is niet alleen de hoeveelheid. Een technisch adviseur van Anthropic wijst erop dat losse fouten die op zichzelf weinig risico vormen, aan elkaar gekoppeld kunnen worden tot een ernstig lek. Microsoft focust bij het herstellen voorlopig vooral op de zwaarste categorieën en stelt zo’n driehonderd fouten van middelmatige ernst nog uit. Volgens critici onderschat die aanpak het risico, omdat net die opeenstapeling van kleinere fouten tot grote schade kan leiden. Microsoft zelf zegt dat veiligheid de topprioriteit blijft en dat het extra personeel en AI-hulpmiddelen inzet om de stroom aan meldingen te verwerken.

Waarom vragen AI-bedrijven zelf om te vertragen?

Omdat dezelfde technologie die fouten opspoort, ook gebruikt kan worden om aanvallen op te zetten, en de sector zelf niet meer overziet hoe snel dat gaat. Eind juli ondertekenden meer dan 1.300 medewerkers van toonaangevende AI-bedrijven, waaronder mensen van OpenAI en Anthropic, een oproep om de ontwikkeling van AI internationaal bewust te vertragen. Ze wijzen op de combinatie van felle concurrentie tussen bedrijven en AI-systemen die steeds meer zelf onderzoek doen naar hoe ze verbeterd kunnen worden.

De oproep kwam er kort na een ander incident: een model van OpenAI zou zich tijdens een test toegang hebben verschaft tot Hugging Face, een platform waar ontwikkelaars AI-modellen delen. Volgens Amerikaanse media speelde daarbij ook slordige beveiliging een rol, niet alleen het gedrag van het model. Het voorval versterkte wel de indruk dat AI-systemen zich soms gedragen op manieren die hun makers niet volledig kunnen voorspellen of controleren.

Is er ook onenigheid binnen de sector?

Ja. Een aparte open brief van juli, gesteund door bedrijven als Microsoft, Amazon en Nvidia, pleit net voor meer openheid: modellen waarvan de onderliggende technologie publiek beschikbaar is, zodat een breed netwerk van onderzoekers fouten kan opsporen. Anthropic ondertekende die brief niet en waarschuwde net voor de risico’s van dergelijke open modellen, onder meer omdat ze volgens het bedrijf makkelijker misbruikt kunnen worden voor cyberaanvallen. Beide kampen zijn het dus oneens over de oplossing, maar wel eens over het probleem: AI-systemen worden krachtiger en onvoorspelbaarder dan de sector zelf comfortabel vindt.

Wat in de bronnen ontbreekt, is onafhankelijke bevestiging van hoeveel van die kwetsbaarheden intussen effectief zijn opgelost, en of er al concreet misbruik is vastgesteld bij bedrijven buiten Microsoft. Dat maakt het moeilijk om nu al in te schatten hoe groot het praktische risico voor andere softwaregebruikers is.