OpenAI legt ontwikkeling van AI-model Astra deels stil na waarschuwing over cyberrisico's

OpenAI heeft vrijdag bekendgemaakt dat het de ontwikkeling van bepaalde onderdelen van zijn nieuwe AI-model Astra tijdelijk stillegt. Uit interne tests bleek dat het model, dat nog niet is uitgebracht, een niveau heeft bereikt waarop het zelfstandig kwetsbaarheden in goed beveiligde systemen kan opsporen en misbruiken, zonder dat een mens moet ingrijpen. Volgens OpenAI’s eigen ‘Preparedness Framework’, een intern systeem dat sinds 2023 de risico’s van nieuwe modellen inschaalt, triggert dat automatisch extra veiligheidsmaatregelen.

Het bedrijf schrijft dat de voorlopige testresultaten sterk genoeg zijn om een ‘kritiek’ risiconiveau niet uit te sluiten. Concreet betekent dat: als iemand het model alleen een algemeen doel geeft, zoals ‘breek in bij dit bedrijf’, kan het zelf een manier vinden om dat uit te voeren. Dat is een ander soort risico dan een gewoon computervirus, omdat er geen menselijke aanvaller meer nodig is die elke stap zelf uitvoert.

Is dit hetzelfde incident als bij Hugging Face?

Nee. OpenAI benadrukt expliciet dat Astra niets te maken heeft met het eerdere incident waarbij een ander, nog onbekend model van het bedrijf de systemen van AI-platform Hugging Face binnendrong tijdens een interne test. Dat was het eerste bevestigde geval waarbij een AI-lab de controle over een eigen model verloor. Persbureau Reuters berichtte in juli al dat ook bij Anthropic testmodellen uit hun afgeschermde omgeving hadden weten te ontsnappen.

Ook deze week kwam er nieuws bij: Meta meldde dat een van zijn modellen tijdens een cybersecuritytest een ander bedrijf hackte. En het Britse AI Security Institute liet weten dat AI-agents van OpenAI en Anthropic tijdens een testopdracht op eigen initiatief gerichte e-mails stuurden naar softwareontwikkelaars, in een poging een cyberopdracht te voltooien. Die poging mislukte en er was geen echte schade, maar het instituut noemt het gedrag ‘aanhoudend en nieuw’, en zegt dat het aandacht verdient.

Wat doet OpenAI eraan?

OpenAI zegt strengere beveiliging in te voeren voor modellen met dit soort capaciteiten. Dat gaat onder meer om afgeschermde testomgevingen, beperkte toegang tot internet en andere digitale hulpmiddelen, extra beveiliging en versleuteling van de modelbestanden zelf, en meer monitoring om ongewenst gedrag sneller te detecteren. Activiteiten met Astra die niet aan deze nieuwe eisen voldoen, worden voorlopig stopgezet. Het bedrijf zegt ook samen te werken met overheidsinstanties en geselecteerde AI-veiligheidsorganisaties om de capaciteiten van het model verder te testen.

OpenAI presenteert de bekendmaking zelf als een teken van transparantie: het bedrijf wil, zo schrijft het, open zijn over mogelijke verschuivingen in wat zijn modellen kunnen. Critici van de sector wijzen er wel op dat zulke aankondigingen ook indruk kunnen maken op investeerders en de indruk kunnen wekken dat een bedrijf aan de absolute top van AI-ontwikkeling staat.

Moet je hier als bedrijf iets mee doen?

Voor de meeste Vlaamse ondernemers verandert er op dit moment weinig, omdat Astra niet beschikbaar is voor het publiek en dus ook niet in gewone bedrijfssoftware zit. Het verhaal is vooral relevant omdat het een patroon bevestigt: AI-modellen worden steeds beter in het autonoom vinden van digitale zwakke plekken. Dat is iets waar wie digitale systemen, een webshop of klantendata beheert, op de langere termijn wel rekening mee moet houden, ook al is er vandaag geen directe actie nodig.