Beleid & regelgeving
OpenAI waarschuwt dat nieuw AI-model mogelijk zelfstandig cyberaanvallen kan uitvoeren
OpenAI meldt dat een nog niet uitgebracht model mogelijk kritieke cyberaanvalstechnieken zelfstandig kan ontwikkelen, en scherpt daarom de eigen beveiliging aan.
Op basis van OpenAI
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- OpenAI kan op basis van interne tests niet uitsluiten dat het model Astra het hoogste risiconiveau voor cyberaanvallen haalt, boven het niveau van eerdere modellen zoals GPT-5.6-Sol.
- Op dat hoogste niveau kan een AI-model zelfstandig zware kwetsbaarheden opsporen en misbruiken in goed beveiligde systemen, zonder menselijke tussenkomst.
- OpenAI pauzeert intern werk met Astra dat nog niet aan verscherpte beveiligingseisen voldoet en zet extra bewaking op agentachtige toepassingen.
- Voor Vlaamse bedrijven verandert er vandaag nog niets concreet, maar het signaal is dat AI-gestuurde cyberaanvallen sneller en grootschaliger kunnen worden.
OpenAI heeft bekendgemaakt dat een nog niet uitgebracht model, intern Astra genoemd, tijdens interne tests zulke sterke resultaten liet zien op het vlak van programmeren en cyberbeveiliging dat het bedrijf niet kan uitsluiten dat het model het hoogste risiconiveau voor cyberaanvallen haalt. Dat niveau heet “Critical” binnen het eigen veiligheidskader van OpenAI, en ligt hoger dan het niveau waarop eerdere modellen, zoals GPT-5.6-Sol, werden ingeschat.
Wat betekent “kritiek” cyberrisico precies?
Een model bereikt volgens OpenAI dat hoogste niveau als het zonder hulp van een mens zware, nog onbekende kwetsbaarheden (zogenoemde zero-days) kan opsporen en misbruiken in goed beveiligde systemen, of als het op basis van één algemeen doel zelf een volledige aanvalsstrategie kan bedenken en uitvoeren tegen een goed beveiligd doelwit. Dat is een aanzienlijke sprong ten opzichte van wat OpenAI eerder inschatte bij zijn modellen.
OpenAI benadrukt dat het gaat om voorlopige testresultaten en dat verdere evaluatie nog loopt. Het bedrijf zegt de bevindingen te delen omdat het transparantie belangrijk vindt tegenover de bredere veiligheids- en beveiligingsgemeenschap, niet omdat het model al vrijgegeven is. Astra was ook niet betrokken bij een apart beveiligingsincident dat OpenAI eerder deze maand meldde rond Hugging Face.
Wat doet OpenAI nu concreet?
OpenAI zegt strengere beveiligingsmaatregelen in te voeren voordat het verder werkt aan en test met Astra. Dat gaat onder meer om afgeschermde testomgevingen, beperkte toegang tot netwerken en hulpmiddelen, extra beveiliging van de modelbestanden zelf, en uitgebreidere monitoring. Interne activiteiten met Astra die nog niet aan die strengere eisen voldoen, worden voorlopig stopgezet.
Daarnaast zet het bedrijf universele bewaking op alle toepassingen waarbij het model zelfstandig taken uitvoert, ook tijdens training en testen. Die bewaking volgt de redenering van het model en kan ingrijpen bij risicovolle acties. OpenAI wil ook overheidsinstanties en externe veiligheidsorganisaties inschakelen om de capaciteiten van het model te testen, en zegt aanbevolen beveiligingsmaatregelen te delen met externe testpartners die met hogere risico’s werken.
Is dit eerder gebeurd?
Ja, OpenAI verwijst naar een gelijkaardige stap in juni 2025, toen een model de hoge (niet kritieke) drempel voor biologische risico’s naderde. Toen kondigde het bedrijf ook extra veiligheidsmaatregelen, uitgebreidere tests en samenwerking met externe experts aan. Het bedrijf zegt nu dezelfde aanpak te volgen voor cyberbeveiliging. De conclusie over Astra berust volgens OpenAI op eigen interne testen samen met beoordelingen van externe experts, al geeft het bedrijf in dit bericht geen namen of details over wie die externe beoordeling deed.
Verandert er iets aan wanneer je dit model kan gebruiken?
De bronnen zeggen niets over een concrete releasedatum voor Astra, en evenmin over prijs of beschikbaarheid. Het model wordt nog getest en de veiligheidscontroles worden nu net verscherpt omdat het bedrijf zelf niet zeker is van het risiconiveau. Er is dus geen product dat vandaag beschikbaar komt voor bedrijven of ontwikkelaars. OpenAI stelt wel dat het model, eenmaal verantwoord ingezet, defensieve toepassingen kan hebben: bedrijven die kwetsbaarheden willen opsporen voor kwaadwilligers dat doen, zouden er baat bij kunnen hebben. Dat is voorlopig een belofte van de leverancier zelf, geen vaststaand gegeven.
Wat dit voorval vooral laat zien, is dat de grens tussen een AI-model dat helpt bij beveiligingswerk en een model dat zelfstandig aanvallen kan opzetten, snel dichterbij komt. Dat verandert niets aan wat een Vlaams bedrijf morgen moet doen, maar het is wel een duidelijk signaal dat basisbeveiliging, zoals tijdig patchen en goede toegangscontrole, belangrijker wordt naarmate aanvallen sneller en geautomatiseerder kunnen verlopen.
Wat betekent dit voor jou
Wat dit signaal betekent voor je basisbeveiliging
- Vlaamse kmo's zonder eigen IT-afdeling Er is geen directe actie nodig omdat het model nog niet beschikbaar is, maar het is een goed moment om software-updates en toegangsbeheer op orde te brengen voor aanvallen sneller en geautomatiseerder worden.
- Bedrijven die klantgegevens of betalingen online verwerken Als AI-modellen zelfstandig kwetsbaarheden kunnen vinden en misbruiken, wordt de tijd tussen een ontdekte lek en een aanval korter, wat pleit voor snellere patchcycli bij webshops en klantenportalen.
- IT-dienstverleners en beveiligingsadviseurs van kmo's Zij kunnen dit gebruiken als aanleiding om klanten te herinneren aan basismaatregelen, al is de risico-inschatting van OpenAI voorlopig en mede gebaseerd op de blik van externe experts naast het eigen onderzoek van het bedrijf.
Veelgestelde vragen
Is Astra al beschikbaar om te gebruiken?
Nee. Astra is nog niet uitgebracht en wordt momenteel intern getest bij OpenAI. Er is geen releasedatum, prijs of toegangsmethode bekendgemaakt. De verscherpte beveiligingsmaatregelen die OpenAI nu invoert, zijn er net om zeker te zijn voordat het model breder ingezet wordt.
Moet mijn bedrijf nu iets veranderen aan zijn beveiliging?
Niet meteen. Het gaat om een model dat nog niet op de markt is en waarvan het risiconiveau nog onderzocht wordt. Wel is het een goed moment om basiszaken zoals software tijdig updaten en toegang tot systemen strikt beperken op orde te hebben, want geautomatiseerde aanvallen kunnen sneller worden.
Wat maakt het kritieke risiconiveau bij OpenAI zo zwaar?
Bij dat niveau kan een model zonder hulp van een mens zware, nog onbekende kwetsbaarheden vinden en misbruiken in goed beveiligde systemen, of op basis van slechts één algemeen doel zelf een volledige aanvalsaanpak bedenken en uitvoeren. Eerdere modellen van OpenAI werden op een lager risiconiveau ingeschat.
Heeft dit te maken met het beveiligingsincident bij Hugging Face?
OpenAI vermeldt kort dat Astra geen rol had bij dat incident, zonder verder toelichting te geven over de aard ervan. Het gaat om een apart voorval naast de huidige waarschuwing over mogelijke cybercapaciteiten van het nieuwe model, en de bron licht niet toe hoe die twee zaken zich precies tot elkaar verhouden.
Zijn deze risicocijfers onafhankelijk gecontroleerd?
De inschatting komt volgens OpenAI uit eigen interne tests, aangevuld met beoordelingen van externe experts. Wie die experts precies zijn en hoe ze te werk gingen, staat niet vermeld. Er is dus wel een externe blik bij betrokken, maar geen volledig onafhankelijke, publiek gecontroleerde bevestiging van de gerapporteerde cybercapaciteiten.
Kan zo'n AI-model ook helpen om bedrijven te beschermen?
OpenAI stelt dat cybercapabele modellen defensief kunnen helpen, bijvoorbeeld door bedrijven te laten opsporen welke kwetsbaarheden aanvallers zouden kunnen misbruiken, voor die aanvallers dat zelf doen. Dat is voorlopig een claim van de leverancier zelf, geen onafhankelijk bevestigd resultaat.