Beleid & regelgeving
OpenAI meldt dat een veiligheidstest per ongeluk een echte website aanviel
Een test om te zien of AI-modellen kunnen hacken, liep mis: het model kreeg toegang tot het echte internet en viel een bestaande website aan.
Op basis van OpenAI en Simon Willison
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- OpenAI meldt dat een testomgeving voor cybersecurity-evaluaties per ongeluk verbonden was met het echte internet in plaats van afgeschermd te blijven.
- Een fictieve domeinnaam in de test kwam toevallig overeen met een bestaand, echt domein, waardoor het AI-model die echte website aanviel.
- Externe testpartner Irregular was ook betrokken bij een gelijkaardig incident met Claude van Anthropic, waarbij dat model tijdens tests eveneens live internettoegang kreeg.
- Voor Vlaamse bedrijven is er geen aanwijzing dat dit incident gericht was op specifieke sites hier, maar het toont dat 'afgeschermde' AI-tests niet altijd waterdicht zijn.
- OpenAI zegt de manier waarop dit soort testomgevingen wordt opgezet aan te scherpen om herhaling te voorkomen.
OpenAI heeft bevestigd dat een cybersecuritytest met zijn eigen AI-modellen door een configuratiefout ontsnapte uit de afgeschermde testomgeving en terechtkwam op het echte internet. Daardoor viel een AI-model een bestaande website aan, terwijl de test bedoeld was als volledig gesimuleerde oefening zonder enig contact met het echte web.
Wat ging er precies mis?
De test was opgezet als een zogenaamde capture-the-flag-oefening: een gecontroleerde uitdaging waarbij een AI-model moet proberen digitale zwakke plekken te vinden en te misbruiken, net zoals ethische hackers dat doen bij een pentest. Zulke oefeningen worden normaal volledig afgesloten van het echte internet, zodat een model alleen kan experimenteren binnen een neppe, veilige omgeving.
Bij deze test ging dat mis. De externe testpartner Irregular, die dit soort evaluaties uitvoert voor OpenAI, had de omgeving verkeerd geconfigureerd, waardoor die toch verbonden bleef met het echte internet. Om het nog wranger te maken, koos de naam van het fictieve doelwit in de oefening toevallig een domeinnaam die ook echt bestond. Het AI-model dacht dat die echte website onderdeel was van de gesimuleerde test, en probeerde die dus binnen te dringen zoals de opdracht vroeg.
OpenAI zegt zelf dat het om een testfout ging, niet om een model dat zonder opdracht op eigen houtje besloot om iets aan te vallen. Het model deed precies wat gevraagd werd, alleen was de context waarin het dat deed niet correct afgeschermd.
Staat OpenAI hier alleen in?
Nee. Ook Anthropic, de maker van chatbot Claude, meldde een vergelijkbaar incident met dezelfde testpartner Irregular. Ook daar zorgde een verkeerd ingestelde testomgeving ervoor dat Claude tijdens bepaalde evaluaties live toegang kreeg tot het internet, terwijl dat niet de bedoeling was.
Dat twee grote AI-bedrijven, die elk hun eigen veiligheidsprocedures hebben, met dezelfde externe partner tegen hetzelfde soort probleem aanliepen, wijst erop dat het risico niet bij één bedrijf ligt, maar bij hoe dit soort geavanceerde veiligheidstests in de sector wordt opgezet. Eerder was er ook al een gelijkaardig incident gemeld rond een test van het Britse AI Safety Institute, een overheidsinstantie die AI-modellen onafhankelijk test.
Wat doet OpenAI er nu aan?
OpenAI schrijft dat het maatregelen neemt om zijn testopstellingen beter te controleren en te voorkomen dat testomgevingen nog per ongeluk met het echte internet verbonden raken. Concrete technische details daarover geeft het bedrijf in de beschikbare samenvatting niet, en de volledige uitleg op de eigen pagina van OpenAI was op het moment van schrijven niet raadpleegbaar.
Het is dus niet duidelijk hoeveel van dit soort tests er lopen, hoe vaak zoiets al voorviel, of welke website precies werd aangevallen en of die eigenaar daarvan op de hoogte werd gebracht. Onafhankelijke bevestiging van hoe groot het probleem precies was, ontbreekt in de bronnen die voor dit artikel beschikbaar zijn.
Wat betekent dit voor gewone gebruikers van AI?
Voor wie AI-chatbots gebruikt voor tekst, klantenservice of marketing, verandert er niets: dit incident speelde zich af in een gespecialiseerde testomgeving voor cybersecurity-onderzoek, niet in een gewoon gesprek met een chatbot. Het raakt vooral bedrijven en instanties die zelf met AI-modellen werken om beveiligingslekken op te sporen, en de onderzoekers die dat soort tests uitvoeren.
Het incident laat wel zien dat AI-modellen intussen bekwaam genoeg zijn om zelfstandig een cyberaanval uit te voeren zodra ze daartoe de opdracht en de toegang krijgen, ook als niemand dat zo bedoeld had. Dat is precies waarom bedrijven als OpenAI en Anthropic dit soort tests laten uitvoeren: om te zien hoe ver die vaardigheden intussen staan, voordat kwaadwillige gebruikers dat zelf uitproberen.
Wat betekent dit voor jou
Een testfout raakte een echte website per ongeluk
- Bedrijven die zelf pentests laten uitvoeren Vraag expliciet aan leveranciers of testomgevingen echt volledig afgesloten zijn van het internet, want dit incident toont dat die garantie niet altijd waterdicht is, zelfs bij grote AI-bedrijven.
- Eigenaars van bedrijfswebsites met ongewoon verkeer Er is geen aanwijzing dat dit incident gericht was op Belgische sites, maar check bij twijfel je logbestanden op ongewone patronen rond de periode van het incident.
- IT-verantwoordelijken die AI overwegen voor security-testing Geen directe actie nodig op korte termijn: dit betrof een geïsoleerde testopstelling van OpenAI en Anthropic, geen aanval gericht op jouw infrastructuur.
Veelgestelde vragen
Wat is er precies gebeurd met deze AI-test van OpenAI?
Een testomgeving die bedoeld was om volledig afgesloten te blijven van het internet, raakte door een fout toch verbonden. Daardoor kon een AI-model een echte website benaderen die toevallig dezelfde naam had als het nepdoelwit in de oefening, en probeerde het model die site binnen te dringen zoals de testopdracht vroeg.
Is mijn website of bedrijf hierdoor getroffen?
Dat is niet vast te stellen op basis van de beschikbare bronnen. Er is geen aanwijzing dat dit incident specifiek gericht was op Belgische of Vlaamse websites, en OpenAI meldt niet welke site precies werd geraakt. Zonder verdere details valt niet te zeggen of jouw bedrijf betrokken was.
Was Anthropic's chatbot Claude ook betrokken?
Ja, Anthropic meldde een gelijkaardig incident. Dezelfde externe testpartner, Irregular, richtte ook daar een testomgeving in die per ongeluk verbonden was met het internet, waardoor Claude tijdens bepaalde evaluaties eveneens live toegang kreeg in plaats van in een afgeschermde omgeving te blijven werken.
Moet ik nu extra maatregelen nemen voor mijn website?
Op basis van wat bekend is, is er geen directe actie nodig. Het ging om een intern testincident bij onderzoek naar AI-veiligheid, niet om een gerichte aanval op bedrijven. Het is wel een goede herinnering om je gewone beveiligingsmaatregelen, zoals updates en monitoring van ongewoon verkeer, op orde te houden.
Wie is Irregular, de partij die deze tests uitvoerde?
Irregular is een externe partij die cybersecurity-evaluaties uitvoert voor AI-bedrijven, waaronder OpenAI en Anthropic. Zij zetten testomgevingen op waarin AI-modellen moeten proberen digitale zwakke plekken te vinden, zoals bij een pentest. Bij deze omgevingen ging het mis met de afscherming van het internet.
Waarom laten bedrijven AI-modellen eigenlijk testen op hacken?
Om te weten hoe goed AI-modellen zijn geworden in het vinden en misbruiken van digitale zwakke plekken, voordat kwaadwillige gebruikers dat zelf proberen. Zulke tests helpen bedrijven inschatten welke risico's een model met zich meebrengt en welke veiligheidsmaatregelen daarbij nodig zijn.