Beleid & regelgeving
OpenAI ontmantelt Russische desinformatiecampagne die via ChatGPT een neptankdenk opbouwde
OpenAI blokkeerde ChatGPT-accounts uit Rusland die via VPN's een neplipa'denktank' opbouwden om pro-Kremlin verhalen te verspreiden op sociale media.
Op basis van OpenAI en The Decoder
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- OpenAI blokkeerde een cluster ChatGPT-accounts dat vanuit Rusland via VPN's werkte om Russische herkomst te verbergen.
- De accounts genereerden sociale-mediaposts ter promotie van het International Burke Institute, een zelfverklaarde denktank die zich als Israëlisch voorstelde.
- Van 36 onderzochte artikelen op de website van dat instituut bleken er 34 gekopieerd uit ander academisch werk, soms met valse auteursnamen.
- Telegram-kanalen gelinkt aan de campagne haalden elk 10.000 tot 20.000 volgers, terwijl losse posts op andere platformen weinig bekeken werden.
- Voor Vlaamse bedrijven verandert er niets aan hun gebruik van ChatGPT, maar het toont hoe AI-tools ingezet worden om nepbronnen geloofwaardig te maken.
OpenAI heeft een netwerk van ChatGPT-accounts geblokkeerd dat vanuit Rusland werd gebruikt om een verborgen desinformatiecampagne op te zetten. De operatoren gebruikten VPN’s om vanuit Rusland toegang te krijgen tot ChatGPT, want dat land staat op de lijst van plekken waar OpenAI de dienst niet rechtstreeks aanbiedt. Ze gaven de chatbot in het Russisch opdrachten om Engelstalige sociale-mediaposts te schrijven, en vroegen er expliciet om taalkundige sporen naar hun Russische herkomst te verwijderen.
Wat was het doel van de campagne?
De kern van de operatie draaide om het International Burke Institute (IBI), een zelfverklaarde ‘expertgemeenschap’ die zich voorstelde als gevestigd in Israël. De bijbehorende website, geregistreerd in februari 2025, presenteerde zich als een serieuze denktank met bekende namen als vermeende experts, waaronder politicoloog Francis Fukuyama en taalkundige Noam Chomsky.
OpenAI onderzocht 36 artikelen op die website die aan specifieke experts werden toegeschreven, gepubliceerd tussen september 2025 en mei 2026. Daarvan bleken er 34 gekopieerd uit bestaand academisch werk, soms met een compleet foute naam eronder. Zo werd een artikel over de economische corridor tussen China en Pakistan, oorspronkelijk geschreven door een emeritus hoogleraar aan de universiteit van Bradford en gepubliceerd door Cambridge University Press, toegeschreven aan een hoogleraar aan de universiteit van Nottingham die zich juist bezighoudt met Zuid-Aziatische politiek. Een ander stuk over migratiebeleid, oorspronkelijk van het Migration Policy Institute, werd toegeschreven aan een Australische professor voedingschemie.
Het instituut publiceerde ook een eigen ‘soevereiniteitsindex’, die landen rangschikte op onafhankelijkheid. Rusland kwam daarin gunstig uit de bus, terwijl westerse landen zoals Frankrijk, Duitsland en de Verenigde Staten in scherp negatieve bewoordingen werden beschreven. Over Frankrijk schreef het instituut bijvoorbeeld dat het land ‘als een kluis is geopend’ en ‘in stukken wordt verkocht’. Over Duitsland klonk het dat het land ‘echte militaire soevereiniteit’ nodig heeft in plaats van ‘afhankelijkheid van Amerikaanse bases’.
Hoe werd ChatGPT precies ingezet?
ChatGPT werd vooral gebruikt om sociale-mediaposts te schrijven die bezoekers naar de IBI-website moesten lokken, niet om de artikelen op die site zelf te schrijven. Die posts verschenen op X, LinkedIn, Facebook, Substack en Telegram, sommige via accounts met de naam en het logo van het instituut, andere via ogenschijnlijk gewone gebruikers die in werkelijkheid nepaccounts waren.
Eén van de betrokkenen gebruikte ChatGPT ook om Duitstalige posts te schrijven voor een Telegram-kanaal genaamd ‘Lahme Ente’ (‘lamme eend’), dat consequent kritiek gaf op Oekraïne, de EU en de Duitse regering en pleitte voor betere banden met Rusland. Een tweede operator maakte met ChatGPT logo’s voor een tiental Telegram-kanalen gericht op Duitsland, de VS, Frankrijk, Polen en Turkije, en liet zich telkens in het Russisch samenvatten wat er op die kanalen gebeurde.
Hoeveel mensen bereikte de campagne?
Het bereik van de losse posts bleef klein: individuele berichten kregen weinig weergaven en de officiële IBI-accounts hadden weinig volgers. De gekoppelde Telegram-kanalen deden het beter, met elk tussen de 10.000 en 20.000 volgers. OpenAI plaatst de operatie op basis van de zogeheten Brookings Breakout Scale, een raamwerk om de impact van desinformatiecampagnes te meten, aan de onderkant van categorie drie op een schaal van zes: verspreid over meerdere platformen, met eerste tekenen dat echte gebruikers werden bereikt.
Volgens OpenAI zit de eigenlijke betekenis van deze zaak niet in het bereik, dat voorlopig beperkt bleef, maar in de infrastructuur die werd opgebouwd: een schijnbaar geloofwaardig instituut met vermeende experts, herpubliceerd academisch werk en een eigen index, klaar om op termijn verder te worden opgeschaald.
Is dit de eerste keer dat dit gebeurt?
Nee. OpenAI heeft eerder al Russische operaties tegen zijn eigen platform blootgelegd, waaronder een netwerk genaamd ‘Bad Grammar’ in 2024 en een campagne rond de Duitse verkiezingen van 2025 die AfD-standpunten promootte. Deze zaak onderscheidt zich volgens het bedrijf door de omvang en de zorgvuldigheid waarmee een schijnbaar legitieme organisatie werd opgebouwd. Belangrijk om te vermelden: dit zijn enkel de gevallen die OpenAI zelf op zijn eigen platform ontdekte. Met Chinese AI-aanbieders en vrij beschikbare open modellen kunnen soortgelijke campagnes elders veel groter zijn, zonder dat daar onafhankelijke cijfers over bestaan.
Wat betekent dit voor jou
Nepdenktanks als nieuw wapen in online desinformatie
- Marketeers en communicatieverantwoordelijken Deze zaak toont dat schijnbaar onafhankelijke 'expertbronnen' online steeds vaker kunstmatig zijn opgebouwd, wat extra voorzichtigheid vraagt bij het overnemen van cijfers of citaten uit onbekende denktanks of instituten.
- Bedrijven die ChatGPT gebruiken voor content of klantcontact Er is geen actie nodig: de blootgelegde misbruikaccounts werden geblokkeerd en het gaat om doelbewuste omzeiling van de regels via VPN's uit een land waar OpenAI geen toegang toestaat, niet om een probleem met de dienst zelf.
- Wie zelf online zichtbaarheid opbouwt via sociale media De campagne laat zien hoe makkelijk AI-tools worden ingezet om geloofwaardigheid te faken via logo's, valse experts en herschreven content, een goede reden om bronnen altijd zelf te verifiëren voor je ze deelt of erop reageert.
Veelgestelde vragen
Wat is het International Burke Institute precies?
Het is een neplipa'denktank' die zich voordeed als een gevestigde expertgemeenschap in Israël, met bekende namen als schijnexperts en een eigen 'soevereiniteitsindex' die Rusland positief en westerse landen negatief afschilderde. Bijna alle onderzochte artikelen op de website bleken gekopieerd uit bestaand academisch werk, vaak met verkeerde auteursnamen erbij.
Hoe ontdekte OpenAI deze campagne?
OpenAI onderzocht eerst een reeks AI-gegenereerde sociale-mediaposts en kwam via dat spoor uit bij een veel bredere operatie rond de website van het International Burke Institute. Die combinatie van gekopieerde academische teksten, een eigen index en pogingen om de Russische herkomst te verhullen maakte deze zaak volgens OpenAI ongewoon uitgebreid opgezet.
Betekent dit dat ChatGPT onveilig is voor bedrijven?
Nee, dit gaat over misbruik door kwaadwillende actoren die de regels omzeilden met VPN's, niet over een fout in ChatGPT zelf. Voor een Vlaams bedrijf dat ChatGPT gebruikt voor normale taken zoals teksten of klantenservice verandert er niets: OpenAI blokkeerde de betrokken accounts zodra het misbruik werd vastgesteld.
Hoeveel mensen bereikte deze desinformatiecampagne?
Het bereik was volgens OpenAI beperkt: losse posts kregen weinig weergaven en de officiële accounts van het instituut hadden weinig volgers. Alleen de gekoppelde Telegram-kanalen haalden een substantieel bereik, elk tussen de 10.000 en 20.000 volgers, wat neerkomt op de onderkant van de derde categorie op een zesdelige schaal voor de impact van dit soort operaties.
Is dit de eerste Russische campagne die OpenAI blootlegde?
Nee, OpenAI meldde eerder al andere Russische operaties op zijn platform, waaronder een netwerk rond de Duitse verkiezingen van 2025. Deze zaak valt op door de zorgvuldige opbouw van een schijnbaar legitieme organisatie met vermeende experts en herpubliceerd academisch werk, in plaats van louter losse propagandaposts.
Kan zoiets ook via andere AI-tools gebeuren?
De bronnen geven daar geen harde cijfers over, maar OpenAI merkt zelf op dat het enkel de gevallen ziet die het op zijn eigen platform ontdekt. Met Chinese AI-aanbieders en vrij beschikbare open modellen is de kans reëel dat vergelijkbare campagnes elders lopen zonder dat die momenteel bekend of gemeten zijn.