Beleid & regelgeving
Chinese AI-bedrijven zouden Claude stiekem gebruikt hebben om eigen modellen te trainen
Anthropic beschuldigt Alibaba, Moonshot en anderen ervan massaal via nepaccounts te leunen op Claude, soms zonder medeweten van hun eigen klanten.
Op basis van TechCrunch en Tweakers
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- Anthropic telde bijna 200 miljoen verdachte gesprekken, verspreid over vijf afzonderlijke campagnes van Chinese AI-bedrijven.
- De grootste campagne komt van Alibaba: 151 miljoen interacties via 3.500 accounts, gericht op het trainen van de Qwen-modellen.
- DeepSeek en Moonshot zouden klantprompts hebben doorgesluisd naar Claude zonder dat gebruikers dat wisten, met behulp van nepaccounts die buiten China leken te opereren.
- Xiaomi zou gesprekken tussen klanten en zijn eigen model hebben nagespeeld in Claude om de resultaten te vergelijken.
- Voor Vlaamse bedrijven die goedkope Chinese AI-tools gebruiken, roept dit vragen op over waar hun data eigenlijk terechtkomt.
Anthropic, het bedrijf achter chatbot Claude, beschuldigt verschillende Chinese AI-bedrijven ervan op grote schaal de eigen modellen te hebben getraind door stiekem Claude te gebruiken. In een rapport van donderdag beschrijft Anthropic vijf afzonderlijke campagnes waarbij in totaal bijna 200 miljoen gesprekken zouden zijn ingezet om Claude’s redeneervaardigheden te kopiëren.
Deze techniek heet distillatie: je laat een groot, duur AI-model veel vragen beantwoorden en gebruikt de antwoorden om een goedkoper model te trainen dat vergelijkbaar presteert. Claude toont gebruikers normaal alleen een samenvatting van zijn redenering, niet de volledige denkstappen. Volgens Anthropic vonden aanvallers manieren om die verborgen redenering toch los te krijgen, bijvoorbeeld door Claude te vragen zijn “werkgeheugen” te vertalen naar het Japans.
Wie zit hierachter?
Anthropic wijst naar meerdere grote Chinese techbedrijven, met Alibaba als grootste boosdoener. Volgens het rapport ontdekte Anthropic tussen mei en juli 151 miljoen gesprekken die aan één campagne werden gekoppeld, verspreid over 3.500 accounts die allemaal dezelfde vaste vraagstelling gebruikten om Claude’s denkstappen te ontfutselen. Anthropic noemt dit de grootste distillatiepoging die het ooit heeft waargenomen, bedoeld om Alibaba’s Qwen-modellen te verbeteren.
Een tweede campagne, toegeschreven aan Moonshot AI, maker van het model Kimi, zou volgens Anthropic verzoeken hebben doorgestuurd die rechtstreeks van het Chinese leger afkomstig leken. Zo zou Claude gevraagd zijn beveiligingscamerabeelden te analyseren om te bepalen of iemand “abnormaal gedrag” vertoonde. Over een periode van tien dagen zouden bijna 300.000 van dat soort verzoeken via een netwerk van 5.000 accounts bij Claude terecht zijn gekomen, vooral gericht op het krachtigste model van het bedrijf.
Kregen klanten door welk model ze eigenlijk gebruikten?
Nee, volgens Anthropic en Tweakers wisten klanten van DeepSeek en Moonshot dat niet. Wie dacht een vraag te stellen aan DeepSeek of aan Kimi, het model van Moonshot, kreeg in werkelijkheid soms antwoord van Claude Opus, het topmodel van Anthropic.
Dat gebeurde volgens de berichtgeving minstens honderdduizenden keren, met tussenschakels die het verkeer buiten China lieten binnenkomen, onder meer via accounts die leken op te duiken uit Singapore en Japan. Zo bereikten prompts van klanten Claude zonder dat die klanten wisten dat hun vraag bij een concurrent van hun eigen leverancier belandde. Het is niet bekend welk deel van alle prompts precies naar Claude werd doorgesluisd, en of dit ook bij andere modellen van DeepSeek en Moonshot gebeurde.
Een derde, kleinere campagne wordt toegeschreven aan Xiaomi. Dat bedrijf zou gesprekken tussen zijn eigen model MiMo-V2-Pro en gebruikers hebben nagespeeld binnen Claude, vermoedelijk om de antwoorden van beide modellen naast elkaar te leggen en zo het eigen model bij te sturen.
Wat zeggen de betrokken bedrijven?
Geen van de genoemde bedrijven, waaronder Alibaba, Moonshot, DeepSeek en Xiaomi, heeft tot nu toe gereageerd op de beschuldigingen van Anthropic. Er is dus voorlopig alleen het verhaal van één kant, en onafhankelijke bevestiging van de cijfers ontbreekt in de bronnen. Anthropic bracht eerder dit jaar, in februari, al soortgelijke beschuldigingen naar buiten. Ook OpenAI meldde eerder vergelijkbare activiteit en wees toen specifiek naar DeepSeek.
Wat opvalt is de schaal: waar eerdere meldingen over losse incidenten gingen, spreekt Anthropic nu van vijf georganiseerde campagnes tegelijk, gericht op specifieke vaardigheden van Claude zoals programmeren, gegevensanalyse en het zelfstandig uitvoeren van taken.
Wat betekent dit voor de concurrentiestrijd tussen AI-modellen?
De zaak toont hoe fel de concurrentie is tussen Amerikaanse en Chinese AI-labs. Chinese modellen als Qwen, Kimi en DeepSeek gelden als goedkope alternatieven voor Amerikaanse modellen, en worden ook door westerse bedrijven gebruikt vanwege de lagere kosten. Als klopt wat Anthropic beschrijft, dan haalden minstens enkele van die modellen hun prestaties deels binnen door stiekem op een concurrent te leunen, in plaats van puur op eigen onderzoek.
Of en hoe Anthropic hier juridisch tegen optreedt, staat niet in de bronnen. Ook ontbreekt informatie over eventuele maatregelen die de getroffen gebruikers, van wie de gegevens zonder hun medeweten bij Claude belandden, kunnen nemen.
Wat betekent dit voor jou
Waarom je niet altijd weet welk model je gebruikt
- Bedrijven die goedkope Chinese AI-tools gebruiken Kunnen niet met zekerheid zeggen welk model hun gegevens verwerkt, en dus ook niet waar die gegevens uiteindelijk terechtkomen.
- Wie gevoelige bedrijfsgegevens invoert in een chatbot Loopt het risico dat die informatie via een omweg bij een heel ander bedrijf terechtkomt dan verwacht.
- Ondernemers die AI-leveranciers kiezen op prijs alleen Doen er goed aan om bij twijfelachtig goedkope aanbieders te vragen welk model daadwerkelijk antwoordt, in plaats van dat als vanzelfsprekend aan te nemen.
Veelgestelde vragen
Wat is distillatie bij AI-modellen precies?
Distillatie is een techniek waarbij je een bestaand, krachtig AI-model veel vragen laat beantwoorden en de antwoorden gebruikt om een goedkoper, kleiner model te trainen. Zo kan een nieuw model vergelijkbaar goed presteren zonder dat de maker zelf al het dure onderzoek en trainen vanaf nul moest doen.
Wist ik als gebruiker van DeepSeek of Kimi dat ik eigenlijk met Claude sprak?
Nee, volgens Anthropic en Tweakers gebeurde dit zonder medeweten van klanten. Wie dacht een vraag te stellen aan DeepSeek of Kimi, kreeg soms in werkelijkheid antwoord van Claude Opus via tussenschakels. Gebruikers hadden hier geen zicht op en konden dit ook niet nagaan.
Heeft Anthropic hard bewijs voor deze beschuldigingen?
Anthropic presenteert cijfers over gesprekken, accounts en patronen, maar dit is voorlopig het verhaal van één partij. De beschuldigde bedrijven, waaronder Alibaba, Moonshot, DeepSeek en Xiaomi, reageerden nog niet. Onafhankelijke bevestiging van de cijfers ontbreekt vooralsnog in de beschikbare berichtgeving.
Loop ik als bedrijf risico als ik een Chinese AI-chatbot gebruik?
Mogelijk, want je weet niet altijd zeker welk model je vraag daadwerkelijk verwerkt of waar je gegevens naartoe gaan. Als je gevoelige bedrijfsinformatie invoert, is het verstandig om bij twijfelachtig goedkope aanbieders na te vragen welk model precies antwoordt en waar de gegevens worden opgeslagen.
Gaat Anthropic juridische stappen ondernemen tegen deze bedrijven?
Dat is niet bekend. De bronnen vermelden alleen dat Anthropic het rapport publiceerde en eerder, in februari, al soortgelijke beschuldigingen uitte. Over eventuele juridische stappen, sancties of andere vervolgacties tegen Alibaba, Moonshot of de andere genoemde bedrijven wordt niets gezegd.