Anthropic zet AI-codeertool Claude Code standaard op automatische piloot

Anthropic, het bedrijf achter de AI-assistent Claude, maakt vanaf 14 augustus een functie genaamd ‘auto mode’ standaard voor zijn AI-codeertool Claude Code. Die tool helpt programmeurs bij het schrijven en aanpassen van software. Tot nu toe moest een menselijke gebruiker telkens goedkeuring geven voor elke actie die de AI wilde uitvoeren. Met auto mode beslist de AI zelf welke stappen ze zonder toestemming mag zetten, en vraagt ze alleen nog bevestiging bij acties die ze zelf als gevaarlijk of onomkeerbaar inschat.

De wijziging geldt voor gebruikers met een Pro-, Max- of Teamabonnement. Wie een Enterprise-contract heeft, moet de functie zelf inschakelen. Voor de meeste andere klanten staat ze straks gewoon aan, tenzij ze die zelf uitzetten.

Is dit wel veilig genoeg?

Anthropic zegt van wel, en onderbouwt dat met eigen onderzoek. In een test met 1.053 betalende gebruikers werd op een bepaald moment in elke sessie een onschuldige vraag om toestemming vervangen door een duidelijk schadelijk commando. Slechts 13,6 procent van de menselijke testers weigerde dat. De automatische modus van Claude Code zou 89 procent van diezelfde schadelijke acties hebben tegengehouden. Dat is een opvallend verschil, maar het betekent ook dat in ongeveer één op de negen gevallen de AI het gevaarlijke commando toch zou doorlaten.

Daarnaast liet Anthropic een extern bureau, Trajectory Labs, de tool testen tegen een specifiek soort aanval: prompt injection. Dat is een truc waarbij iemand verborgen instructies verstopt in tekst, code of documenten die de AI later inleest, met de bedoeling dat de AI die instructies uitvoert zonder dat de gebruiker het doorheeft. Denk aan gegevens die stiekem naar een externe server worden gestuurd. Volgens Anthropic slaagde geen van de 720 geteste aanvalspogingen tegen de nieuwste Claude-modellen in automatische modus. Bij de vergelijkbare tool van OpenAI, Codex, kwam wel een klein percentage van de aanvallen door.

Onafhankelijke techwatcher Simon Willison, die de test kritisch volgde, vindt de resultaten geloofwaardig maar wil ze liever bevestigd zien door meer partijen dan alleen Anthropic zelf. Hij geeft zelf een voorbeeld van een aanvalstype waar hij twijfels bij heeft: een kwaadaardig softwarepakket dat de AI opdraagt om eerst een ander, besmet hulpprogramma te downloaden voor het de eigenlijke taak uitvoert. Volgens hem is onduidelijk of automatische modus zo’n slimme misleiding zou herkennen. Onafhankelijke, herhaalde bevestiging van de veiligheidscijfers is er op dit moment niet.

Wat betekent dit voor wie geen programmeur is?

De meeste Vlaamse kmo’s schrijven zelf geen software, maar besteden ontwikkeling uit aan freelancers, webbureaus of een eigen IT-dienst. Als die leveranciers Claude Code gebruiken, verandert er vanaf 14 augustus iets aan hoe hun werk verloopt: de AI grijpt vaker zelf in en vraagt minder vaak om bevestiging. Dat kan sneller werk opleveren, want Anthropic meldt dat teams die de automatische modus gebruiken gemiddeld meer werk afleveren. Maar het betekent ook dat er minder menselijke ogen naar elke stap kijken voordat die wordt uitgevoerd.

Voor bedrijven die gevoelige klantgegevens laten verwerken in software die op deze manier gebouwd wordt, is dat relevant. Niet omdat er meteen iets misloopt, maar omdat de verantwoordelijkheid voor controle verschuift van de mens die elke stap goedkeurt naar een systeem dat zelf inschat wat riskant is. Wie met externe ontwikkelaars werkt, kan best gewoon navragen hoe die controle bij hen precies verloopt, en of er nog een mens meekijkt bij belangrijke wijzigingen.