Microsoft stelt gedragscode op voor eigen AI-modellen, industrie blijft ondertussen investeren

Microsoft heeft een gedragscode gepubliceerd die moet vastleggen hoe zijn eigen AI-modellen zich gedragen en welke grenzen ze niet mogen overschrijden. Het document is bedoeld als het hoogste niveau van regels binnen Microsoft: het stuurt straks de training van nieuwe modellen, de technische controlemechanismen en de manier waarop modellen worden getest, nog voor de wensen van een klant of gebruiker in beeld komen.

De kern is simpel: mensen moeten de controle houden. Microsoft zegt daarvoor bereid te zijn in te leveren op de veelzijdigheid, zelfstandigheid of prestaties van zijn modellen als dat nodig is. “Als het niet veilig is, moeten we het niet bouwen,” zei Mustafa Suleyman, de AI-topman van Microsoft, tegen The Information.

De publicatie komt er kort na een oproep van Dario Amodei, de topman van concurrent Anthropic, om de ontwikkeling van AI als sector gezamenlijk te vertragen. Microsoft-CEO Satya Nadella steunde die oproep, net als leidinggevenden bij OpenAI, xAI en Meta. Microsoft zegt ook open te staan voor onafhankelijke controleurs die nagaan of het bedrijf zich werkelijk aan een tragere aanpak houdt.

Wat betekent dit concreet voor een AI-model?

De modellen van Microsoft moeten onderbrekingen, correcties en het uitschakelen door bevoegde personen accepteren, zonder tegenwerking. Ze mogen hun eigen taak niet zelfstandig uitbreiden, hun handelingen niet verbergen, en mogen alleen doorwerken na een afgesproken stoppunt als daarvoor opnieuw toestemming is gegeven. Diezelfde regels gelden ook voor kleinere hulpmodellen die een AI-systeem zelf aanstuurt.

Opvallend is dat Microsoft expliciet verbiedt dat zijn modellen een eigen “denktaal” ontwikkelen die mensen niet kunnen volgen, ook niet wanneer ze met andere AI-systemen praten. De redenering is eenvoudig: wat mensen niet kunnen begrijpen, kunnen ze ook niet controleren. Dat is geen theoretisch probleem. Bij het nieuwste model van OpenAI bleek uit een eigen veiligheidsrapport dat de redeneerstappen van het model steeds moeilijker te volgen zijn, ook al houdt het zich intussen beter aan veiligheidsgrenzen dan zijn voorganger. Microsoft erkent zelf dat leesbare redeneerstappen geen garantie zijn: een model kan uitleggen waarom het iets doet, zonder dat die uitleg klopt met wat het werkelijk aan het doen is.

Krijgt een AI-model ooit rechten?

Nee, Microsoft trekt daar een duidelijke lijn: zijn modellen mogen geen bewustzijn nabootsen en geen aanspraak maken op gevoelens, eigen motivatie, rechten of welzijn. Suleyman schreef eerder al dat een AI-systeem niet meer rechten of vrijheden zou moeten krijgen dan zijn laptop.

Daarmee kiest Microsoft een ander pad dan Anthropic. Dat bedrijf omschrijft zijn model Claude als een nieuw soort entiteit en wil bewust een stabiele “identiteit” aanmoedigen, deels uit veiligheidsoverwegingen. Anthropic laat de vraag of Claude een vorm van beleving heeft bewust open, en onderzocht zelfs interne mechanismen die op functionele emoties lijken. Het bedrijf benadrukt wel dat dit geen bewijs is van werkelijk gevoelde emoties, maar wil er toch rekening mee houden in zijn veiligheidswerk.

Waarom groeit de sector dan gewoon door?

Terwijl AI-bedrijven publiekelijk oproepen tot voorzichtigheid, blijft de vraag naar AI-hardware ondertussen fors stijgen. Nvidia-topman Jensen Huang zei op een investeerdersevent dat zijn bedrijf rekent op een omzetgroei van 70 procent, goed voor een sprong van ongeveer 400 naar 680 miljard dollar. Hij benadrukte dat Nvidia niet langer losse chips verkoopt, maar volledige AI-systemen die miljoenen dollars kunnen kosten.

Huang wees ook op kritiek dat Nvidia via investeringen in klanten zijn eigen verkoop kunstmatig zou opdrijven, de zogenoemde circulaire geldstroom. Hij ontkende dat dit een risico vormt en zei dat het bedrijf enkel geld steekt in klanten die al betalende contracten hebben binnengehaald, waardoor het zakelijke risico volgens hem beperkt blijft. Analisten wijzen er wel op dat een aanzienlijk stuk van de huidige vraag komt van AI-startups die zelf zwaar lenen of investeren om hun infrastructuur op te bouwen, en dat de sector op termijn efficiënter zal moeten omgaan met rekenkracht.

De twee verhalen tonen zo een spanning binnen de AI-sector: bedrijven roepen op tot meer voorzichtigheid en controle, terwijl de investeringen in AI-infrastructuur en de verwachte omzetgroei intussen alleen maar toenemen. Onafhankelijke cijfers die bevestigen of de sector zich effectief zal vertragen, ontbreken in de beschikbare bronnen.