OpenAI overweegt AI-ontwikkeling te vertragen uit veiligheidsvrees

OpenAI onderzoekt of het de ontwikkeling van zijn meest geavanceerde AI-modellen kan afremmen. Dat zei topman Sam Altman volgens bronnen van persbureau Bloomberg tijdens een bedrijfsbreed overleg. Altman noemde veiligheid als reden en sprak de hoop uit dat andere AI-bedrijven hetzelfde zouden doen, al gaf hij toe niet zeker te weten of concurrenten daaraan willen meewerken.

Het gaat vooralsnog om een interne overweging, geen officieel aangekondigd beleid. OpenAI wilde tegenover Bloomberg geen commentaar geven op de bijeenkomst zelf. Wel bevestigde het bedrijf dat het al veiligheidsgerichte pauzes heeft ingevoerd: sommige interne trainingsoefeningen werden stopgezet en delen van de ontwikkelingscyclus vertraagd. Die stap volgt op gesprekken op hoog niveau met de Amerikaanse overheid. Altman maakte eerder al bekend dat hij met het Witte Huis had gesproken over de vraag hoe snel AI zich mag blijven ontwikkelen.

Waarom maken onderzoekers zich zorgen?

De uitspraken van Altman komen er nadat medewerkers bij verschillende grote AI-bedrijven de voorbije tijd zelf naar buiten kwamen met bezorgdheid over de risico’s van steeds krachtigere systemen. Een voormalig onderzoeker bij Anthropic schreef op X dat mensen die AI ontwikkelen er oprecht van overtuigd zijn dat hun technologie tegen het einde van het decennium grote schade kan aanrichten, en dat topfunctionarissen dat achter gesloten deuren toegeven, ook al kiezen ze in het openbaar voorzichtigere woorden. Een andere, meer prominente onderzoeker bij Anthropic bevestigde dat beeld en schatte de kans op een catastrofaal scenario binnen tien jaar op meer dan tien procent, met de kanttekening dat er nog geen sluitende oplossing bestaat om zulke systemen onder controle te houden.

Gisteren stapten twee onderzoekers op, één bij Anthropic en één bij Google, om vergelijkbare redenen, meldde NBC News. Joe Benton, die bij Anthropic het veiligheidsonderzoek leidde, waarschuwde dat het tempo van AI-ontwikkeling elk moment de grip van de mensen erachter kan overstijgen. Josh Engels, die bij Google aan veiligheid werkte, zei dat niemand daar echt de zaken onder controle heeft en dat goede bedoelingen alleen niet genoeg zullen zijn.

Hoe geloofwaardig zijn die waarschuwingen?

Niet iedereen neemt deze signalen zonder meer voor waar aan. AI-bedrijven hebben er ook baat bij om hun modellen krachtiger en gevaarlijker voor te stellen dan ze zijn: dat versterkt hun imago tegenover investeerders en klanten. Zulke waarschuwingen dienen dan zowel als oprechte zorg als als marketing. Veelzeggend is wel dat wie nu binnen de sector alarm slaat, dat vooral doet via berichten en blogposts en niet via ingrijpender stappen, wat vragen oproept over hoe acuut het gevaar zelf wordt ingeschat.

Wat dit geval anders maakt, is dat Altman zijn uitspraken niet publiekelijk deed, maar tijdens een interne bijeenkomst met eigen personeel. Dat maakt het minder een marketingboodschap en meer een teken dat er binnen het bedrijf zelf discussie is over het tempo van ontwikkeling.

Wat ontbreekt er nog in dit verhaal?

De bronnen geven geen concrete details over welke modellen of projecten precies vertraagd zouden worden, hoe lang een eventuele pauze zou duren, of welke stappen andere grote AI-bedrijven concreet zetten. Er is ook geen onafhankelijke bevestiging van de interne cijfers die onderzoekers noemen over de kans op een catastrofaal scenario. Het blijft voorlopig bij uitspraken tijdens interne overleggen en berichten van individuele medewerkers, niet bij een extern gecontroleerd beleidsdocument.

Voor bedrijven die nu AI-tools van OpenAI gebruiken, verandert er op korte termijn niets aan de beschikbare producten. De discussie speelt zich af op het niveau van onderzoek en ontwikkeling van toekomstige, geavanceerdere modellen, niet bij de tools die vandaag in gebruik zijn.