OpenAI verlaagt prijs van goedkoopste AI-model met 80 procent

OpenAI heeft op 30 juli de prijzen van twee van zijn AI-modellen fors verlaagd. Het goedkoopste model, Luna, wordt 80 procent goedkoper. Het middenmodel Terra gaat 20 procent naar beneden. Het duurste en krachtigste model, Sol, blijft even duur als voorheen.

Deze modellen zitten niet rechtstreeks in de ChatGPT-app die de meeste mensen kennen. Het zijn de bouwstenen waarmee ontwikkelaars en bedrijven eigen AI-toepassingen maken: chatbots, tools die klantenmails sorteren, of software die teksten samenvat. Wie zo’n toepassing via een leverancier of bureau gebruikt, kan op termijn baat hebben bij de goedkopere prijzen, ook al merk je er als eindgebruiker zelf niets van.

Wat kost het nu precies?

Luna kost voortaan 0,20 dollar per miljoen ingevoerde tekens en 1,20 dollar per miljoen gegenereerde tekens. Dat is aanzienlijk minder dan voorheen. Terra komt uit op 2 dollar voor invoer en 12 dollar voor uitvoer per miljoen tekens, een daling van 20 procent.

Deze modellen zijn bedoeld voor verschillende taken. Sol is het krachtigste model, gemaakt voor complexe redeneertaken en programmeerwerk. Terra is het model voor gewone dagelijkse toepassingen. Luna is het lichtste en snelste model, geschikt voor taken die je in grote hoeveelheden herhaalt, zoals het classificeren van tickets of het samenvatten van documenten. Net dat laatste model werd het meest goedkoper, omdat het net op die hoogvolume-taken concurreert met vergelijkbare goedkope modellen van andere bedrijven.

Volgens techwatcher Simon Willison is Luna daardoor nu goedkoper dan Google’s vergelijkbare instapmodel en dan het goedkoopste model van Anthropic. Onafhankelijke prijsvergelijkingen van andere bronnen dan deze techwatcher zijn er niet, dus die vergelijking komt voorlopig van één waarnemer, niet van een neutrale meting.

Waarom kan OpenAI de prijs zomaar verlagen?

OpenAI zegt dat het krachtigste model, Sol, is ingezet om de eigen rekencentra efficiënter te maken. Sol zou zelf de software hebben herschreven die berekeningen binnen de modellen uitvoert, wat volgens OpenAI de kosten om de modellen te laten draaien met 20 procent verlaagde. Daarnaast zou een techniek die tekst sneller genereert de snelheid met meer dan 15 procent hebben verbeterd.

Daarnaast speelt concurrentiedruk mee. Goedkope Chinese aanbieders duwen de prijzen van AI-modellen wereldwijd naar beneden, en ook Microsoft promoot intussen actief eigen, goedkopere gespecialiseerde modellen als alternatief voor OpenAI’s aanbod. Die prijzenoorlog kan op termijn de omzetgroei van de grote AI-bedrijven onder druk zetten, zeker omdat ze tegelijk enorme bedragen investeren in nieuwe rekencentra.

Verandert dit iets aan de manier waarop bedrijven de modellen gebruiken?

Ja, voor wie AI-taken op grote schaal automatiseert. Naast de prijsverlaging voerde cloudleverancier Amazon Bedrock, waar deze modellen ook via draaien, een functie in die “prompt caching” heet. Daarmee kan een bedrijf een vast stuk tekst, bijvoorbeeld instructies of een kennisbank die telkens wordt hergebruikt, laten onthouden door het systeem. Herhaald gebruik van dat stuk tekst kost dan 90 procent minder dan wanneer het telkens opnieuw wordt verwerkt.

Dat is vooral relevant voor toepassingen waarbij dezelfde instructies keer op keer worden meegestuurd, zoals een klantenservicebot die telkens dezelfde bedrijfsrichtlijnen raadpleegt. Voor een eenmalige vraag of een klassiek gesprek met ChatGPT maakt dit weinig verschil.

Ook het opensourcecommandolijnprogramma llm, gebruikt door ontwikkelaars om modellen te testen, stapte over: het standaardmodel voor gebruikers die niets zelf instellen, is voortaan Luna in plaats van een ouder, goedkoper model. Dat toont dat de prijsdaling het nieuwe model aantrekkelijk genoeg maakt om als standaardkeuze te gelden, ook al is het iets duurder dan het oudste alternatief.

Wat zeggen de bronnen niet?

Geen van de bronnen geeft cijfers over hoeveel Vlaamse of Belgische bedrijven deze modellen rechtstreeks gebruiken, en er is geen onafhankelijke meting van hoeveel de daadwerkelijke rekening van een gemiddeld bedrijf daalt. De vergelijking met concurrenten komt van één techwatcher, niet van een neutrale prijsanalyse. Wie via een tussenpartij werkt, zoals een marketingbureau of een SaaS-tool die op deze modellen draait, weet dus niet automatisch of en wanneer die besparing wordt doorgerekend.