OpenAI toont eigen AI-chip Jalapeño, belooft snellere en goedkopere AI-diensten

OpenAI heeft op de chipconferentie Hot Chips voor het eerst gedetailleerde testresultaten gedeeld van Jalapeño, de eigen chip die het bedrijf samen met chipontwerper Broadcom heeft ontwikkeld. De chip is niet bedoeld om AI-modellen te trainen, maar om ze te laten draaien: het zogenoemde ‘inferentie’-werk dat gebeurt elke keer als iemand een vraag stelt aan een chatbot of AI-tool. Volgens OpenAI doet Jalapeño dat werk sneller en met minder stroom dan de beste chips die nu op de markt zijn.

Wat claimt OpenAI precies?

OpenAI zegt dat Jalapeño 1,5 tot 1,9 keer meer rekenwerk per kilowatt aan stroom levert dan Nvidia’s Blackwell-chips, en dat antwoorden 1,7 tot 3,6 keer sneller terugkomen. Bij testen waarbij snelheid vooral telt, zoals een chatgesprek, zou de chip zelfs twee tot vier keer beter scoren. De tests liepen op InferenceX, een benchmark van onderzoeksbureau SemiAnalysis, met drie verschillende opensource AI-modellen.

Belangrijk om te weten: die cijfers komen van OpenAI zelf. SemiAnalysis heeft een deel van de testen ter plekke gecontroleerd, maar niet de volledige benchmark zelf uitgevoerd. Het bureau erkent dat de chip indruk maakt, maar wijst er ook op dat de vergelijking vooral met Blackwell gebeurde, een chip die intussen al enkele jaren oud is. Een eerlijkere vergelijking zou met Nvidia’s nieuwere Rubin-platform zijn, dat dezelfde geheugentechniek gebruikt. Ook daar zou Jalapeño nog beter scoren op stroomverbruik, al is het op totale kostprijs per antwoord ongeveer gelijk.

Waarom bouwt OpenAI zelf chips?

Omdat het bedrijf zo veel rekenkracht nodig heeft dat het niet volledig wil afhangen van één leverancier. OpenAI werkt al langer nauw samen met Nvidia, maar ook met AMD, Amazon en anderen. Door zelf chips te ontwerpen, kan het bedrijf chip, geheugen en software op elkaar afstemmen, wat volgens OpenAI helpt om vertragingen te vermijden tijdens het verwerken van een vraag. Opvallend is dat OpenAI zijn eigen AI-modellen inzette om het ontwerp van de chip te versnellen: oudere modellen hielpen bij het ontwerp, nieuwere bij de programmering. Het hele traject, van eerste ontwerp tot productieklare tekening, duurde ongeveer negen maanden.

OpenAI benadrukt zelf dat Jalapeño geen vervanging is voor Nvidia, maar een aanvulling. Het bedrijf blijft chips van Nvidia en AMD gebruiken, onder meer voor het trainen van nieuwe modellen, iets waarvoor Jalapeño niet is ontworpen.

Wanneer komt de chip er echt?

Jalapeño zou eind 2026 beschikbaar komen, maar dan nog in heel beperkte hoeveelheden. Een echte, grootschalige uitrol volgt volgens OpenAI pas in 2027. Tot dan blijft de chip vooral iets van testopstellingen en beperkte proefprojecten, niet van dagelijkse dienstverlening. Nvidia’s concurrerende Rubin-chips worden intussen al wel aan klanten geleverd, wat betekent dat de vergelijking tegen de tijd dat Jalapeño op grotere schaal draait, opnieuw kan verschuiven.

Betekent dit iets voor de prijs van AI-tools?

Niet meteen. Chips die efficiënter werken, kunnen op termijn de kostprijs van AI-diensten drukken, omdat rekenkracht een van de grootste kostenposten is voor bedrijven als OpenAI. Maar dat effect zit ten vroegste in 2027, en enkel als de chip ook op grote schaal betrouwbaar blijkt te werken buiten een testlab. Voor nu blijft dit vooral nieuws over de onderliggende technologie-industrie, niet over wat een abonnement op een AI-tool morgen kost.