Naar de hoofdinhoud
Kunstbrein, AI-nieuws met duiding
20 november 2026
Terug naar het nieuws

Bedrijfsvoering

SageMaker Inference deelt één GPU nu op in aparte stukken, zodat AI-modellen minder rekenkracht verspillen

AWS laat je één dure AI-chip opdelen in maximaal zeven afgeschermde delen, zodat meerdere modellen de kosten van één chip delen.

Op basis van AWS Machine Learning en Business AM

5 min lezen 2 bronnen

Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt

In het kort

  • Amazon SageMaker kan één GPU opdelen in maximaal zeven afgeschermde partities, elk met eigen rekenkracht en geheugen, zodat meerdere AI-modellen één chip delen.
  • Volgens AWS maakt de opdeling het mogelijk meer modellen te draaien dan je chips hebt, zonder dat ze elkaar vertragen of laten crashen.
  • Als Vlaamse kmo zonder eigen AI-modellen merk je hier niets van, tenzij je softwareleverancier die zelf modellen host en de besparing doorgeeft.
  • Over werkelijke besparingen bij klanten geeft de bron geen onafhankelijke cijfers, alleen een Salesforce-verklaring die toekomstige validatie aankondigt.

Wat dit voor jou betekent

Amazon Web Services (AWS) laat klanten van SageMaker Inference, de dienst om AI-modellen draaiende te houden, een fysieke GPU nu opdelen in aparte partities. Een GPU is de dure chip waarop AI-modellen draaien. Tot nu toe kon je alleen een hele chip huren, ook als je model maar een klein deel gebruikte. Dat staat in een blog van AWS zelf, en de claims over voordelen komen dus van de leverancier.

Wat verandert er concreet?

Je kunt één chip splitsen in maximaal zeven stukken, afhankelijk van het type chip. Elk stuk krijgt een vast deel van de rekenkracht en een eigen blok geheugen. De scheiding gebeurt in de hardware, niet in software. Volgens AWS kan je daardoor in elk stuk een ander model plaatsen, of een deel van een nieuwere chip kiezen in plaats van een hele.

AWS geeft een voorbeeld. Een server met acht chips van het type A100 kon tot nu toe acht modellen hosten, ongeacht of elk model 40 GB of 14 GB geheugen nodig had. Met de opdeling kan dezelfde server er 24 draaien in een voorbeeldindeling met drie partities per chip.

Waarom zou dit geld besparen?

Het probleem was dat je betaalde voor capaciteit die je niet gebruikte. Een klein model op een hele chip laat veel rekenkracht liggen. Wie meerdere modellen deelt over één chip, verdeelt dezelfde rekening over meer toepassingen.

AWS somt de voordelen op: voorspelbare reactietijd, omdat een drukke toepassing de andere niet vertraagt. Een fout blijft binnen zijn eigen partitie. Elk model blijft geladen, zonder wachttijd bij het eerste gebruik. En omdat het geheugen per partitie is afgeschermd, zouden veiligheids- en nalevingscontroles eenvoudiger worden. De kosten per model, team of klant zijn ook makkelijker toe te wijzen.

Er zijn grenzen. De indeling kies je bij het aanmaken van het eindpunt en kan daarna niet zomaar wijzigen. Een model dat meer dan één chip nodig heeft, vraagt nog altijd hele chips. De functie werkt ook niet op alle soorten eindpunten: enkelvoudige modellen en serverloze varianten vallen erbuiten. AWS meldt dat het opdelen bij de opstart ongeveer 17 seconden extra kostte in eigen tests.

Wat zeggen de bronnen niet?

Er zijn geen onafhankelijke cijfers over besparingen. AWS belooft lagere kosten, maar noemt geen bedrag. Salesforce, een partner in de ontwikkeling, zegt dat de techniek kosten kan drukken. Het bedrijf formuleert dat in de voorwaardelijke wijs en kondigt aan de oplossing nog te valideren met echte productiewerkdruk. Dat is een intentie, geen resultaat.

Ook over prijzen en over beschikbaarheid in Europese datacenters zegt de bron niets. Voor wie klantgegevens binnen de EU wil houden is dat een open vraag.

Is er ook een andere kant aan AI-infrastructuur?

Een tweede bron, Business AM, schetst de bredere context. Techbedrijven zoals Microsoft, Google, Amazon, Meta, Nvidia, Oracle en Anthropic werken samen met milieugroepen in het Responsible Data Center Collaborative aan nationale normen voor datacenters in de VS. Het Internationaal Energieagentschap zegt dat het elektriciteitsverbruik van datacenters in 2025 met 17 procent steeg en tegen 2030 bijna verdubbelt tot 950 terawattuur. Efficiënter gebruik van dure chips past in dat plaatje, al verbindt geen van beide bronnen de opdeling van GPU’s met energiebesparing.

Wat betekent dit voor jou

Waar je AI-kosten echt vandaan komen

  • Kmo's die kant-en-klare AI-diensten gebruiken Er is geen actie nodig. Deze functie is bedoeld voor wie zelf AI-modellen host. Je merkt hooguit later iets in de prijs van je leverancier, en dat is nu niet aangekondigd.
  • Bedrijven met eigen of laten gebouwde AI-modellen op AWS Vraag je IT-partner of het aantal modellen op één chip kan stijgen en wat dat per maand scheelt. Vraag ook of de gekozen datacenters binnen de EU liggen, want daar zegt de bron niets over.

Veelgestelde vragen

Wat is GPU-partitionering bij AWS SageMaker?

Het is een manier om één fysieke AI-chip te splitsen in afgeschermde delen. Elk deel krijgt een vast aandeel rekenkracht en geheugen, en draait een eigen model. AWS gebruikt hiervoor de techniek Multi-Instance GPU van Nvidia, die in de hardware zelf scheidt.

Hoeveel modellen kan ik op één GPU draaien?

Dat hangt af van de chip, met een maximum van zeven partities per chip. Bij sommige nieuwere chips zijn het er twee of vier. AWS geeft een voorbeeld waarin een server met acht chips 24 partities levert in plaats van acht modellen.

Heeft mijn webshop of bedrijf hier iets aan?

Alleen indirect. Gebruik je een kant-en-klare AI-dienst, dan hoef je niets te doen. Host je zelf meerdere eigen modellen op AWS, dan kan dit je rekenkosten verlagen. Of een leverancier de besparing doorgeeft aan jou, valt uit de bronnen niet af te leiden.

Kan ik de indeling later nog aanpassen?

Niet zomaar. Volgens AWS laat de techniek alleen wijzigingen toe als de partities inactief zijn, en bij SageMaker kies je de indeling bij het aanmaken van het eindpunt. Wie later een andere verdeling wil, moet dus plannen of opnieuw opzetten.

Is er al bewezen hoeveel je bespaart?

Nee, de bronnen geven geen onafhankelijke cijfers. AWS noemt voordelen maar geen bedrag, en Salesforce spreekt in de voorwaardelijke wijs en moet de oplossing nog valideren met echte werkdruk. Reken dus niet op een vast besparingspercentage.

Bronnen

Deel dit artikel

Volg Kunstbrein in Google

Zet Kunstbrein bij je voorkeursbronnen. Dan zie je het vaker bij het nieuws bovenaan je zoekresultaten en in de AI-antwoorden van Google.

Voeg toe als voorkeursbron (opent Google in een nieuw tabblad)

Nieuwsbrief

Nieuwsbrief: wil je dinsdag en vrijdag het belangrijkste AI-nieuws in je mailbox?

Een selectie met bij elk stuk de duiding: wat verandert dit voor jouw zaak?

Uitschrijven kan met één klik onderaan elke mail. Zie ook Privacy en cookies.