Bedrijfsvoering
Nvidia en Microsoft brengen Nemotron 3.5 naar Foundry en laten AI ook op eigen hardware draaien
Nvidia en Microsoft maken het makkelijker om open AI-modellen met eigen bedrijfsdata aan te passen, in de cloud of op eigen apparatuur.
Op basis van NVIDIA, TechCrunch, NOS Tech en Tweakers
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- Nvidia en Microsoft zetten de Nemotron 3.5-modellen in Microsoft Foundry, zodat bedrijven die open modellen met eigen gegevens kunnen bijsturen.
- Volgens Nvidia verbeterde EY de nauwkeurigheid met 55 procent en verlaagde het de kosten 15 keer ten opzichte van gesloten topmodellen, maar onafhankelijke cijfers ontbreken.
- Via Azure Local kunnen organisaties modellen dichter bij hun eigen gegevens laten draaien, wat telt voor wie klantgegevens onder eigen controle wil houden.
- Windows 365 Cloud PC's met zwaar grafisch werk zitten nu in een beperkte test, een openbare test volgt volgens Nvidia pas begin 2027.
- De aankondiging valt samen met onrust rond Nvidia: topman Jensen Huang stapte vorige week op, maar Microsoft-ceo Satya Nadella zegt vertrouwen te houden.
Nvidia en Microsoft hebben op de Microsoft Ignite-conferentie aangekondigd dat ze hun samenwerking uitbreiden. Het gaat om drie dingen: krachtigere chips in de Azure-cloud van Microsoft, open AI-modellen van Nvidia die je in Microsoft Foundry kunt aanpassen, en opties om AI op je eigen apparatuur te draaien. Voor een kmo is vooral het tweede en derde deel interessant.
Wat kondigen Nvidia en Microsoft precies aan?
Nvidia en Microsoft breiden hun aanbod uit op drie niveaus: de zwaarste cloudinfrastructuur, modellen die je kunt bijsturen, en AI op locatie. De bronnen komen bijna volledig van Nvidia zelf, dus de claims hieronder zijn die van Nvidia.
In de Azure-datacenters draaien volgens Nvidia nu systemen met de naam Vera Rubin NVL72. Dat zijn zeer krachtige computers, bedoeld voor het trainen en draaien van grote AI-modellen. Je koopt ze als kmo niet zelf, maar ze bepalen wat er straks achter de AI-diensten zit die je wel gebruikt. Nvidia verwijst naar testresultaten van de sector, waarin Azure het grootste schaalniveau haalde. Een onafhankelijke beoordeling daarvan zit niet in de bronnen.
Ook vertelt Nvidia dat beide bedrijven werken aan ‘confidential computing’ voor deze zware infrastructuur. Dat betekent dat gegevens en modellen beschermd blijven terwijl ze verwerkt worden. Klanten kunnen vooraf controleren of de omgeving betrouwbaar is voordat ze gevoelige gegevens vrijgeven. Het is een werk in uitvoering, geen afgerond product.
Wat is Nemotron 3.5 en wat kun je ermee?
Nemotron 3.5 is een reeks open AI-modellen van Nvidia die je via Microsoft Foundry kunt aanpassen aan je eigen taken. Open wil hier zeggen dat je het model zelf kunt bijsturen, niet dat het gratis is. Over prijzen zeggen de bronnen niets.
Microsoft biedt daarvoor een dienst aan waarbij Foundry de technische kant beheert. Jij richt je op je eigen gegevens, het beoordelen van antwoorden en het verbeteren van het gedrag van het model. Ook kun je eigen, al aangepaste modelversies laten draaien via Foundry Managed Compute.
De reeks bestaat uit verschillende modellen voor verschillende taken:
- Nemotron 3.5 Super is bedoeld voor agents die lang aan een opdracht werken, bijvoorbeeld bij programmeren, onderzoek of bedrijfsprocessen. Een agent is een AI die zelfstandig een reeks stappen uitvoert.
- Lightning is voor toepassingen die snel moeten antwoorden en andere programma’s moeten kunnen aansturen.
- Er zijn aparte modellen voor het terugvinden van informatie, het uitlezen van documenten en het herkennen van schadelijke inhoud.
- Bolt en Transcribe, dat spraak omzet naar tekst, komen volgens Nvidia binnenkort.
Wat leverde het bij EY op?
EY paste volgens Nvidia een Nemotron-model aan om inkoopgegevens van bedrijven te rangschikken. De nauwkeurigheid op de eigen testgegevens steeg met 55 procent en de kosten lagen 15 keer lager dan bij gesloten topmodellen, aldus Nvidia.
Dat is een sterk cijfer, maar lees het voorzichtig. Het komt uit het bericht van Nvidia, dat zelf belang heeft bij het succes. De bronnen geven niet aan met welk model EY vergeleek, hoe groot de testset was of wat de totale kosten waren. Het is ook één voorbeeld bij één groot bedrijf, voor één afgebakende taak. Het laat zien dat een kleiner, aangepast model goed kan scoren op een smalle taak. Het bewijst niet dat dit voor elke kmo goedkoper uitkomt.
Kan AI ook op je eigen apparatuur draaien?
Ja, Nvidia en Microsoft breiden de opties uit om modellen dichter bij je eigen gegevens te laten draaien, via Azure Local. Dat is een Microsoft-product om cloudachtige diensten op eigen locatie te gebruiken. Het uitgangspunt is dat organisaties zelf controle houden over hun infrastructuur.
Azure Local gaat ook krachtige Nvidia-videokaarten van hardwarepartners ondersteunen, en kleinere Nvidia-platformen voor industriële toepassingen zoals machinevisie en robots. Voor Windows-pc’s met Nvidia RTX Spark tonen beide bedrijven op Ignite demonstraties van taalmodellen die rechtstreeks op het toestel draaien.
Voor wie met zware grafische programma’s op een Cloud PC werkt, komen er Direct Stream-functies voor Windows 365. Die ondersteunen volgens Nvidia tot twee 4K-beelden van 60 beelden per seconde, ook over een zwakke verbinding. Er is een beperkte test waarvoor je je kunt inschrijven, de openbare test staat gepland voor begin 2027.
Wat zeggen de bronnen niet, en wat speelt er rond Nvidia?
De bronnen geven geen prijzen, geen beschikbaarheid per land en geen informatie over Europese datacenters. Of je deze diensten vanuit Vlaanderen zomaar kunt afnemen, en tegen welk tarief, moet je dus bij Microsoft navragen.
De aankondiging komt op een bewogen moment. Volgens TechCrunch stapte Nvidia-topman Jensen Huang vorige week op na 33 jaar, na berichten over zijn gedrag en contacten. Colette Kress is interim-ceo. Microsoft-ceo Satya Nadella zei op een evenement ‘veel vertrouwen’ te hebben in het Nvidia-team. De NOS meldde dat de beurskoers van Nvidia na het vertrek flink daalde. Over de gevolgen voor de producten zeggen de bronnen niets. Een Tweakers-podcast noemt daarnaast een grote Microsoft-storing, maar de beschikbare tekst geeft geen details.
Wat betekent dit voor jou
Wat dit verandert voor je keuze van AI-model
- Een kmo met een afgebakende, terugkerende taak Je hoeft niet automatisch het duurste topmodel te nemen. Een aangepast open model kan volgens Nvidia goedkoper zijn, maar laat eerst een proef met je eigen gegevens draaien voordat je op het cijfer van EY rekent.
- Een bedrijf met gevoelige klantgegevens Draaien op eigen locatie of afgeschermde verwerking kan een argument worden bij je keuze. Vraag je leverancier wel eerst waar de gegevens fysiek verwerkt worden, want de bronnen noemen niets over Europese beschikbaarheid.
- Een kmo die al op Microsoft draait Er is geen actie nodig. Het meeste is voor grote bedrijven en ontwikkelaars, en prijzen en voorwaarden voor Vlaanderen ontbreken nog. Volg het aanbod en wacht tot er concrete tarieven zijn.
Veelgestelde vragen
Wat is Microsoft Foundry?
Microsoft Foundry is het platform van Microsoft waar ontwikkelaars AI-modellen kiezen, aanpassen en in bedrijfsapplicaties inzetten. Het beheert de onderliggende infrastructuur voor je. Nvidia voegt daar nu zijn Nemotron 3.5-modellen aan toe. De bronnen geven geen prijzen of een beschrijving van de kosten voor kleine bedrijven.
Zijn open AI-modellen goedkoper dan ChatGPT of Claude?
Niet per definitie. Nvidia meldt dat EY met een aangepast open model 15 keer minder betaalde dan met gesloten topmodellen, voor één specifieke taak. Onafhankelijke vergelijkingen ontbreken in de bronnen, en over tarieven voor Nemotron in Foundry staat niets. Reken dus zelf na met je eigen werkvolume.
Kan ik AI draaien zonder mijn gegevens naar de cloud te sturen?
Gedeeltelijk. Azure Local laat organisaties modellen op eigen locatie draaien, en op pc's met RTX Spark kunnen taalmodellen rechtstreeks op het toestel werken. Voor wie de cloud toch gebruikt, werken Nvidia en Microsoft aan afgeschermde verwerking. Dat laatste is volgens het bericht nog in ontwikkeling.
Wanneer is Direct Stream voor Windows 365 Cloud PC's beschikbaar?
Er loopt nu een beperkte test waarvoor je je kunt aanmelden. De openbare test staat gepland voor begin 2027, volgens Nvidia. Het gaat om zware grafische toepassingen op een Cloud PC. Een datum voor de definitieve release geven de bronnen niet.
Verandert het vertrek van Jensen Huang iets aan deze plannen?
De bronnen zeggen daar niets over. Huang stapte volgens TechCrunch vorige week op, Colette Kress is tijdelijk ceo. Microsoft-ceo Satya Nadella zegt vertrouwen in het Nvidia-team te hebben. De NOS meldt dat de Nvidia-koers daalde. Over wijzigingen in producten of samenwerkingen is niets bekend.
Bronnen
- NVIDIA NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs 19 nov, 21:00
- TechCrunch Microsoft CEO Satya Nadella remains confident in Nvidia after Huang’s exit 19 nov, 00:17
- NOS Tech Recordbeursgang voor AI-bedrijf Anthropic, koers stijgt meteen met een derde 19 nov, 17:52
- Tweakers Video - Microsoft-storingen, multitools en Black Friday-data - Tweakers Podcast #453 19 nov, 06:00
- Tweakers .Geek - Microsoft-storingen, multitools en Black Friday-data - Tweakers Podcast #453 19 nov, 06:00
Volg Kunstbrein in Google
Zet Kunstbrein bij je voorkeursbronnen. Dan zie je het vaker bij het nieuws bovenaan je zoekresultaten en in de AI-antwoorden van Google.
Voeg toe als voorkeursbron (opent Google in een nieuw tabblad)