Bedrijfsvoering
AWS toont geheugen voor AI-agenten via S3 Vectors, en Amazon wil 8 miljard aan chips buiten zijn balans
AWS beschrijft hoe AI-agenten onthouden wat ze eerder deden, terwijl Amazon acht miljard dollar aan Nvidia-chips buiten zijn boeken wil houden.
Op basis van AWS Machine Learning en ITdaily
Samengesteld met AI-assistentie uit de onderstaande bronnen, onder redactie van Frederiek Pascal. Hoe dit werkt
In het kort
- AWS toont hoe je Amazon S3 Vectors als langetermijngeheugen koppelt aan Nvidia's open source NeMo Agent Toolkit, met een investeringsonderzoek door meerdere agenten als voorbeeld.
- Volgens AWS kan één S3 Vectors-index tot 2 miljard vectoren bevatten, en betaal je alleen voor opslag, schrijfacties en zoekopdrachten, zonder wachtende rekenkracht.
- Het voorbeeld van AWS draait in een Amerikaanse regio (us-west-2), dus wie klantgegevens binnen de EU wil houden, moet dat zelf aanpassen en controleren.
- Amazon wil volgens de Financial Times acht miljard dollar aan Nvidia-chips door een externe investeerder laten overnemen en de capaciteit daarna terugleasen.
- Voor een Vlaamse kmo is geen actie nodig: dit is bouwmateriaal voor ontwikkelaars en financiële techniek van een cloudreus, maar het zegt iets over hoe AI-kosten ontstaan.
AWS, de clouddivisie van Amazon, heeft uitgelegd hoe je AI-agenten een blijvend geheugen geeft. Het gaat om Amazon S3 Vectors, een onderdeel van de opslagdienst Amazon S3, gekoppeld aan het NeMo Agent Toolkit van Nvidia. Los daarvan meldt ITdaily, op basis van de Financial Times, dat Amazon een investering van 8 miljard dollar in Nvidia-chips van zijn balans wil krijgen. Twee verhalen, één thema: wat het kost en hoe het werkt om AI op grote schaal te draaien.
Wat is een geheugen voor AI-agenten?
Een AI-agent is een programma dat zelfstandig taken uitvoert, bijvoorbeeld onderzoek doen of klantvragen afhandelen. Zonder geheugen begint hij elke keer opnieuw. Met een geheugen bewaart hij eerdere gesprekken, voorkeuren van gebruikers en opgedane kennis, en haalt hij die later weer op.
Het NeMo Agent Toolkit van Nvidia is open source software om zulke agenten te bouwen, te meten en te verbeteren. Volgens AWS werkt het samen met bestaande bouwpakketten zoals LangChain en CrewAI. Het heeft een eigen geheugenmodule met vier ingebouwde opties: Mem0, MemMachine, Redis en Zep. AWS beschrijft hoe een ontwikkelaar daar een vijfde optie aan toevoegt, gebaseerd op S3 Vectors.
Het voorbeeld in de blog is een groep agenten die samen beleggingsonderzoek doet. Een slimme functie slaat berichten van gebruikers en antwoorden van de agent automatisch op. Voor elk nieuw antwoord haalt ze de relevante herinneringen erbij. De taalmodellen hoeven daar zelf niet om te vragen.
Wat belooft AWS over S3 Vectors?
AWS noemt vijf eigenschappen die S3 Vectors geschikt maken als geheugen. Het gaat om bewering van de leverancier, onafhankelijke metingen staan niet in de bron.
- Zoeken op betekenis in plaats van op exacte woorden.
- Extra labels per herinnering, zodat je kunt filteren op bijvoorbeeld gebruiker of agent.
- Directe zichtbaarheid: een herinnering is meteen vindbaar nadat ze is opgeslagen, wat telt als meerdere agenten samenwerken.
- Tot 2 miljard vectoren per index, zonder dat je capaciteit vooraf moet plannen.
- Betalen voor opslag, schrijfacties en zoekopdrachten, zonder rekenkracht die ongebruikt klaarstaat.
Daarnaast zijn toegangsrechten in te stellen per opslagruimte en per index. Wie meerdere klanten bedient, kan per klant een aparte index aanmaken voor strikte scheiding. Dat laatste is voor een bureau of softwarebedrijf dat met klantgegevens werkt een relevant detail.
Wat ontbreekt: de blog noemt geen prijzen, geen vergelijking met de vier bestaande opties en geen klantcijfers. Je weet dus niet of dit goedkoper of beter is dan wat nu al beschikbaar is. De blog is bovendien geschreven voor ontwikkelaars, met programmeercode en een opzet op een Kubernetes-cluster, een technisch systeem om software te laten draaien. Een zaakvoerder zet dit niet zelf op.
Wat doet Amazon met zijn Nvidia-chips?
Amazon zoekt volgens de Financial Times een externe investeerder die Grace Blackwell-chips van Nvidia ter waarde van 8 miljard dollar overneemt. Amazon huurt die capaciteit dan terug. Het vehikel van die investeerder zou ook in de VS gevestigd zijn. De uitgave verdwijnt daardoor van de balans en wordt een lopende kost. ITdaily noemt dit een boekhoudkundig kunstje dat de balans mooier moet maken en de kredietwaardigheid ten goede komt. Dat is de lezing van ITdaily, Amazon zelf is in de bron niet aan het woord.
Het bedrag is klein vergeleken met het geheel: ITdaily schrijft dat Amazon dit jaar ongeveer 220 miljard dollar investeert, vooral in AWS en AI-datacenters. Cloudbedrijven zoeken volgens de site meer creatieve manieren om dat geld te vinden, zoals eigen obligaties. Nvidia wil een deel van de schulden van zijn eigen klanten garanderen. ITdaily ziet daarin een kringloop waarin Nvidia met geld van die klanten garant staat voor de lening van datzelfde geld.
De site wijst er ook op dat de cloudreuzen datacenters bouwen voor een vraag die zich nog moet ontwikkelen. Of dat terecht is, kunnen de bronnen niet zeggen.
Hoe hangen beide verhalen samen?
De link zit in de kosten van AI. Wat AWS als gebruiksvriendelijk betalen per opslag en zoekopdracht beschrijft, rust op chips en datacenters die miljarden kosten en op creatieve financiering. De bronnen zeggen niet dat dit tot hogere of lagere prijzen voor klanten leidt. Wie AI-diensten afneemt, doet er goed aan te blijven volgen wat leveranciers rekenen, in plaats van aan te nemen dat de prijs altijd daalt.
Wat betekent dit voor jou
Waarom dit je AI-budget nu niet verandert
- Kmo's die standaard AI-tools gebruiken Geen actie nodig. Het geheugen voor agenten en de chipfinanciering raken je pas als een leverancier ze vertaalt in prijzen, en daar zeggen de bronnen niets over.
- Bedrijven die een eigen AI-assistent laten bouwen Vraag je ontwikkelaar waar het geheugen draait en wie erbij kan. Het AWS-voorbeeld staat in een Amerikaanse regio, en voor klantgegevens binnen de EU moet je dat bewust anders kiezen.
- Wie AI-abonnementen jaarlijks vernieuwt Cloudbedrijven investeren enorme bedragen in chips voor een vraag die zich nog moet ontwikkelen. Hou prijsverhogingen bij verlenging in de gaten en vergelijk vóór je automatisch verlengt.
Veelgestelde vragen
Wat is Amazon S3 Vectors?
Amazon S3 Vectors is een onderdeel van de opslagdienst Amazon S3 dat tekst opslaat als wiskundige vectoren, zodat je kunt zoeken op betekenis. AWS gebruikt het in zijn voorbeeld als blijvend geheugen voor AI-agenten. Volgens AWS betaal je enkel voor opslag, schrijfacties en zoekopdrachten.
Heeft mijn webshop of bureau iets aan dit geheugen voor AI-agenten?
Niet rechtstreeks. De blog van AWS is geschreven voor ontwikkelaars en bevat programmeercode. Het geheugen wordt interessant als jij of je leverancier een eigen AI-assistent laat bouwen die klanten of eerdere gesprekken moet onthouden. Voor standaardtools hoef je zelf niets te doen.
Blijven mijn gegevens in de EU als ik dit gebruik?
Dat zeggen de bronnen niet. Het codevoorbeeld van AWS gebruikt de Amerikaanse regio us-west-2. Een ontwikkelaar kan dat wellicht aanpassen, maar of alle onderdelen in Europa beschikbaar zijn, staat niet in de bron. Vraag dat dus expliciet na bij wie het voor je bouwt.
Wat is NVIDIA NeMo Agent Toolkit?
Het is open source software waarmee ontwikkelaars AI-agenten bouwen, meten en verbeteren. Volgens AWS werkt ze met bekende bouwpakketten zoals LangChain, LlamaIndex en CrewAI. Ze heeft ook een geheugenmodule waarin gesprekken, voorkeuren en kennis blijven bewaard tussen verschillende opdrachten van een agent.
Waarom wil Amazon een investering in Nvidia-chips van zijn balans halen?
Volgens ITdaily, dat de Financial Times aanhaalt, wil Amazon de chips door een investeerder laten kopen en dan terughuren. Daardoor staat het bedrag niet als investering in de boeken maar als lopende kost. ITdaily denkt dat dit de balans en kredietwaardigheid helpt. Amazon zelf reageert niet in de bron.
Bronnen
Volg Kunstbrein in Google
Zet Kunstbrein bij je voorkeursbronnen. Dan zie je het vaker bij het nieuws bovenaan je zoekresultaten en in de AI-antwoorden van Google.
Voeg toe als voorkeursbron (opent Google in een nieuw tabblad)