Amazon heeft een nieuw hulpmiddel vrijgegeven waarmee ontwikkelaars hun AI‑apps eenvoudiger naar Amazon’s eigen AI‑chip kunnen verplaatsen. Het hulpmiddel heet TorchNeuron en het doel is om programma’s die met PyTorch zijn geschreven op de Trainium‑chip te laten draaien zonder dat de code herschreven hoeft te worden. Dit kan de machtspositie van Nvidia op het gebied van AI‑hardware aantasten.

Wat is TorchNeuron en hoe werkt het?

TorchNeuron maakt gebruik van PyTorch (PyTorch: een gratis, open-source ontwikkelpakket voor AI waarvoor de broncode openbaar is). PyTorch wordt veel gebruikt om AI‑modellen te bouwen, te trainen en te laten draaien. Met TorchNeuron zegt Amazon dat je vaak maar één regel in de instellingen hoeft te veranderen om een PyTorch‑app op Trainium te laten draaien — geen grote aanpassingen aan de code.

Trainium is Amazon’s eigen chip voor AI‑werkzaamheden. Amazon stelt dat die chip geschikt is voor zowel training (training: het leerproces waarbij het model patronen uit data leert) als inference (inference: het uitvoeren van het getrainde model om bijvoorbeeld een vraag te beantwoorden). Omdat dezelfde chip beide taken kan doen en nauw is geïntegreerd met de rest van Amazon Web Services (AWS), verwacht Amazon dat gebruikers kosten kunnen besparen en makkelijker kunnen opschalen.

Waarom raakt dit Nvidia?

Nvidia werd jarenlang de standaardkeuze voor AI‑werk dankzij beide onderdelen: krachtige chips en de bijbehorende software. Die software heet CUDA (CUDA: de software-infrastructuur van Nvidia die programma’s op Nvidia‑hardware laat draaien). Ontwikkelaars die met PyTorch werken, vonden dat PyTorch meestal al was afgestemd op CUDA en Nvidia‑hardware. Daardoor raakte Nvidia diep ingebed in veel AI‑projecten.

Amazon probeert die afhankelijkheid te doorbreken. Naast TorchNeuron belooft Amazon ook code bij te dragen aan het hoofdproject van PyTorch om stukken te verwijderen die het framework automatisch aan Nvidia koppelen. Volgens Amazon is het doel om PyTorch meer hardware‑onafhankelijk te maken, zodat ontwikkelaars meer keuze hebben bij welke chips ze gebruiken.

Wat betekent dit voor AI‑startups en ontwikkelaars?

Amazon zegt dat overstappen naar Trainium niet alleen technisch makkelijk is, maar ook voordeel biedt doordat je direct de rest van AWS kunt gebruiken. AWS stelt dat dat praktisch is omdat:

• je niet afhankelijk bent van één gespecialiseerde compute‑leverancier;

• de infrastructuur voor productie en opschalen al op AWS aanwezig is;

• Trainium zowel training als inference op één platform mogelijk maakt, wat de totale kosten kan verlagen.

Amazon noemt als voorbeeld Deepgram, een aanbieder van spraak‑AI, die volgens AWS 70% meer audio per uitgegeven dollar verwerkt op productie‑niveau nadat ze naar Trainium migreerden.

Als jij een AI‑project hebt, kan dit betekenen dat je meer keuze krijgt voor hardware en cloudaanbieders. Voor sommige bedrijven kan overstappen naar Trainium goedkoper of handiger zijn; voor anderen blijft Nvidia of een andere aanbieder juist beter passen.

Mogelijke voordelen en onzekerheden

De mogelijke voordelen zijn duidelijk:

• meer keuze en minder leveranciers‑lock‑in;

• één platform voor training en inference kan eenvoud en kostenvoordeel geven;

• gemakkelijke overstap voor veel bestaande PyTorch‑apps.

Tegelijk zijn er onzekerheden:

• Nvidia heeft jaren geïnvesteerd in compatibiliteit en ondersteuning; die positie zomaar vervangen kost tijd;

• veranderingen in PyTorch moeten goed samenwerken met bestaande ecosystemen; onvoorziene configuratieproblemen zijn mogelijk;

• claims over kosten en prestaties hangen af van de concrete workloads en gebruikssituatie.

Conclusie

Met TorchNeuron zet Amazon een duidelijke stap om ontwikkelaars meer keuze te geven bij welke chips ze gebruiken. Door PyTorch‑compatibiliteit te bieden en code terug te geven aan het PyTorch‑project, probeert Amazon de automatische voorkeur voor Nvidia te verminderen. Of dat uiteindelijk leidt tot lagere kosten en minder afhankelijkheid van Nvidia hangt af van hoe soepel de technische overstap verloopt en hoe breed dit door ontwikkelaars wordt aangenomen.