Google en Amazon maakten recente stappen om de macht van Nvidia in de wereld van kunstmatige intelligentie (AI) te verkleinen. Ze brengen elk een versie van PyTorch uit waarmee ontwikkelaars hun modellen eenvoudiger op alternatieve chips en in andere cloudomgevingen kunnen draaien.

Wat is PyTorch en wat is er veranderd?

PyTorch is het veelgebruikte gereedschap dat ontwikkelaars gebruiken om AI-modellen te bouwen, trainen en te draaien. Het wordt door veel teams en start-ups als standaard gekozen. PyTorch werkte van oorsprong goed samen met de chips van Nvidia, omdat die al jaren de norm waren voor AI-onderzoek.

Google heeft nu TorchTPU vrijgegeven als open-source (open-source: de broncode is openbaar en vrij te gebruiken). Daarmee kunnen PyTorch-apps draaien op de eigen AI-chips van Google, de Tensor Processing Units ofwel TPUs. Volgens Google is verplaatsen van bestaande PyTorch-apps naar TPUs vaak een kwestie van een eenvoudige configuratie, zonder dat de app herschreven hoeft te worden.

Amazon bracht tegelijk TorchNeuron uit, een eigen PyTorch-versie die het mogelijk maakt om AI-apps te verplaatsen naar hun eigen chip Trainium en naar AWS, ook zonder herschrijven.

Waarom doen ze dit?

De meeste AI-modellen en -apps zijn tot nu toe standaard geschreven voor Nvidia-chips. Daardoor heeft Nvidia een groot voordeel: veel tools en code zijn op die hardware afgestemd. Google en Amazon proberen die afhankelijkheid te verminderen. Door PyTorch toegankelijk te maken voor hun chips hopen ze dat ontwikkelaars gemakkelijker kunnen kiezen voor Google Cloud of AWS in plaats van voor Nvidia-hardware.

Belangrijke elementen in die aanpak zijn:

• Mogelijkheid om bestaande PyTorch-apps eenvoudig over te zetten zonder complete herschrijving.

• Bijdragen aan de hoofdversie van PyTorch (zoals Amazon doet) om functies minder afhankelijk te maken van één type chip.

• Samenwerking en testen met bekende AI-tools en bibliotheken zodat alles soepel werkt.

Wat heeft Google extra gedaan?

Google heeft meer dan alleen de basiscode vrijgegeven. Het werkte samen met enkele grote partijen in de AI-wereld om te zorgen dat TorchTPU goed aansluit op bestaande tools en bibliotheken. Daarbij waren onder andere Meta, Hugging Face, en makers van bepaalde modelrunners betrokken.

Daarnaast lanceerde Google de TPU agent suite, een verzameling hulpmiddelen om ontwikkelaars te helpen hun apps naar TPUs en Google Cloud te verplaatsen en onderweg fouten op te lossen. Google verbeterde ook LiteRT, een tool die AI op telefoons, laptops en ingebedde apparaten draait, zodat die beter samenwerkt met PyTorch-apps.

Wat betekent dit voor ontwikkelaars en bedrijven?

Voor ontwikkelaars maakt het verplaatsen naar andere chips makkelijker. Dat heeft praktische voordelen:

• Minder tijd en kosten bij het porten van modellen.

• Meer keuze in onderliggende hardware en cloudaanbieders.

• Minder risico dat één leverancier de hele markt bepaalt.

Amazon gaat nog verder door code bij te dragen aan PyTorch die functies ontkoppelt van Nvidia-chips. Dat kan op de lange termijn zorgen dat PyTorch standaard beter werkt op allerlei soorten hardware.

Toch betekent dit niet dat iedereen meteen overstapt. Veel teams hebben al geïnvesteerd in Nvidia-hardware en -tooling. Ook is de keuze voor hardware vaak ingegeven door prestaties, kosten en bestaande infrastructuur.

Conclusie

Google en Amazon zetten met TorchTPU en TorchNeuron een duidelijke stap om de afhankelijkheid van Nvidia te verminderen. Ze maken het ontwikkelaars makkelijker om AI-apps naar hun chips en cloudomgevingen te verplaatsen, en ondersteunen dat met extra hulpprogramma's en samenwerkingen.

Of dit op korte termijn leidt tot een massale overstap van Nvidia is nog onzeker. Wel groeit de keuzevrijheid voor ontwikkelaars, en dat kan de concurrentie op termijn groter maken en de mogelijkheden voor bedrijven uitbreiden.