General Compute, een jonge cloudpartij die zich richt op het draaien van AI‑modellen, heeft een lening van 400 miljoen dollar gekregen van investeerder Upper90. Uniek aan de deal is dat de lening deels gedekt wordt door speciaal gebouwde inference‑chips (chips voor het uitvoeren van al getrainde AI‑modellen). Dit zijn niet de dure chips die vaak nodig zijn om modellen te trainen, maar juist hardware die modellen snel en zuinig laat draaien.

Wat is er precies gebeurd?

General Compute bouwt een zogenaamde neocloud — een cloudomgeving die speciaal is ingericht voor AI‑werkloads, anders dan de algemene diensten van grote partijen zoals AWS of Azure.

Het bedrijf werkt met SN50‑chips van SambaNova, een chipmaker die steun krijgt van Intel. Deze SN50‑chips zijn ontworpen voor het uitvoeren van modellen. Ze verbruiken minder energie, hebben geen dure waterkoeling nodig en zijn daardoor makkelijker in veel datacenters te plaatsen. General Compute zegt dat deze chips tot 16 keer snellere uitvoering kunnen geven dan traditionele GPU‑gebaseerde clouds.

Upper90 verstrekte een lening van 400 miljoen dollar aan General Compute en gebruikte de SN50‑chips als onderpand. Dit kan de eerste keer zijn dat zulke inference‑chips expliciet als zekerheid voor een grote lening zijn ingezet.

Waarom is dit opvallend?

Traditioneel financieren banken vooral algemeen vastgoed, machines of voertuigen. Het financieren van chips is risicovoller, omdat hardware snel in waarde kan dalen. Toch zijn chip‑gedekte leningen de laatste jaren meer gebruikelijk geworden. In 2021 financierde Upper90 al GPU‑aankopen voor Crusoe. Later volgden andere partijen, en sommige bedrijven bouwden er zelfs een heel bedrijfsmodel op.

Het bijzondere aan deze deal is dat het niet om training‑hardware gaat, maar om uitvoeringshardware. Dat past bij een verschuiving in de markt: steeds meer bedrijven willen niet per se zelf grote modellen trainen. Ze willen betaalbaar en snel toegang tot modellen die al bestaan.

Waarom kiezen bedrijven en investeerders hiervoor?

Er spelen een paar duidelijke redenen:

• Kosten: het draaien van grote, nieuwe taalmodellen is duur. Goedkopere alternatieven voor uitvoering zijn aantrekkelijk.

• Praktisch: inference‑chips (chips voor het uitvoeren van getrainde AI‑modellen) zijn energiezuiniger en makkelijker te installeren dan sommige GPU‑setups die zware koeling vragen.

• Diversificatie: er komen steeds meer chipmakers naast Nvidia, zoals Groq en Cerebras. Dit geeft leveranciers meer keuzemogelijkheden en kan de prijsdruk verhogen.

• Open modellen: er is groeiende interesse in open‑source modellen (open‑source (openbaar beschikbaar en vrij te gebruiken) betekent dat het model en de code voor iedereen toegankelijk zijn). Zulke modellen kun je vaak goedkoper draaien op gespecialiseerde hardware dan de nieuwste commerciële modellen.

Deze factoren zorgen ervoor dat kapitaal zich langzaam heroriënteert. Investeerders zoeken naar manieren om te profiteren van de groei van AI, maar met minder risico op oververhitte prijzen voor trainings‑GPU’s.

Wat betekent dit voor de branche?

Als meer financiers leningen accepteren met inference‑chips als onderpand, kan dat de opkomst van gespecialiseerde AI‑clouds versnellen. Enkele gevolgen:

• Meer neoclouds die zich richten op uitvoering in plaats van training.

• Grotere rol voor chipmakers buiten het Nvidia‑ecosysteem.

• Lagere kosten voor bedrijven die AI‑toepassingen willen inzetten, omdat uitvoering goedkoper wordt.

Er zijn al voorbeelden van vergelijkbare bewegingen. Bedrijven die toegang bieden tot open modellen, zoals OpenRouter en Fireworks, krijgen nieuwe investeringen. Ook verschijnen nieuwe modellen die op bepaalde taken goed concurreren met commerciële aanbieders. En sommige infrastructuurspelers, zoals TensorWave, zetten in op partnerships met andere chipfabrikanten zoals AMD.

General Compute zelf kreeg eerder dit jaar al een seed‑investering van 15 miljoen dollar om zijn neocloud op te bouwen met SambaNova‑silicon. Voor een jong bedrijf is het moeilijk om snel veel van zulke chips te bemachtigen. De lening van Upper90 helpt daarbij en laat zien dat kapitaal zich organiseert rond deze nieuwe infrastructuurbehoefte.

Conclusie

De lening van 400 miljoen dollar aan General Compute is meer dan een groot bedrag; het is een signaal. Investeerders beginnen niet alleen in GPU’s voor training te geloven, maar ook in gespecialiseerde hardware voor uitvoering. Dat past bij een markt die zoekt naar goedkopere en praktischere manieren om AI in te zetten, vooral voor modellen die al bestaan of publiek beschikbaar zijn.

Als deze trend doorzet, kan dat leiden tot meer concurrentie naast Nvidia, meer gespecialiseerde AI‑clouds en lagere kosten voor bedrijven die AI willen gebruiken. Voor gebruikers betekent dit vaker snellere en goedkopere toegang tot slimme tools zonder dat ze zelf dure supercomputers hoeven te kopen.