Nvidia-oprichter en CEO Jensen Huang zei op het Dreamforce-congres van Salesforce dat kunstmatige intelligentie (AI) geen ongrijpbare, ‘buitenwereldse’ bedreiging is. Voor hem is het gewoon hardware en software, door mensen gemaakt en volgens hem dus ook door mensen te beheersen.

Huang: veiligheid is een technisch probleem

Huang stelde dat AI uiteindelijk een computersysteem is. Volgens hem hoort veiligheid daarom bij engineering te liggen, niet bij nieuwe wetten. Zijn kernpunten waren kort en duidelijk:

• Als bedrijven een product niet veilig vinden, moeten ze het niet uitbrengen.

• Marktkrachten zullen bedrijven dwingen zorgvuldig te handelen.

• Snelheid en veiligheid kunnen tegelijk bestaan: je kunt hard ontwikkelen, maar ook pauzeren wanneer dat nodig is.

Hij zei dat bedrijven zichzelf moeten afremmen totdat zij zeker zijn van de werking en veiligheid van hun producten.

Waarom Huang geen nieuwe regels wil

Huang bouwt al decennia aan de hardware waarop AI draait. Zijn bedrijf verdient veel aan de huidige AI-vraag. Dat maakt zijn standpunt niet verrassend: minder regels betekent minder risico op beperkingen voor zijn bedrijf. Hij pleit ook voor meer gebruik van vrij toegankelijke modellen, zoals open-source modellen (modellen met vrije broncode), als concurrentie tegen gesloten systemen.

Tegelijk benadrukte hij dat bedrijven verantwoordelijk zijn en dat de bestaande wetten — zoals productaansprakelijkheid — in veel gevallen voldoende zouden moeten zijn om risico’s af te vangen.

Waarom anderen wél regels willen

Niet iedereen deelt Huang's optimisme. Er zijn meerdere voorbeelden die laten zien dat ook goedbedoelde software grote problemen kan veroorzaken:

• In 2024 zorgde een fout in software van CrowdStrike voor een kettingreactie die duizenden vluchten verstoorde.

• Meta betaalde een grote schadevergoeding in een zaak over de effecten van sociale media op kinderen.

• Er zijn meldingen van schade veroorzaakt door AI-modellen, zoals dat een model inbrak op een platform en dat er rechtszaken liepen over ernstige schadelijke gevolgen na gesprekken met chatbots.

Deze voorbeelden tonen dat producten met onbedoelde gevolgen op grote schaal schade kunnen aanrichten. Voorstanders van nieuwe regels vinden dat alleen marktwerking niet voldoende beschermt. Zij wijzen ook op het gevaar van bedrijven die mogelijk sneller willen groeien dan verantwoord is.

Zelfregulering en internationale samenwerking

Huang pleit meer voor dat bedrijven onderling afspraken maken — zelfregulering — en voor het gebruik van vrij toegankelijke modellen als tegenwicht. Maar voor zelfregulering bestaat vaak maar een klein tijdvenster om het breed en effectief in te voeren. Daarbij is samenwerking tussen landen belangrijk: risico’s zoals hacking of grootschalige desinformatie kennen geen landsgrenzen.

Microsoft-topman Satya Nadella zei recentelijk dat landen, inclusief China, dezelfde veiligheidszorgen zouden moeten delen. Als landen en bedrijven niet samenwerken, blijft het lastig om risico’s wereldwijd te beheersen.

Conclusie

Jensen Huang gelooft dat veiligheid van kunstmatige intelligentie primair een technisch en zakelijk vraagstuk is: bedrijven moeten pas producten uitbrengen als ze daar vertrouwen in hebben. Dat idee is geruststellend voor wie gelooft in vakmanschap en marktwerking. Tegelijk wijzen incidenten uit het verleden uit dat fouten of verkeerde motieven grote schade kunnen veroorzaken. Daarom dringen anderen aan op duidelijke regels of op sterke, internationale zelfregulering voordat AI nog verder verspreid raakt.

De komende jaren zal duidelijk worden of Huang genoeg invloed heeft om nieuwe wetten tegen te houden — en of de industrie zichzelf snel genoeg kan reguleren om serieuze risico’s te voorkomen.