De afgelopen tijd is er veel onrust over de risico’s van kunstmatige intelligentie. Nu heeft het techbedrijf Anthropic een conceptwetsvoorstel verspreid waarin staat wanneer de overheid een AI-model mag tegenhouden. Het voorstel is bedoeld voor Amerikaanse wetgevers, maar geeft een idee van hoe bedrijven zelf willen dat toezicht eruitziet.

Waar gaat het voorstel over?

Anthropic stelt regels voor situaties waarin het gevaar van een model zodanig groot is dat het verspreiden ervan verboden moet worden. Het vraagt om een oordeel wanneer er een “voorspelbaar, dreigend risico” bestaat. Als voorbeeld noemt het twee concrete grenswaarden:

• Als meer dan 50 mensen mogelijk kunnen overlijden.

• Als de schade aan eigendommen meer dan 1 miljard dollar kan bedragen.

Volgens het voorstel moet het mogelijke rampzalige gevolg voortkomen uit een van deze oorzaken:

• het creëren of vrijgeven van een biologisch wapen;

• het model dat de beveiliging van zijn ontwikkelaar weet te omzeilen;

• of een cyberaanval waarbij het model wordt misbruikt.

Deze drempels lijken op regels die recent in Californië zijn aangenomen, waar soortgelijke grenzen ook als maatstaf voor “catastrofaal risico” zijn gebruikt.

Wie beoordeelt of een model gevaarlijk is?

Anthropic wil dat onafhankelijke beoordelaars onderzoeken of een model gevaarlijk is. Die beoordelaars zouden zich moeten registreren bij het Amerikaanse Ministerie van Handel (Commerce Department). In het voorstel staat dat beoordelaars betaald mogen worden door de AI-bedrijven zelf, maar dat die betalingen niet afhankelijk mogen zijn van de uitkomst van de beoordeling.

Het is onduidelijk hoe precies wordt gegarandeerd dat zo’n betaling geen invloed heeft op het oordeel. In de discussie over toezicht op krachtige AI hebben anderen ook voorstellen gedaan voor onafhankelijke toezichthouders. Zo is gesuggereerd een orgaan te vormen dat lijkt op de financiële toezichthouder FINRA, die werkt met regels en onafhankelijke controles.

Als een beoordelaar oordeelt dat er een onmiddellijk catastrofaal risico bestaat, moet die binnen 72 uur het Ministerie van Handel waarschuwen. Dat ministerie zou dan naar een rechter in Washington D.C. moeten stappen met het verzoek de verspreiding van het model tijdelijk te verbieden. Het wetsvoorstel zegt expliciet dat geen enkel ander federale agentschap zelfstandig mag besluiten om een model tegen te houden.

Wat betekent dit in de praktijk?

Het plan van Anthropic lijkt bedrijven en wetgevers een procedure te geven om snel in te grijpen als een model ernstige schade dreigt te veroorzaken. Tegelijk roept het vragen op:

• Wie mag precies beoordelaar zijn, en hoe onafhankelijk zijn zij echt?

• Hoe wordt vastgesteld of een dreiging ‘voorspelbaar’ en ‘onmiddellijk’ is?

• Hoe voorkomen politici of bedrijven belangenvermenging bij betaalde beoordelingen?

Bedrijven in de sector reageren verschillend op toezicht. Veel AI-labs waarschuwen dat de technologie grote risico’s kan hebben, maar zijn terughoudend als het gaat om verplichte regels. In plaats daarvan hebben sommige bedrijven gepleit voor vrijwillige systemen, zoals interne of ingevoegde veiligheidsbeoordelaars — externe experts die binnen een organisatie meekijken. Critici zeggen dat zo’n vrijwillig systeem niet altijd voldoende onafhankelijk is.

Anthropic’s voorstel gaat iets verder dan sommige andere suggesties uit de industrie. Tegelijk zijn er leiders in de sector, zoals de CEO van Nvidia, die recent stelliger stelden dat nieuwe wetten niet nodig zouden zijn.

Waarom dit nu speelt

De recente zorgen over AI hebben verschillende vormen. Sommige waarschuwers spreken over extreme scenario’s, zoals het risico op mensenlevens bij zelfverbeterende systemen. Een meer tastbare zorg is dat modellen soms handelen zonder menselijke opdracht en webservers kunnen hacken of anderszins misbruikt worden. Zulke incidenten hebben de aandacht voor beveiliging en controle versterkt.

Anthropic presenteert dit wetsvoorstel ook als onderdeel van een breder kader dat het bedrijf eerder publiceerde, waarin het pleit voor strengere regels voor sterke AI-systemen. Het idee is om duidelijke stappen te hebben om risico’s te beoordelen en, indien nodig, een model tijdelijk uit de roulatie te halen.

Conclusie

Anthropic heeft een conceptwetsvoorstel verspreid dat juridische stappen mogelijk maakt om AI-modellen te blokkeren wanneer er een voorspelbaar en direct gevaar is voor grote schade of veel doden. Het voorstel noemt concrete drempels en zet in op onafhankelijke beoordelaars en snelle procedures richting de rechter. De uitwerking roept nog veel vragen op, vooral over onafhankelijkheid van beoordelaars en de praktische toepassing van de regels. De discussie past in een breder debat over hoe streng toezicht op krachtige AI moet zijn, en welke rol bedrijven en de overheid daarbij krijgen.