DeepMind-topman Demis Hassabis heeft voorgesteld om een nieuwe, onafhankelijke organisatie op te richten die releases van de meest geavanceerde kunstmatige intelligentie (KI) controleert. Hij noemt het idee een kader voor 'frontier AI' — modellen die technologisch gezien vooroplopen en extra risico's met zich mee kunnen brengen. Het plan moet voorkomen dat zulke modellen zonder voldoende testen vrij beschikbaar komen.

Wat stelt Hassabis voor?

Hassabis wil een externe "standaardenorganisatie" naar het model van de financiële sector. Die instantie zou praktijktests en beoordelingsprotocollen ontwikkelen voordat een heel krachtig model op de markt komt.

In de voorgestelde opzet zouden ontwikkelteams van zulke modellen (soms aangeduid als "Frontier Labs") in eerste instantie vrijwillig hun modellen tot 30 dagen vóór release delen met de standaardenorganisatie voor beoordeling. Als het beoordelingssysteem betrouwbaar blijkt, kan het verplicht worden: modellen mogen dan alleen op de Amerikaanse markt worden ingezet als ze door de toets komen.

Daarnaast moeten laboratories samen met de organisatie kwetsbaarheden blijven aanpakken nadat een model is vrijgegeven.

Waarom juist zo’n organisatie?

De suggestie bouwt voort op eerdere Amerikaanse controles van nieuwe modellen. Die tijdelijke beoordelingen richtten zich onder meer op modellen van bedrijven als Anthropic en OpenAI. Die overheidstoetsen kregen kritiek omdat ze niet altijd over voldoende technische expertise leken te beschikken en omdat onduidelijk was waarop beslissingen precies waren gebaseerd.

Hassabis denkt dat een onafhankelijke, door de industrie gefinancierde maar bestuurlijk losstaande instantie die problemen beter aankan. Volgens hem biedt dit:

• technische deskundigheid die voortdurend kan worden opgebouwd;

• snellere, transparantere beslissingen over wanneer een model veilig genoeg is voor gebruik;

• ruimte voor innovatie, omdat regels kunnen meegroeien met het veld.

Hoe zou de organisatie eruitzien?

Hassabis stelt een model voor dat deels lijkt op zelfregulering in de financiële sector. Kenmerken die hij noemt:

• personeel met technische experts uit de sector en vertegenwoordigers van open-source (open-source: software waarvan de broncode vrij toegankelijk is);

• financiële steun van de AI-labs om deskundigen aan te trekken en te behouden;

• mogelijkheid om delen van de beoordeling uit te besteden aan gespecialiseerde AI-veiligheidsgroepen die zich richten op specifieke risico's.

De organisatie zou wel steun krijgen van de Amerikaanse overheid, maar autonoom blijven opereren en worden betaald door de industrie zelf.

Tegengas en vragen

Niet iedereen vindt een dergelijke constructie vanzelfsprekend. Sommige invloedrijke stemmen in de Verenigde Staten, waaronder een adviseur van het Witte Huis, hebben al aangegeven dat zij geen overheidsorgaan op het niveau van de Amerikaanse voedsel- en geneesmiddelenautoriteit (FDA) voor KI verwachten. Zij zien een formele toezichthouder binnen de uitvoerende macht niet snel gebeuren.

Een zelfregulerende organisatie zoals voorgesteld probeert deze weerstand te omzeilen door technische kennis en flexibiliteit te combineren met industriebetrokkenheid. Kritische vragen blijven echter bestaan over onafhankelijkheid, financiering en hoe beslissingen transparant en eerlijk worden genomen.

Conclusie

Het voorstel van Demis Hassabis richt zich op het creëren van een technische, onafhankelijke instantie die heel krachtige KI-modellen beoordeelt en begeleidt bij hun release. Het idee is bedoeld om veilig gebruik mogelijk te maken zonder innovatie onnodig af te remmen. Tegelijkertijd roept het discussie op over wie bepaalt wat veilig genoeg is, hoe onafhankelijk zo’n organisatie kan blijven, en welke rol de overheid daarin hoort te spelen.