De baas van Anthropic, Dario Amodei, pleit voor een lagere snelheid in de ontwikkeling van kunstmatige intelligentie (AI). Hij vindt dat bedrijven meer tijd moeten nemen om nieuwe systemen goed te testen en veiliger te maken. Dat idee krijgt steun van andere bekende techleiders, maar het leidt ook tot discussie over concurrentie en politieke controle.

Waarom Amodei wil vertragen

Amodei noemt twee dingen die hem hebben overtuigd dat er nu extra voorzichtigheid nodig is.

• Een recente beveiligingskwestie waarbij OpenAI en een externe partij (Hugging Face) betrokken waren. Dit illustreert volgens hem dat incidenten niet altijd goed worden gemeld of onderzocht.

• De snelheid waarmee AI zich de laatste maanden ontwikkelt, vooral het vermogen van AI om te helpen bij het bouwen van nog krachtigere AI.

Hij schrijft dat het tempo omlaag moet, zodat onderzoekers en maatschappij tijd krijgen om risico's te beoordelen en om veiligheidsmaatregelen te verbeteren. Volgens Amodei blijft vooruitgang waarschijnlijk snel lijken, maar die extra tijd kan verstandig worden gebruikt.

Drie voorgestelde stappen en wat Anthropic nu doet

Amodei schetst drie brede strategieën om het tempo te matigen. Hij zegt dat Anthropic zich eenzijdig committeert aan de eerste maatregel en roept andere bedrijven en overheden op mee te doen.

• Inbedden van onafhankelijke toezichthouders: externe evaluators van organisaties zoals METR zouden bij bedrijven op de werkvloer moeten zitten. Dat betekent bijvoorbeeld dat zij een bedrijfspasje, een werkplek en toegang krijgen tot dezelfde informatie die interne risico‑teams ook hebben, voor zover dat wettelijk en contractueel kan. Hun taak is controleren of bedrijven zich aan veiligheidspromises houden en dat incidenten worden gemeld.

• Coördinatie binnen democratische landen: de grote AI‑bedrijven zouden gezamenlijke veiligheidsnormen moeten afspreken en grenzen moeten stellen aan ongebreidelde vooruitgang. Amodei suggereert dat de Amerikaanse overheid zulke gesprekken kan faciliteren en voor antitrustredenen een beperkte vrijstelling kan geven zodat bedrijven vrijer over veiligheid kunnen overleggen.

• Internationale afstemming: samen met bondgenoten — en waar mogelijk ook met autoritaire landen zoals China — zoeken naar afspraken over duidelijk gevaarlijke toepassingen. Een voorbeeld is het verbieden van het gebruik van AI voor het maken van biologische wapens. Amodei erkent dat internationale samenwerking beperkt en lastig is, maar ziet ruimte voor smalle, duidelijke verboden.

Anthropic zegt dus dat het externe evaluators binnenlaat. Sam Altman van OpenAI twitterde dat hij het idee ondersteunt en dat OpenAI hetzelfde gaat doen.

Moeilijke punten: concurrentie, China en kritiek

De plannen roepen ook zorgen op.

• Bedrijven vrezen dat een gezamenlijke pauze kan leiden tot antitrustonderzoek. Amodei stelt daarom dat de overheid moet helpen deze gesprekken mogelijk te maken zonder dat dat tot juridische problemen leidt.

• Een veelgehoord bezwaar is dat als westerse bedrijven vertragen, China de voorsprong kan pakken. Amodei stelt dat gerichte stappen, zoals het weigeren van de verkoop van krachtige chips of machines voor chipproductie en het tegengaan van grootschalig kopiëren van modellen, China’s progressie kunnen vertragen en zo het verschil weer vergroten.

• Er is ook inhoudelijke kritiek. Sommige journalisten en onderzoekers noemen de doemscenario’s overdreven en zeggen dat die waarschuwingen kunnen afleiden van concrete schade die AI vandaag al veroorzaakt. Anderen waarschuwen dat regels vooral gevestigde spelers als Anthropic en OpenAI bevoordelen; zo’n uitkomst noemen zij ‘regulatory capture’ — regels die vooral de grote spelers beschermen.

Wat zegt Amodei zelf?

Amodei benadrukt dat hij nog steeds gelooft dat AI veel goeds kan brengen. Zijn punt is dat dat alleen werkt als de technologie op de juiste manier wordt gebouwd. Daarom wil hij bewust en zorgvuldig vooruitgaan, en de gewonnen tijd effectief gebruiken om veiligheid en vertrouwen te vergroten.

Conclusie

Het voorstel van Anthropic is duidelijk: minder haast bij het ontwikkelen van krachtige AI, betere externe controle en meer samenwerking tussen bedrijven en overheden. OpenAI zegt dat het mee wil doen. Tegelijk zijn er juridische, geopolitieke en inhoudelijke bezwaren. De komende maanden wordt duidelijk of deze voorstellen leiden tot concrete afspraken, en of die afspraken breed genoeg zijn om zowel innovatie als veiligheid te dienen.