Anthropic’s CEO Dario Amodei zegt dat het tijd is om de vooruitgang van kunstmatige intelligentie (AI) te vertragen. Hij wil dat bedrijven en overheden samen regels en controles invoeren, zodat nieuwe systemen niet te snel en onveilig worden ontwikkeld. Als jij je afvraagt wat dat concreet betekent, legt dit artikel de voorstellen stap voor stap uit.

Waarom dit gesprek nu opkomt

De discussie over veiligheid van AI is recent flink aangezwollen. Onderzoekers waarschuwen steeds sterker voor risico’s. Daarnaast stapte een onderzoeker op bij Anthropic uit bezorgdheid dat bedrijven "met onze levens gokken" door systemen te bouwen die zichzelf steeds slimmer kunnen maken.

Twee gebeurtenissen hebben volgens Amodei duidelijk gemaakt dat voorzichtigheid nodig is: een hack waarbij systemen van OpenAI en Hugging Face betrokken waren, en de razendsnelle vooruitgang van AI zelf — vooral het vermogen van AI om onderdelen van nieuwe AI te maken.

Die combinatie wekt de vrees dat systemen te snel leren en dat fouten of misbruik grote gevolgen kunnen hebben. Amodei schrijft dat we de snelheid moeten verlagen, maar dat vooruitgang nog steeds snel zal lijken. Het doel is vooral om tijd te winnen en die tijd verstandig te gebruiken.

Drie concrete stappen die Amodei voorstelt

Amodei noemt in zijn plan drie brede strategieën. Hij zegt dat Anthropic zich al zelf verplicht om één van die stappen door te voeren.

• Onafhankelijke evaluators in bedrijven laten werken.

  Deze evaluators zijn externe, onafhankelijke teams die binnen een bedrijf komen werken, met bedrijfspas, bureau en laptop. Hun taak is controleren of een bedrijf zich houdt aan afspraken over vertraging en veiligheid, en om incidenten te melden.

  Vergelijk het met toezichthouders die al bij banken op de werkvloer zitten om risico’s te volgen. Amodei wil dat evaluators bijna dezelfde toegang krijgen als interne risicoteams, tenzij wetten of contracten dat verbieden.

• Afstemming tussen leidende bedrijven in democratische landen.

  Amodei stelt dat grote AI-bedrijven in democratische landen gezamenlijk veiligheidsregels en limieten voor de snelheid van ontwikkeling moeten afspreken. Hij erkent dat dit lastig is: bedrijven concurreren, en er zijn zorgen over mededingingsrecht (antitrust).

  Daarom noemt hij dat de overheid — bijvoorbeeld de Amerikaanse regering — zulke gesprekken kan faciliteren of een beperkte vrijstelling voor bepaalde veiligheidsbesprekingen kan geven, zodat bedrijven veilig overleggen zonder direct antitrustproblemen.

• Internationale coördinatie, ook met autoritaire landen.

  Amodei roept op om, waar mogelijk, ook met andere landen samen te werken. Hij noemt concreet voorbeelden als het weigeren van verkoop van heel krachtige chips of machines voor het maken van chips, en maatregelen tegen het eenvoudig kopiëren van grote modellen naar kleinere versies (zodat krachtige mogelijkheden zich niet ongemerkt verspreiden).

  Daarbij erkent hij dat samenwerken met landen als China grenzen heeft. Toch stelt hij dat zelfs beperkte overeenkomsten mogelijk zijn, bijvoorbeeld een verbod op specifieke en duidelijk gevaarlijke toepassingen — zoals het gebruik van AI bij de ontwikkeling van biologische wapens.

Kritiek en context

Niet iedereen is het eens met Amodei. Sommige mensen vinden zijn waarschuwingen te doemdenkend en zeggen dat dit afleidt van concrete, al bestaande problemen die AI nu al veroorzaakt. Anderen denken dat voorstellen als deze vooral grote bedrijven bevoordelen en regulatorische invloed naar die bedrijven toe zouden trekken.

Toch benadrukt Amodei dat hij de voordelen van AI ziet: hij gelooft dat AI het leven van mensen sterk kan verbeteren. Volgens hem zijn die voordelen alleen haalbaar als de technologie op de juiste manier wordt gebouwd — en dat vraagt nu om extra zorgvuldigheid.

Conclusie

Amodei pleit voor vertraging en meer toezicht op de ontwikkeling van AI. Zijn plan bestaat uit drie onderdelen: externe evaluators in bedrijven, coördinatie tussen leidende bedrijven in democratische landen, en internationale afspraken, ook over grenzen heen. Het doel is om tijd te winnen om veiligere systemen te bouwen, terwijl de voordelen van AI behouden blijven.

De voorstellen roepen debat op over haalbaarheid en bij wie de macht en verantwoordelijkheid moeten liggen. Maar duidelijk is dat de discussie over hoe snel en met welke regels AI verdergaat, de komende jaren belangrijk blijft.