Dario Amodei, oprichter en ceo van Anthropic, spreekt zich duidelijk uit tegen geruchten dat zijn bedrijf een verbod op open-weight modellen zou steunen. Hij benadrukt dat Anthropic nooit heeft opgeroepen tot een algemeen verbod, terwijl hij tegelijk waarschuwt voor de risico’s van krachtige AI ontwikkeld door autoritaire staten.

Wat bedoelt Amodei met "open-weight modellen"?

Amodei gebruikt de term open-weight modellen (modellen waarvan de interne gewichten — de technische bouwstenen van het model — openbaar beschikbaar zijn). Volgens hem kunnen zulke modellen veel nuttige toepassingen hebben, zolang ze zelf geen gevaarlijke capaciteiten bevatten.

Hij schrijft dat open-weight modellen die geen gevaarlijke functies hebben, een publiek goed zijn. Ze kosten alleen rekencapaciteit om te draaien en leveren waarde voor bedrijven, ontwikkelaars en onderzoekers.

Waarom er verwarring ontstond

De discussie laaide op na een open brief van Nvidia en andere bedrijven, waarin beleidsmakers werd afgeraden om brede, voorbarige beperkingen op open-weight modellen in te voeren. Die brief noemde China niet expliciet, maar de sector vermoedt dat de zorg vooral te maken heeft met modellen uit China die sneller groeien door mogelijk ongeoorloofd gebruik van westerse technologie.

Amodei reageerde toen met een blogpost om onduidelijkheid weg te nemen. Hij citeerde nadrukkelijk dat Anthropic nooit heeft gepleit voor een verbod op open-weight modellen.

Wat zijn zijn echte zorgen?

Amodei zegt dat zijn grootste angst niet bedrijven die open modellen gebruiken zijn, ook niet als die bedrijven in China zitten. Zijn voornaamste zorgen zijn:

• Autoritaire regeringen kunnen modellen bouwen die sterker zijn dan die in westerse landen, met als doel blijvende militaire superioriteit.

• Zulke regeringen kunnen AI gebruiken om hun bevolking te onderdrukken.

• AI kan niet alleen cyberaanvallen mogelijk maken, maar ook biologische aanvallen. In dat laatste geval zijn open-weight modellen extra risicovol, omdat ze lastig met beleid te omkaderen of te monitoren.

Hij wijst erop dat open-weight modellen eenmaal vrijgegeven moeilijk terug te halen zijn, en dat toezicht en begrenzing daardoor ingewikkelder worden.

Welke maatregelen stelt Amodei voor?

Amodei noemt meerdere stappen die volgens hem zouden helpen om risico’s te beperken. Belangrijkste voorstellen zijn:

• Beperken van de toegang van bepaalde landen tot krachtige chips, iets wat al deels als beleid bestaat.

• Hard optreden tegen distillatie (waarbij een model een ander model veelvuldig uitvraagt om diens kennis of gedrag over te nemen).

• Oprichten van een wereldwijde instantie voor test en veiligheid van de meest capabele modellen, waar ook landen als China aan mee zouden moeten doen.

Hij zegt dat testen alleen effectief is als het globaal gebeurt en dus ook autoritaire regimes moeten meedoen. Amodei vermoedt dat beperkte samenwerking mogelijk is, bijvoorbeeld rond het voorkomen van AI-gestuurde biologische wapens, omdat dat ook in het belang van China zou kunnen zijn.

Conclusie

Amodei maakt een duidelijk onderscheid: hij is niet tegen open-weight modellen op zich, vooral als ze geen gevaarlijke capaciteiten hebben. Zijn zorgen richten zich op de gevaren wanneer krachtige AI in handen valt van autoritaire staten die militaire of repressieve doelen nastreven. Om die risico’s te beperken pleit hij voor beperkingen op hardwaretoegang, meer aandacht voor distillatie en een internationale veiligheidsorganisatie die de sterkste modellen test — mits ook landen als China meedoen.