Een week na een alarmerende uitspraak van een onderzoeker bij Anthropic presenteerde CEO Dario Amodei een plan om het tempo van AI-ontwikkeling te reguleren. Het idee is om de ontwikkeling niet zomaar te stoppen, maar beter af te stemmen en te toetsen op veiligheid. Het plan kreeg al steun binnen de sector, maar ook stevige kritiek.

Wat stelt Anthropic voor?

Anthropic wil een aanpak die steunt op twee hoofdpunten. Ten eerste onafhankelijke veiligheidstoetsers. Dit zouden externe organisaties zijn die nieuwe AI-systemen onderzoeken op risico's voordat ze breed worden ingezet. Ten tweede meer samenwerking tussen AI-bedrijven in democratische landen. Zij zouden afspraken maken over hoe snel en op welke manier nieuwe modellen worden ontwikkeld.

Het doel is niet om innovatie te blokkeren, maar om de risico's beter beheersbaar te maken. Volgens de voorstellen moeten tests en controles transparanter worden. Dat zou het makkelijker maken om te zien wat een model wel en niet kan.

Waarom is dit moeilijk?

Er zijn verschillende redenen waarom zo'n plan lastig uit te voeren is:

• Bepalen wat precies "tempo verlagen" betekent. Moeten bedrijven minder krachtige modellen bouwen, of vertragen ze simpelweg de uitrol?

• Handhaving: wie mag controleren en wie mag sancties opleggen als afspraken worden overtreden?

• Economische druk: sommige bedrijven hebben groot belang bij snelle doorontwikkeling en kunnen verlies lijden bij vertraging.

Daarnaast kwam er reactie van onder meer Nvidia's CEO Jensen Huang. Hij zei dat zijn bedrijf niet zal toestaan dat ontwikkeling te veel vertraagt. Daarmee wordt duidelijk dat niet alle spelers hetzelfde belang of dezelfde prioriteiten hebben.

Wat werd besproken in de podcast?

De Equity-podcast van TechCrunch duikt dieper in de vraag of bedrijven het eens kunnen worden over wat vertraging precies betekent en wie dat moet handhaven. De hosts bespraken ook dat sommige bedrijven al met elkaar in gesprek zijn over AI-veiligheid, maar dat dat niet automatisch leidt tot bindende afspraken.

In dezelfde aflevering waren nog twee andere grote onderwerpen:

• Een bestuurscrisis bij Automattic, het moederbedrijf van WordPress, waar de raad van bestuur de CEO tijdelijk uit zijn functie haalde.

• Enkele van de grootste deals van die week in de techwereld, die laten zien dat er nog veel commerciële beweging is ondanks de zorgen over veiligheid.

Conclusie

Het voorstel van Anthropic om het tempo van AI-ontwikkeling te temperen zet een duidelijk onderwerp op de agenda: hoe combineren we snelle technologische vooruitgang met veiligheid en maatschappelijke controle? Er is al steun, maar ook tegenstand van belangrijke spelers.

Voor jou als gebruiker verandert er voorlopig waarschijnlijk weinig in het dagelijkse gebruik van AI. Wel maakt deze discussie duidelijk dat beleidsmakers, bedrijven en onafhankelijke toetsers over de regels moeten praten. Of die gesprekken tot concrete, afgedwongen afspraken leiden is nog onzeker.

De komende maanden geven meer duidelijkheid. Dan zal blijken of dit vooral een gesprek blijft, of dat er echt nieuwe afspraken en controles komen die de ontwikkeling van AI richting geven.