De beleidschef van OpenAI zei deze week dat het bedrijf al weken overleg voert met Anthropic en Google DeepMind over de veiligheid van kunstmatige intelligentie. Het nieuws volgt op een oproep van Anthropic-leider Dario Amodei om de ontwikkeling van de meest geavanceerde AI langzamer en zorgvuldiger aan te pakken.

Wat is er precies gebeurd?

OpenAI’s hoofd beleidszaken vertelde verslaggevers dat er al wekenlange gesprekken gaande zijn met concurrenten over veiligheidsmaatregelen. De onthulling komt kort nadat Anthropic’s CEO een essay publiceerde waarin hij pleitte voor samenwerking in de industrie om catastrofale risico’s te voorkomen.

In dat essay vroeg hij onder meer om een manier waarop bedrijven samen veiligheidscontroles kunnen doen op modellen die zó krachtig zijn dat ze gevaarlijk kunnen worden. Verschillende invloedrijke leiders in de AI‑wereld steunden die oproep.

Wie steunt het en wat stellen zij voor?

Verschillende grote namen reageerden positief op Amodei’s oproep. Onder anderen:

• Sam Altman (OpenAI)

• Demis Hassabis (Google DeepMind)

• Elon Musk (SpaceXAI)

Hun steun richt zich op concrete ideeën zoals het inschakelen van onafhankelijke derden die modellen controleren, en het gezamenlijk opzetten van normen of een orgaan dat toezicht kan houden op de meest geavanceerde systemen.

OpenAI zei ook dat het bereid is externe beoordelaars toe te laten binnen het bedrijf om te controleren of modellen veilig ontwikkeld worden. Daarnaast is er berichtgeving dat de bedrijven samenwerken aan het opzetten van een standaardenorganisatie voor de hele sector.

Juridische en politieke vragen

Het overleg tussen concurrenten trekt ook vragen over mededingingsrecht (antitrust) aan. Als bedrijven afspraken maken die de concurrentie beperken, kunnen ze tegen de wet ingaan. Daarom stelde Amodei voor om in bepaalde gevallen een beperkte vrijstelling van de overheid te krijgen, zodat veiligheidsafspraken niet als illegale concurrentiebeperking worden gezien.

OpenAI’s beleidschef zei naar verluidt dat zo’n wettelijke vrijstelling niet noodzakelijk is volgens hen. Dat laat de discussie over de juiste juridische vorm van samenwerking open.

Politiek gezien is de situatie verdeeld. Sommige beleidsmakers en technologieleiders pleiten voor een nieuw toezichtsorgaan dat de macht krijgt om de meest geavanceerde modellen te controleren en ingrijpen als dat nodig is. Anderen, waaronder president Trump, bestempelen zorgen over existentiële risico’s als overdreven en waarschuwen dat strenge regels de concurrentie met landen als China zouden benadelen. Ook adviseurs met belangen in de sector uiten dat risico’s soms worden overdreven.

Wetgeving en acties die nu spelen

Er loopt in de Verenigde Staten debat over wetten die bedrijven zouden verplichten externe veiligheidsbeoordelingen toe te laten. Een voorbeeld is een wetsvoorstel waarin staat dat topbedrijven onafhankelijke verificatie‑organisaties in hun labs moeten kunnen toelaten om te controleren of modellen veilig worden ontwikkeld.

OpenAI heeft zich naar verluidt achter zo’n bepaling in het wetsvoorstel geschaard. Tegelijkertijd blijven vragen bestaan over hoe zo’n controle eruit moet zien en wie de controleurs aanwijst.

Conclusie

Dat OpenAI, Anthropic en Google DeepMind al weken met elkaar praten, laat zien dat grote spelers in de AI‑sector samenwerken rond veiligheid. Die samenwerking kan leiden tot gemeenschappelijke normen, externe toetsen en mogelijk een nieuw toezichtsorgaan.

Tegelijkertijd roept overleg tussen concurrenten juridische vragen op en botst het met politieke tegenargumenten die meer ruimte willen voor concurrentie. De komende maanden wordt duidelijk of deze gesprekken uitmonden in concrete regels, een onafhankelijke toezichtstructuur of politieke wetgeving die bepaalt hoe ver die samenwerking mag gaan.