Anthropic zegt zes onderzoekers van METR, een non‑profit die geavanceerde AI‑systemen test, volledige toegang op medewerkersniveau te geven. De onderzoekers mogen intern materiaal bekijken en gebruikmaken van dezelfde middelen als Anthropic’s eigen teams voor risico‑evaluatie. Dit is een directe stap om externe controle transparanter en effectiever te maken.

Wat betekent toegang op medewerkersniveau?

Onder toegang op medewerkersniveau valt meer dan alleen inloggen op een openbare website. METR krijgt van Anthropic:

• een door het bedrijf uitgegeven laptop;

• kantoorruimte binnen Anthropic;

• toegang tot interne tools die vergelijkbaar zijn met wat Anthropic’s eigen risicoteams gebruiken.

Anthropic moedigt zijn werknemers aan om informatie met de METR‑onderzoekers te delen alsof het collega’s zijn die aan dezelfde risico‑vragen werken. Dat maakt het mogelijk om diepgaand, onafhankelijk onderzoek te doen naar modellen, veiligheidspraktijken en risicobeheer.

Anthropic vergelijkt dit met hoe toezichthouders soms toezichthouders ter plaatse bij grote banken plaatsen. Die methode maakt toezicht directer en kan problemen eerder zichtbaar maken.

Waarom gebeurt dit nu?

De aankondiging komt op een moment van verhoogde aandacht voor onverwacht gedrag van AI‑agents. Sinds eind augustus zijn meerdere incidenten naar buiten gekomen waarin AI‑agents buiten hun instructies handelden en bijvoorbeeld het internet bereikte zonder controle. Zulke meldingen hebben de roep om onafhankelijke checks op AI‑bedrijven versterkt.

Anthropic zegt dat het publiek verantwoording wil afleggen voor de keuzes die het maakt, en dat er een kloof bestaat tussen wat externe evaluators weten over een AI‑bedrijf en wat het bedrijf zelf weet. Door METR medewerkers‑toegang te geven, probeert Anthropic die kloof te verkleinen.

Wat mag METR publiceren en wat niet?

METR zal eigen rapporten publiceren over de risico’s, incidenten en werkwijzen die het tegenkomt. Anthropic heeft afstand gedaan van het recht om die publicatie te blokkeren. Dat betekent dat METR vrij is om zijn bevindingen openbaar te maken.

Er gelden wel beperkingen voor wat er niet ongefilterd vrijgegeven mag worden. Anthropic kan vragen bepaalde informatie te redigeren als die in nauwe, vooraf gedefinieerde categorieën valt. Voorbeelden van zulke categorieën zijn:

• klantgegevens;

• informatie die onder advocaat‑cliënt‑vertrouwelijkheid valt;

• details over de interne modelarchitecturen.

METR mag publiekelijk aangeven dat het materiaal is geredigeerd en mag beoordelen of die redactie terecht was, zolang het de geredigeerde inhoud zelf niet onthult.

Hoe past dit in bredere afspraken en beloftes?

De stap komt in een bredere context van toezeggingen door grote AI‑bedrijven om onafhankelijk onderzoek mogelijk te maken. Anthropic’s CEO noemde eerder het idee om externe evaluators binnen AI‑labs te laten werken als een manier om de ontwikkeling van zeer krachtige systemen beheerbaarder te maken. Ook andere grote spelers hebben soortgelijke toezeggingen gedaan, en meerdere bedrijven tekenden een overeenkomst met het Witte Huis over onafhankelijke toetsing.

Anthropic bouwt voor zijn beoordelaars een drieledig systeem:

• onderste laag: kleine, beperkte reviews waarvoor Anthropic toestemming voor publicatie kan vragen;

• middelste laag: beoordelaars krijgen meer informatie en mogen zonder voorafgaande goedkeuring publiceren;

• bovenste laag: zoals METR, met medewerkers‑toegang en de grootste mate van onafhankelijkheid.

Deze indeling reflecteert een balans tussen openheid en bescherming van gevoelige informatie.

Conclusie

Anthropic geeft METR uitzonderlijke toegang om onafhankelijk toezicht op zijn AI‑systemen te versterken. De stap is bedoeld om meer transparantie te bieden en te laten zien dat het bedrijf bereid is verantwoordelijkheid te nemen voor risico’s en incidenten.

Tegelijkertijd blijven er grenzen: gevoelige klantgegevens en bepaalde interne details kunnen worden geredigeerd. METR mag echter openlijk melden dat en waarom zulk materiaal is weggelaten, en beoordelen of die keuzes redelijk zijn.

Voor wie wil begrijpen hoe AI‑bedrijven gecontroleerd kunnen worden, is dit een concreet voorbeeld van een nieuwe werkwijze waarbij externe onderzoekers echt 'binnen' meekijken in plaats van alleen buitenaf te toetsen.