OpenAI heeft zijn nieuwste grote taalmodel, Sol, voor een groot publiek beschikbaar gemaakt. Maar hoe de Amerikaanse overheid heeft besloten dat dit model veilig genoeg was om vrij te geven, is niet duidelijk. Veel experts en waarnemers zeggen: niemand weet precies hoe die beslissing tot stand kwam.

Wat is er precies gebeurd?

OpenAI liet het model Sol eerst zien aan de overheid en aan een beperkte groep gebruikers. Dit heet een preview. Daarna volgde de brede uitrol naar het publiek.

Rond dezelfde tijd was er aandacht voor Anthropic’s model Fable. Dat model kreeg tijdelijk beperkingen voor buitenlandse gebruikers, deels vanwege zorgen over het mogelijk misbruik van het model. Die zaak maakte duidelijk dat de overheid wel kan ingrijpen, maar het laat ook zien dat de regels ongelijk worden toegepast.

De regering publiceerde onlangs een bestuursorde met een routekaart om zogeheten "frontier"-modellen te beoordelen. Met "frontier-model" bedoelen we hier zeer krachtige AI-systemen die op het scherpst van de snede van de technologie zitten en veel nieuwe mogelijkheden hebben. Maar de routekaart liet veel details open. Er is nog geen helder proces of lijst met eisen die bedrijven moeten volgen.

OpenAI zegt dat het gesprekken had met hoge regeringsfunctionarissen. Het bedrijf verwijst ook naar externe veiligheidsbeoordelingen door enkele onderzoeksorganisaties. Maar OpenAI gaf geen volledige uitleg over wie precies in de regering de modellen heeft getest en hoe die tests precies zijn uitgevoerd.

Waarom is er zoveel onduidelijkheid?

Er zijn verschillende redenen waarom het besluitvormingsproces vaag blijft:

• Er is geen vaste, publiek bekende lijst met criteria die bepaalt welke modellen extra toezicht nodig hebben en welke niet.

• Het is onduidelijk welke overheidsinstantie de uiteindelijke beslissingen neemt. Vooralsnog lijkt het Ministerie van Handel (Department of Commerce) een coördinerende rol te hebben, maar zes departementen moeten volgens de bestuursorde gezamenlijk een proces afspreken.

• Sommige experts zeggen dat echte veiligheidsonderzoekers niet genoeg betrokken zijn geweest bij het beoordelen van de modellen. Als die mensen niet meedoen, kan je belangrijke risico’s over het hoofd zien.

• Er speelt politiek en geld mee. Er is berichtgeving over donaties en voorstellen die de relatie tussen bedrijven en de regering complexer maken. Dat maakt het lastig voor buitenstaanders om duidelijk te zien waarom bepaalde beslissingen zijn genomen.

Wat voor zorgen speelt er nu?

Veel mensen maken zich zorgen om drie punten.

Ten eerste: transparantie. Als de overheid en bedrijven geheim houden hoe modellen werden getest, wordt het moeilijk voor de rest van het publiek en wetenschappers om vertrouwen te hebben in die tests.

Ten tweede: belangenverstrengeling. Als beslissingen afhangen van persoonlijke contacten of politieke invloed, ontstaan er slechte prikkels. Bedrijven kunnen bijvoorbeeld sneller willen uitbrengen om concurrenten vóór te zijn en om investeringen terug te verdienen.

Ten derde: controle en macht. Sommige experts vrezen dat een klein aantal bedrijven de macht over deze technologie krijgt, terwijl de rest van de wetenschappelijke wereld en het publiek te weinig toegang heeft om die technologie goed te beoordelen.

Ook heeft de overheid al eerder ingegrepen bij Anthropic’s Fable vanwege export- en veiligheidszorgen. Die zaak laat zien dat het systeem onvoorspelbaar kan zijn: bedrijven weten niet altijd welke regels gelden of hoe streng die worden toegepast.

Welke oplossingen worden voorgesteld?

Experts en betrokkenen noemen een paar mogelijke verbeteringen:

• Onafhankelijke, door de overheid erkende auditors. Dat zouden derde partijen zijn die modellen bekijken en beoordelen voordat ze breed worden vrijgegeven. Deze auditors zouden duidelijke richtlijnen moeten volgen.

• Open onderzoeksruimtes of ‘open commons’. Vergelijkbaar met hoe medische of wetenschappelijke instellingen samenwerken (zoals bij sommige nationale onderzoeksprogramma’s), zouden onderzoekers uit universiteiten, non-profits en bedrijven samen moeten kunnen toetsen wat veilig is.

• Meer betrokkenheid van veiligheidsonderzoekers. Mensen die echt verstand hebben van AI-veiligheid en interpretatie van modellen moeten een grotere rol spelen in het toetsingsproces.

Deze voorstellen zijn nog niet officieel ingevoerd. Het blijft afwachten welke stappen de regering en de industrie zullen nemen.

Conclusie

De korte versie: OpenAI’s Sol is vrijgegeven na overleg met de overheid, maar het is onduidelijk wie precies heeft getest en volgens welke regels. Dat gebrek aan openheid zorgt voor wantrouwen en zorgen over veiligheid en macht.

Als jij volgt wat er gebeurt, let dan op of er in de komende maanden meer duidelijke regels komen, of er onafhankelijke audits worden ingesteld en of onderzoeksinstellingen meer toegang krijgen tot deze systemen. Zulke stappen zouden het vertrouwen kunnen vergroten en de kans op misbruik verkleinen.