← Terug naar kennisbank

AI Nieuws

Zo bewijs je welk AI-model iets heeft gemaakt

Zo bewijs je welk AI-model iets heeft gemaakt

·

Leestijd: 3 min

Anthropic werkt aan een manier om vast te stellen welk AI-model een bepaald antwoord heeft gegeven. Het systeem heet FlashProve en moet gebruikers een wiskundig bewijs geven dat een output echt van het genoemde model komt, zodat je kunt controleren of je krijgt wat je verwacht.

Wat is FlashProve?

FlashProve is een systeem dat een cryptografisch bewijs levert — een wiskundig bewijs dat niet makkelijk te vervalsen is — dat een antwoord van een specifiek model afkomstig is. Dat lijkt op een digitale handtekening voor e-mail: je kunt nagaan of een bericht daadwerkelijk van de afzender komt.

Anthropic publiceerde een technische beschrijving en werkende onderdelen van het project als open source (code die vrij beschikbaar is). Ze geven aan dat het onderzoek nog niet afgerond is en dat er geen plannen zijn om het meteen in productie te nemen.

Hoe werkt het in grote lijnen?

Het systeem vraagt van AI-leveranciers dat ze bij elk model een korte digitale "vingerafdruk" publiceren. Die vingerafdruk is later te koppelen aan concrete antwoorden en cryptografisch te verifiëren.

Belangrijke punten:

  • De vingerafdruk onthult niet de gewichten (interne getallen die het gedrag van het model bepalen). Daardoor hoeven makers niet hun bedrijfsgeheimen prijs te geven.

  • De aanpak is zo ontworpen dat verificatie lichtgewicht is; je zou de controle lokaal op een apparaat kunnen uitvoeren.

  • FlashProve moet robuust zijn tegen pogingen om modellen te imiteren, zelfs als de imiterende partij dezelfde organisatie is die het model aanbiedt. Dat voorkomt dat een leverancier stiekem een ander, goedkoper model aanbiedt of juist een duurder model gebruikt om resultaten mooier te laten lijken.

Waarvoor kun je dit gebruiken?

FlashProve is bedoeld om vertrouwen en controle te bieden in situaties waar het belangrijk is te weten welk model iets heeft gedaan. Enkele voorbeelden:

  • Een bedrijf zegt dat een belangrijke beveiligingsscan door een geavanceerd cybersecurity-model is uitgevoerd. Met FlashProve kun je dat claim verifiëren.

  • Een leverancier leidt aan dat een bepaald model is gebruikt om een financieel of juridisch advies te maken. De vingerafdruk maakt controle mogelijk.

  • Klanten kunnen nagaan of een dienst echt het beloofde model levert, of dat er achter de schermen een goedkoper model draait.

Wat heeft Anthropic al gedeeld?

De onderzoekers publiceerden een gedetailleerde technische specificatie en vrij beschikbare code op GitHub. Ze noemen het een tussenstap in onderzoek en nodigen anderen expliciet uit om het werk te bekijken en te verbeteren.

Tegelijk benadrukken ze dat het delen van deze materialen niet betekent dat Anthropic of andere bedrijven FlashProve op korte termijn zullen inzetten: het is nog geen product, maar een voorstel en experimentele implementatie.

Conclusie

FlashProve is een methode om met een wiskundig bewijs vast te stellen welk AI-model een antwoord heeft geproduceerd, zonder dat makers hun interne modelgegevens hoeven prijs te geven. De aanpak kan helpen bij het controleren van claims over welke modellen zijn gebruikt en kan misleiding door modelwissel tegengaan. De details en code zijn openbaar gemaakt, maar het systeem is nog in ontwikkeling en nog niet operationeel bij AI-leveranciers.