Claude, de chatbot van Anthropic, krijgt onzichtbare watermerken in de tekst die hij genereert. Anthropic zegt dat dit nodig is om te voldoen aan EU-regels die transparantie van AI-systemen vragen.

Wat is een watermerk en waarom gebruikt Anthropic het?

Een watermerk is hier een onzichtbaar patroon in de tekst. Het is niet bedoeld om door mensen gelezen te worden. Wel kunnen partijen die over de juiste sleutel beschikken het patroon herkennen en zo aantonen dat de tekst door een AI is gemaakt.

Anthropic zegt dat deze maatregel vooral komt door de EU AI Act, waarin staat dat grote AI-makers moeten zorgen dat AI-gegenereerde inhoud herkenbaar is.

Hoe werkt het in de praktijk?

Anthropic gebruikt een methode die lijkt op SynthID-Text, een aanpak die eerder door Google DeepMind werd beschreven. In eenvoudige woorden werkt het zo:

• Claude maakt soms kleine, onopvallende keuzes bij woorden of formuleringen (bijvoorbeeld: "grijs" of "grijsachtig").

• Door slim te kiezen tussen zulke opties kan Claude een patroon aanbrengen dat niet opvalt voor mensen, maar wel aanwijsbaar is voor wie de sleutel heeft.

• Anthropic zegt zelf dat een watermerk geen invloed heeft op de kwaliteit van de tekst. Voor een lezer is een gewatermerkte tekst volgens het bedrijf niet te onderscheiden van gewone tekst.

Anthropic wil ook een detectie-API uitbrengen. Een API (een manier voor andere programma's om automatisch met Claude of diens diensten te communiceren) maakt het mogelijk dat andere systemen automatisch kunnen controleren of een tekst een watermerk bevat.

Wat gebeurt er bij bewerken of herschrijven?

Een belangrijke vraag is of je het watermerk kunt ‘wegwerken’ door de tekst te bewerken. Anthropic geeft hierover twee duidelijke scenario’s:

• Licht redigeren: kleine aanpassingen en proeflezen zullen het watermerk waarschijnlijk niet helemaal verwijderen. Er blijven dan nog genoeg signalen over.

• Volledige herschrijving: als iedere zin en elk woord volledig wordt vervangen, dan verdwijnt het watermerk meestal. In dat geval kun je je afvragen of de tekst nog als "AI-gegenereerd" te beschrijven is.

Ook hangt het af van hoeveel Claude al heeft geschreven. Als Claude alleen maar kort heeft geholpen met proeflezen, en bijna alle woorden door de mens zijn geschreven, dan is er nauwelijks iets waar het watermerk zich aan kan hechten.

Hoe zit het met code?

Code is anders dan gewone lopende tekst. Werkende code laat vaak weinig keuzevrijheid in woordkeuze: variabelen, functies en syntaxis moeten kloppen. Daardoor is er minder ruimte om een watermerk in te bouwen.

Anthropic zegt zelf dat code daarom doorgaans veel minder of zelfs verwaarloosbaar gewatermerkt zal zijn. Wel is het mogelijk dat het watermerk in plekken als commentaren of andere vrije tekst in de code verschijnt, omdat daar meer keuzevrijheid is.

Hoe reageerden gebruikers?

De aankondiging riep gemengde reacties op.

• Sommige gebruikers voelden zich aangesproken en vonden het een grensoverschrijdende maatregel. Er verschenen berichten van mensen die hun abonnement opzegden.

• Anderen reageerden dat het watermerk nodig is om eerlijkheid te bewaren: volgens hen is het alleen problematisch als iemand probeert te liegen over de herkomst van tekst.

Op forums en sociale media ontstonden soms felle discussies, variërend van zorgen over privacy tot de vraag wat dit betekent voor dagelijks gebruik van AI.

Wat betekent dit voor andere AI-makers?

Anthropic benadrukt dat Claude niet de enige dienst is die watermerken gaat gebruiken. Andere grote ontwikkelaars hebben volgens Anthropic ook ingestemd met vergelijkbare afspraken en zullen hun eigen watermerkmethodes invoeren.

Conclusie

Anthropic brengt onzichtbare watermerken in Claude aan om te voldoen aan EU-regels en om AI-gegenereerde tekst te kunnen herkennen. Voor de gewone lezer verandert er weinig: gewatermerkte tekst zou er hetzelfde uit moeten zien. Wel maakt het verschil voor situaties waar het belangrijk is te weten of tekst door een mens of door een AI is gemaakt. Licht redigeren verwijdert het watermerk meestal niet; alleen een volledige herschrijving doet dat. Bovendien zal code door de technische beperkingen doorgaans weinig watermerk bevatten, behalve in vrije tekst zoals commentaar.