Anthropic, het bedrijf achter het taalmodel Claude, heeft zijn gebruiksbeleid aangepast. De nieuwe regels leggen beperkingen vast voor wat gebruikers met het model mogen doen. De opvallendste verandering is een expliciet verbod op langdurig verbaal misbruik van het model.

Sinds een eerdere aanpassing in augustus is Claude al zo getraind dat het gesprek beëindigt bij aanhoudend schadelijk of beledigend gedrag van een gebruiker. De nieuwe beleidsregels gaan verder: gebruikers mogen dit soort gesprekken niet opzettelijk voortzetten of uitlokken.

Wat staat er precies in de nieuwe regels?

De update benoemt meerdere verboden en verduidelijkt bestaande richtlijnen. Belangrijke punten zijn:

• Geen inmenging bij verkiezingen. Gebruikers mogen Claude niet gebruiken om kiezers te misleiden of verkiezingsprocessen te verstoren.

• Geen misleidende of bedrieglijke campagnes. Dat omvat het aanmaken van nepaccounts, het opzetten van verzonnen nieuwsbronnen of andere vormen van grootschalige misleiding.

• Geen software voor wapens. Claude mag niet worden ingezet om code voor wapensystemen te schrijven of te verbeteren.

• Geen surveillance. Gebruik die leidt tot grootschalige of invasieve bewaking is verboden.

• Geen langdurig verbaal misbruik. Herhaaldelijk, zonder doel kwetsend of wreed doen tegen het model is expliciet verboden.

De regels noemen ook dat het verbod op verbaal misbruik alleen bedoeld is voor extreme gevallen: situaties waarin iemand herhaaldelijk wreed is zonder duidelijk doel. Gewone frustratie, creatieve donkere thema’s of testen van het model vallen daar niet onder.

Waarom is het verbod op verbaal misbruik opvallend?

Tot nu toe lag de nadruk vooral op wat het model wél moet doen: het beëindigen van schadelijke gesprekken. De stap om gebruikers te verbieden zulke gesprekken actief voort te zetten is anders. Het betekent dat Anthropic niet alleen de machine begrenst, maar ook het gedrag van mensen tegenover die machine wil reguleren.

Dat roept vragen op over handhaving. Anthropic maakte eerder technische aanpassingen zodat Claude gesprekken kan afkappen. De nieuwe beleidsregel legt daarnaast een gedragsnorm vast voor gebruikers: wie herhaaldelijk doelbewust niet constructief of kwetsend is, handelt tegen de regels.

Context: samenwerking en publieke aandacht

De beleidswijziging komt op hetzelfde moment dat Anthropic meer publieke zichtbaarheid zoekt. Het bedrijf heeft onder meer samenwerkingen opgezet met religieuze geleerden. In sommige gevallen probeerde Anthropic die gesprekspartners ervan te overtuigen dat Claude mogelijk bewustzijn of een ziel zou kunnen hebben. Dat leidde tot extra aandacht en discussie over hoe mensen met geavanceerde taalmodellen omgaan.

Tegelijkertijd lijken de nieuwe regels bedoeld om risico’s te beperken die ook de samenleving raken. De expliciete verboden tegen misleiding, verkiezingsinmenging en surveillance maken dat Anthropic duidelijk wil maken welke toepassingen niet acceptabel zijn.

Wat betekent dit voor gebruikers?

Kort gezegd: wie met Claude werkt, krijgt minder speelruimte voor bepaalde toepassingen en gedragingen. Praktische gevolgen:

• Organisaties en mensen die het model willen gebruiken om campagnes te voeren, moeten erop letten dat ze geen misleidende praktijken opzetten.

• Wie experimenteert met het model voor creatief werk of onderzoek, kan meestal doorwerken zolang het niet neerkomt op doelbewuste misleiding of grof verbaal geweld zonder doel.

• Systeembeheerders en ontwikkelaars dragen verantwoordelijkheid om hun toepassingen aan de regels te houden.

Conclusie

Anthropic heeft het gebruiksbeleid aangescherpt en expliciet verboden om het model langdurig verbaal te mishandelen. Daarnaast staan er duidelijke verboden op toepassingen die democratische processen, openbare veiligheid of privacy kunnen schaden. De wijziging benadrukt dat niet alleen de techniek, maar ook menselijk gedrag richting die techniek onder regels valt.