← Terug naar kennisbank

AI Nieuws

OpenAI plaatst onzichtbaar merkteken in EU-versies van ChatGPT-tekst

OpenAI plaatst onzichtbaar merkteken in EU-versies van ChatGPT-tekst

·

Leestijd: 3 min

OpenAI start in de Europese Unie met het toevoegen van een onzichtbaar merkteken aan tekst die door ChatGPT en Codex is gemaakt. Dit doet het bedrijf omdat de EU-wetgeving voor kunstmatige intelligentie bedrijven verplicht AI-tekst herkenbaar te maken voor andere systemen.

Wat is er aangekondigd?

OpenAI zegt dat het merkteken de komende weken beschikbaar komt voor geschikte gebruikers van ChatGPT en Codex binnen de EU, ongeacht welk abonnement zij hebben. Ontwikkelaars die werken met de API (technische koppeling waarmee ontwikkelaars modellen in hun eigen apps gebruiken) kunnen het merkteken wereldwijd zelf inschakelen voor bepaalde modellen; standaard staat het dan uit.

Het merkteken geldt bij de start alleen voor EU-gebruikers van ChatGPT en Codex. OpenAI zegt dat het voorlopig geen wereldwijde verplichting maakt om teksten standaard te markeren.

Hoe werkt het merkteken?

Het merkteken is geen zichtbaar symbool of label. In plaats daarvan beïnvloedt het de woordkeuze van het model subtiel. Die kleine aanwijzingen samen vormen een patroon in de tekst dat mensen niet zien, maar een speciale detector wel kan herkennen als je de juiste sleutel hebt.

Belangrijke punten over de werking:

  • Het staat in de tekst zelf. Daardoor blijft het merkteken aanwezig wanneer tekst wordt gekopieerd en geplakt.

  • Het identificeert geen individuele gebruiker. OpenAI zegt dat het merkteken niet vertelt wie de tekst heeft gemaakt.

  • Technische methode. OpenAI publiceerde een technisch rapport over de methode, met de naam textGrain. Daarin staan voorbeelden van hoe een geheime sleutel wordt gebruikt om voorspellingen van het volgende woord te ordenen. Veel kleine aanpassingen samen maken het patroon detecteerbaar.

Beperkingen en praktische gevolgen

Het merkteken werkt niet altijd even goed. OpenAI testresultaten laten enkele zwaktes zien:

  • Vervangingen en bewerkingen verlagen de detectie. In één test zorgde het vervangen van 10% van de woorden door synoniemen dat detectie zakte van ongeveer 92% naar 66%.

  • Korte tekstjes, oplossingen voor rekenvragen en vertaalde tekst zijn lastiger te herkennen.

  • Het ontbreken van een merkteken betekent niet automatisch dat een mens de tekst schreef. Tekst kan te kort zijn, sterk bewerkt, of afkomstig van een ander AI-systeem.

Vanwege deze beperkingen geeft OpenAI in eerste instantie alleen detector-toegang aan goedgekeurde onderzoekers en deskundige organisaties. Zij moeten helpen beoordelen hoe betrouwbaar de methode is en hoe die verantwoord gebruikt kan worden.

Andere aandachtspunten:

  • Het merkteken werd eerder al ontwikkeld, maar OpenAI hield het achter omdat het vreesde dat gebruikers zouden overstappen naar concurrenten zonder merkteken.

  • Concurrent Anthropic kondigde eerder aan wereldwijd te willlen merken. Daardoor ontstaat discussie: sommige gebruikers vinden dat zij vooral de instructies en keuzes leverden, en zien het AI-model meer als een gereedschap.

Conclusie

OpenAI voert in de EU een onzichtbaar merkteken in voor door ChatGPT en Codex gemaakte tekst om aan de EU-regels te voldoen. Het merkteken werkt door subtiele aanpassingen in woordkeuze die met een geheime sleutel te detecteren zijn. De methode is niet perfect: bewerkingen, korte passages en vertalingen kunnen detectie bemoeilijken, en het ontbreken van een merkteken bewijst niet dat een mens heeft geschreven.

Deze stap past in een bredere beweging van AI-bedrijven die transparanter willen zijn over automatisch gegenereerde inhoud, maar roept ook vragen op over betrouwbaarheid en praktische toepasbaarheid in het dagelijks gebruik.