Het internet kampt met een vertrouwensprobleem. AI-gegenereerde teksten en beelden duiken op waar mensen het niet verwachten: in sollicitaties, productreviews, verzekeringsclaims en zelfs nieuwsbrieven. Dat maakt het voor platforms en gebruikers lastig om te weten wat echt is en wat niet.

Wat doet Pangram?

Pangram is een van de startups die zich richt op dit vertrouwensprobleem. Het bedrijf kreeg recentelijk 9 miljoen dollar aan investering en heeft een samenwerking met Substack afgesloten. Substack gebruikt Pangram om lezers te laten zien welke auteurs hun nieuwsbrieven (deels) met AI schrijven.

Pangram bracht ook een nieuw detectiemiddel voor AI-gegenereerde afbeeldingen uit. Daarmee probeert het bedrijf vast te stellen of een tekst of beeld door een mens is gemaakt, of met hulp van een AI-model.

Waarom detecteren zo lastig is

Het klinkt simpel: je zou denken dat iets óf echt óf nep is. In de praktijk is het veel ingewikkelder. Enkele redenen:

• AI kan teksten en beelden maken die erg menselijk lijken, met natuurlijk ritme en fouten die je ook bij mensen ziet.

• Schrijven of ontwerpen gebeurt vaak met hulp van tools; mensen gebruiken AI om ideeën te krijgen, zinnen te verbeteren of afbeeldingen bij te werken. Wanneer telt dat nog als menselijk werk?

• Detectietools geven geen absolute ja/nee-uitslag. Ze werken met waarschijnlijkheden en kunnen fouten maken: zowel vals-positieve als vals-negatieve signalen.

De oprichter en CEO van Pangram, Max Spero, besprak deze complicaties recent in een interview op de TechCrunch-podcast Equity. Hij benadrukte dat detectie niet alleen gaat om het herkennen van ‘kunstmatige’ patronen, maar ook om te bepalen waar de grens ligt tussen AI-assistentie en volledige AI-productie.

Waar zit de grens tussen hulp en creatie?

De vraag wanneer iets nog als menselijk werk telt, is niet alleen technisch maar ook moreel en praktisch. Enkele voorbeelden die dat illustreren:

• Iemand die een concepttekst door een AI laat herschrijven, maar zelf het onderwerp, de toon en de feiten bepaalt.

• Iemand die een volledige tekst door de AI laat schrijven en die slechts licht aanpast.

• Een beeld dat met AI is gegenereerd, maar door een ontwerper is aangepast en verder ontwikkeld.

Voor platforms en lezers is het relevant om te weten in welke van deze categorieën iets valt. Dat bepaalt de betrouwbaarheid van informatie en de mate waarin men iemand verantwoordelijk kan houden voor inhoud.

Wat betekent dit voor jou en platforms?

De ontwikkeling van detectietools zoals die van Pangram heeft directe gevolgen:

• Platforms kunnen transparanter worden over wanneer content met AI is gemaakt.

• Lees jij een nieuwsbrief of review, dan kun je voortaan mogelijk zien of er AI aan te pas kwam.

• Voor sollicitaties of officiële documenten betekent het dat organisaties extra controles kunnen inzetten om misbruik te voorkomen.

Toch blijft onzekerheid bestaan. Detectie helpt, maar lost niet alle problemen op. Tools geven signalen, geen kant-en-klare waarheid. Daarom is het belangrijk dat platforms duidelijke regels en labels ontwikkelen over wat ze verstaan onder AI-gebruik en wanneer iets als door AI gemaakt wordt gemarkeerd.

Conclusie

AI-detectie is geen simpele schakelaar tussen echt en nep. Startups zoals Pangram bouwen hulpmiddelen om betrouwbaarheid terug te brengen, maar de grootste uitdaging is het bepalen waar precies de grens ligt tussen AI-assistentie en volledige AI-creatie. Voor gebruikers en platforms betekent dit dat transparantie en heldere afspraken nodig zijn om vertrouwen te herstellen, terwijl detectietools blijven verbeteren.