Jij ziet het waarschijnlijk ook: het internet staat vol met teksten en plaatjes die deels of volledig door AI zijn gemaakt. Een nieuw bedrijf uit New York, Pangram, wil daar iets tegen doen en kreeg daar recent 9 miljoen dollar voor.

Wat doet Pangram?

Pangram bouwt software die probeert vast te stellen of een tekst of afbeelding door een mens is gemaakt of door een AI. Het bedrijf lanceerde een nieuwe tekstdetector, Pangram 4, en een beelddetector, Pangram Image. De investeringsronde werd geleid door Menlo Ventures, met deelname van onder meer Haystack, ScOp, Script Capital en Cadenza.

Pangram biedt een betaalde webdienst en een Chrome-extensie die direct aangeeft of posts op platforms zoals X, LinkedIn, Substack, Reddit en Medium waarschijnlijk door AI gemaakt zijn. De extensie laat ook een zogenoemde feed health score zien: een percentageverdeling van menselijk vs. AI-content op het scherm.

Daarnaast is er een API (programma‑interface waarmee andere diensten de detectie kunnen gebruiken) die door platforms als Substack en Quora en door scholen, uitgevers en recruiters gebruikt wordt.

Hoe werkt de detectie?

Pangram heeft modellen getraind op tientallen miljoenen documenten waarvan bekend is dat ze door mensen zijn geschreven. Voor elk menselijk document maakten ze een 'synthetische spiegel': een variant met hetzelfde onderwerp, lengte en toon, maar geschreven door een modern taalmodel.

Het detectiemodel leert zo systematisch terugkerende stijlkeuzes van AI te herkennen. Pangram zegt dat Pangram 4 meer dan 99% nauwkeurig is in het vinden van volledig door AI gemaakte teksten en gemengde vormen van mens‑en‑AI-samenwerking. Volgens het bedrijf kijkt het systeem niet naar verborgen metadata of watermerken, maar naar stilistische en statistische kenmerken.

Pangram Image werkt op pixelniveau en leert subtiele statistische verschillen tussen echte foto’s en AI‑gegenereerde beelden. Het model kan zelfs een AI‑plaatje detecteren dat in een echte foto is geplakt en toont een heatmap waar het verdachte delen ziet. Dit model is eerst als onderzoekspreview beschikbaar en wordt binnenkort breder uitgerold.

Wanneer is detectie belangrijk?

Er zijn meerdere situaties waarin weten of iets door AI is gemaakt ertoe doet. Voorbeelden uit de praktijk:

• Een politicus die per ongeluk een door AI gegenereerde tekst voorleest, wat tot verlegenheid leidt.

• Advocaten die onjuiste of verzonnen bronvermeldingen van AI gebruiken en daarvoor sancties krijgen.

• Wetenschappelijke archieven die strengere regels gaan toepassen als auteurs LLM‑output niet zorgvuldig controleren.

Er is dus zowel maatschappelijke als institutionele druk om duidelijker te maken wanneer AI is gebruikt.

Wie concurreert er en hoe gebruiken organisaties Pangram?

Pangram is niet de enige speler. Concurrenten in deze markt zijn onder meer Winston AI, Originality.ai, Copyleaks en GPTZero.

Verschillende organisaties gebruiken detectie op uiteenlopende manieren:

• Platforms zoals Substack tonen lezers welke auteurs AI gebruiken.

• Onderwijsinstellingen en uitgevers controleren inzendingen op hallucinaties en langere reeksen foute referenties.

• Recruiters en bedrijven screenen content om betrouwbaarheid te beschermen.

Pangram biedt zowel een abonnement van ongeveer 20 dollar per maand voor individuele gebruikers als een API voor bedrijven en platforms.

Werkt het altijd?

Uit tests blijkt dat Pangram erg goed is in het vinden van volledig AI‑gegenereerde artikelen en dat het systeem moeilijk te misleiden is met eenvoudige bewerkingen. Pangram zegt dat ongeveer 1 op de 10.000 menselijke documenten ten onrechte als AI wordt aangeduid. In praktijk betekent dit dat het model zeer nauwkeurig is, maar niet onfeilbaar.

Er zijn ook grijze gebieden. Pangram probeert niet alleen te detecteren of iets volledig door AI is geschreven, maar ook of iemand AI heeft gebruikt als hulpmiddel, bijvoorbeeld om een tekst te redigeren of te verbeteren. In sommige tests gaf Pangram een deelscore voor AI‑assistentie terwijl het oorspronkelijke artikel wel degelijk menselijk geschreven was. Ook gebeurde het dat door mensen herschreven zinnen alsnog als AI werden gelabeld.

Bij beelden werkte de detector meestal goed, maar ook daar komen af en toe foutjes voor. In één test werd een foto van een AI‑beeld ten onrechte als menselijk bestempeld.

Conclusie

Pangram bouwt aan een technologie die helpt scheiden wat menselijk is en wat door AI is gemaakt. De nieuwe modellen blijken krachtig en zijn al in gebruik bij platforms en instellingen. Tegelijkertijd blijven er uitzonderingen en onduidelijke gevallen bestaan. Pangram wil volgens de oprichters niet jagen op mensen die AI gebruiken, maar wel voorkomen dat onbetrouwbare of misleidende AI‑content ongemerkt de boventoon voert.

Of en hoe deze detectie op grote schaal uiteindelijk werkt, hangt af van technische verbetering én van hoe platforms en organisaties kiezen ermee om te gaan.