← Terug naar kennisbank

AI Nieuws

OpenAI brengt nieuwe maatregelen tegen kindermisbruikbeelden

OpenAI brengt nieuwe maatregelen tegen kindermisbruikbeelden

·

Leestijd: 4 min

OpenAI heeft nieuwe maatregelen aangekondigd om materiaal van seksueel misbruik van kinderen (CSAM) tegen te gaan. De maatregelen omvatten een beeldclassifier die CSAM kan herkennen, waarschuwingen en tijdelijke blokkades in ChatGPT, richtlijnen voor ontwikkelaars en speciale hulpmiddelen voor opsporingsdiensten.

Nieuwe beeldclassifier

OpenAI ontwikkelde een nieuwe beeldclassifier die foto’s en afbeeldingen kan analyseren op tekenen van CSAM, ook wanneer die met AI zijn gemaakt. De classifier geeft een score die aangeeft hoe waarschijnlijk het is dat een afbeelding misbruik laat zien. Die score helpt mensen die inhoud beoordelen om sneller en gerichter beslissingen te nemen.

OpenAI werkt samen met organisaties als het National Center for Missing and Exploited Children (NCMEC) en deelt de tool in een vroeg stadium met geselecteerde bedrijven. Het bedrijf biedt toegang tot de classifier via een API (een techniek waarmee andere bedrijven software met OpenAI kunnen laten communiceren) zonder kosten voor die partners.

In tests met partners bleek de classifier minder valse positieven te markeren: hij gaf 48% minder flags terwijl hij evenveel misbruikbeelden vond. Afbeeldingen die wél worden gemarkeerd, bleken twee keer zo vaak daadwerkelijk misbruik te bevatten. Dat vermindert de hoeveelheid onbruikbaar werk voor mensen die reviews doen.

Waarschuwingsschermen en tijdelijke blokkades in ChatGPT

ChatGPT krijgt nieuwe waarschuwingen voor iedereen die prompt-teksten probeert te gebruiken die kinderen sexualiseren. Bij zulke pogingen verschijnt een melding, wordt de gebruiker doorverwezen naar gespecialiseerde hulp om schadelijk gedrag te stoppen en kan het account tijdelijk worden geblokkeerd—standaard 24 uur als waarschuwing.

De app blokkeert al direct verzoeken of inhoud met CSAM. Als iemand herhaaldelijk regels overtreedt, kan OpenAI het account permanent verwijderen.

De formulering van deze meldingen en beleid is opgesteld samen met deskundige organisaties en onderzoekers, zoals Protect Children, de Lucy Faithfull Foundation en onderzoeker Joel Scanlan van de University of Tasmania. Uit een onafhankelijke proef bleek dat afschrikwekkende berichten zoekgedrag naar illegale beelden konden verminderen.

Richtlijnen voor ontwikkelaars en hulp voor opsporing

OpenAI publiceert ook richtlijnen voor ontwikkelaars die de tools gebruiken. Die richtlijnen leggen uit hoe je CSAM kunt voorkomen, detecteren en melden. In vroegere tests hielpen deze regels ontwikkelaars om kindveiligheidstools te implementeren en zich te registreren om CSAM bij NCMEC te melden.

Daarnaast levert OpenAI speciale middelen voor opsporingsdiensten. Dat zijn onder meer:

  • plugins (extra softwaremodules) en onderzoekstools voor het analyseren van grote hoeveelheden data;

  • geavanceerde analysemogelijkheden om patronen en verbanden te vinden;

  • toegangsbeheer zodat alleen bevoegde personen de krachtige tools mogen gebruiken;

  • trainingen en een veldgids voor onderzoekers over het gebruik van AI in onderzoeken.

Deze maatregelen zijn bedoeld om het werk van opsporing te ondersteunen, niet te vervangen.

Achtergrond en kritiek

OpenAI staat onder druk nadat verschillende rechtszaken en kritische rapporten de afgelopen jaren hebben aangegeven dat AI-systemen schade konden toebrengen, onder meer aan jongeren. Non-profitorganisatie Common Sense Media noemde OpenAI’s technologie eerder een ‘onacceptabel risico’ voor tieners. Andere AI-chatbots zijn ook misbruikt om niet-consensuele, seksueel getinte afbeeldingen te maken, soms zelfs van kinderen.

Als reactie heeft OpenAI het afgelopen jaar vaker wijzigingen doorgevoerd: een veiligheidsplan vrijgegeven, inhoudsregels aangescherpt, modellen aangepast om schadelijke output te voorkomen en een speciale versie van ChatGPT voor tieners uitgebracht.

Conclusie

Met de nieuwe beeldclassifier, waarschuwingen in ChatGPT, richtlijnen voor ontwikkelaars en hulpmiddelen voor opsporing probeert OpenAI het risico op verspreiding van CSAM te verkleinen. De maatregelen richten zich zowel op het voorkomen van toegang tot schadelijke inhoud als op het ondersteunen van mensen en organisaties die onderzoeken uitvoeren.

Voor jou betekent dit dat platforms die OpenAI-techniek gebruiken in de toekomst beter uitgerust kunnen zijn om misbruik te signaleren en te melden, én dat het voor kwaadwillenden lastiger moet worden om dit soort materiaal te maken of te vinden.