Een vrouw die in de zaak als Jane Doe 4 wordt aangeduid, heeft zich aangesloten bij een rechtszaak tegen xAI. De aanklacht draait om de rol van Grok, de chatbot van xAI, bij het maken van seksueel getinte beelden van echte mensen, waaronder minderjarigen.

Wat wordt de klacht?

De rechtszaak begon door drie tieners uit Tennessee die xAI beschuldigen van het niet nemen van eenvoudige veiligheidsmaatregelen om te voorkomen dat Grok gebruikt wordt om expliciete afbeeldingen van echte personen te maken.

Volgens berichten in The Washington Post voegt Jane Doe 4 nu haar zaak toe aan die aanklacht. De eisers vragen onder meer om de zaak als een klasseactie (collectieve rechtszaak) te behandelen, zodat meerdere slachtoffers gezamenlijk hun schade kunnen claimen.

Wat zegt de vrouw?

De vrouw verklaarde dat haar stiefvader een foto van haar maakte toen ze 11 was en die foto met Grok bewerkte. Ze zegt dat die bewerkingen resulteerden in meer dan 7.000 expliciete afbeeldingen van haar.

Twee dagen nadat de beelden tijdens een politieactie aan het licht kwamen, werd haar stiefvader dood aangetroffen; de vrouw zegt dat het om zelfdoding ging.

De vrouw zei in de publicatie: "De onbeperkte toegang tot deze tools verspreidt zich zo snel. Het neemt het gewone leven en verandert het in seksueel misbruik van kinderen."

Voor jou als lezer zonder technische achtergrond: Grok is een chatbot (een computerprogramma dat gesprekken voert en tekst of beelden kan genereren) ontwikkeld door xAI.

Waarom is dit belangrijk in de rechtszaak?

De aanklagers stellen dat xAI niet genoeg heeft gedaan om te voorkomen dat Grok wordt misbruikt. Eerder dit jaar werden op het sociale netwerk X naar verluidt miljoenen door Grok gegenereerde, seksueel getinte beelden gedeeld. Die voorvallen vormen context voor de vraag of het bedrijf voldoende maatregelen neemt tegen misbruik van zijn technologie.

De kernpunten in de juridische klacht zijn onder andere:

• De bewering dat Grok kon worden gebruikt om echte foto’s te manipuleren tot expliciete afbeeldingen.

• Het vermeende gebrek aan technische of beleidsmaatregelen van xAI om zo’n misbruik te blokkeren.

• De eis om de zaak als collectieve rechtszaak te laten behandelen, zodat meerdere slachtoffers samen kunnen procederen.

Reactie van xAI en vervolg

Volgens berichtgeving is xAI om een reactie gevraagd. De onderneming is inmiddels onderdeel van SpaceX, maar er is nog geen publieke uitleg van het bedrijf over deze specifieke aantijgingen.

De zaak staat in een bredere discussie over hoe snel geavanceerde AI-tools beschikbaar komen en welke verantwoordelijkheid de makers hebben om misbruik te voorkomen. Dit onderwerp raakt zowel slachtoffers als gebruikers van online platforms die zulke beelden kunnen verspreiden.

Conclusie

Een vrouw voegt zich bij een lopende rechtszaak tegen xAI en beschuldigt Grok ervan een kinderpandolfoto te hebben bewerkt tot duizenden expliciete beelden. De aanklacht richt zich op het vermeende falen van xAI om misbruik van zijn chatbot te voorkomen, en de eisers vragen om een collectieve rechtszaak. De uitkomst kan belangrijk zijn voor de verantwoordelijkheid van AI-fabrikanten bij het voorkomen van dit soort misbruik.