De New York Times en The Daily News stellen dat OpenAI informatie heeft achtergehouden in een rechtszaak over copyright. De kranten zeggen dat OpenAI wel kon zoeken in trainingsgegevens en in chatgesprekken, terwijl het bedrijf dat altijd ontkende. Dit speelt in een zaak waarin de kranten OpenAI aanklagen omdat het modellen zou hebben getraind met hun journalistieke werk.

Waar gaat de zaak over?

De kranten zeggen dat OpenAI hun artikelen heeft gebruikt om taalmodellen te trainen. Volgens hen reproduceren de modellen soms stukken tekst uit die artikelen in antwoorden aan gebruikers. Daarom starten de kranten een rechtszaak: zij vinden dat hun werk zonder toestemming is gebruikt.

OpenAI heeft in de rechtszaak gezegd dat het niet mogelijk was om zijn trainingsdata of chatlogs goed te doorzoeken. Het bedrijf zei dat het technisch lastig en privacygevoelig zou zijn om hele grote datasets met gebruikersgesprekken te doorzoeken en te publiceren.

Wat onthulde een deposition?

In een door de rechtbank verordende verklaring in april zei een OpenAI-medewerker, Vinnie Monaco, volgens de kranten iets anders. Hij zou hebben aangegeven dat OpenAI intern wél al had gezocht in de trainingsgegevens op naar auteursrechtelijk beschermd materiaal.

Daarnaast komt naar voren dat OpenAI naar zeggen een database had opgebouwd met ongeveer 78 miljoen gede-ïdentificeerde (geanonimiseerde) ChatGPT-gesprekken. Die dataset zou zijn gemaakt om intern te onderzoeken hoeveel materiaal uit andermans werk door de modellen werd overgenomen.

Kort nadat de NYT de rechtszaak had aangespannen, zou OpenAI ook tools hebben ontwikkeld om te detecteren wanneer het model tekst letterlijk herhaalde. Eén van die onderdelen wordt genoemd als een “Bloom”-filter, onderdeel van iets dat binnen het bedrijf werd aangeduid als Project Giraffe.

Waarom is dat belangrijk voor de kranten?

De eisers (de kranten) wilden in het proces toegang tot grote aantallen chatlogs om te controleren of hun artikelen in de trainingsdata zaten en hoe vaak ChatGPT die teksten reproduceerde.

Aanvankelijk vroegen zij om een voorbeeld van 120 miljoen chatlogs. OpenAI wist dat terug te brengen tot 20 miljoen. Toen OpenAI die 20 miljoen logs vorig jaar aan de rechtbank gaf, vonden de kranten en de rechter dat veel stukken waren gecensureerd of weggelaten. De rechtbank noemde het voorbeeld zelfs zo zwaar geredigeerd dat het bijna onbruikbaar was.

De kranten beweren verder dat OpenAI na het indienen van de rechtszaak miljarden outputs heeft verwijderd in strijd met een bewaarorder van de rechtbank. Ook zeggen ze dat OpenAI miljoenen logs verving in het aangeleverde voorbeeld.

Als deze aantijgingen kloppen, hebben de kranten moeite gehad om toegang te krijgen tot precies die informatie die OpenAI intern al had verzameld. De kern van hun klacht is: OpenAI maakte het onnodig lastig om bewijs te krijgen dat het al had.

Ian B. Crosby, advocaat van de eisers, zegt daarover: als OpenAI echt dacht dat het werken van de kranten eerlijk en legaal gebruikte, dan zou het die waarheid niet hebben verborgen.

Wat vragen de kranten nu van de rechter?

De New York Times en The Daily News willen dat de rechter OpenAI strak straft voor het vermeend achterhouden van bewijs en het belemmeren van het onderzoeksproces. Concreet vragen ze onder andere:

• Dat de 20 miljoen chatlogs die OpenAI aanleverde niet mogen worden gebruikt als bewijs, omdat ze onbetrouwbaar zouden zijn.

• Dat de rechtbank aanneemt dat echte chatlogs zouden aantonen dat het model vaak stukken van de kranten reproduceerde.

• Dat OpenAI niet meer mag zeggen dat de geleverde logs geen grote mate van reproductie laten zien.

• Dat OpenAI de proceskosten betaalt die de kranten hebben moeten maken om dit bewijs te achterhalen.

Reactie van OpenAI

OpenAI ontkent de aantijgingen. Een woordvoerder, Drew Pusateri, zegt dat de kranten hun zaak verzwakken en daarom proberen toegang te krijgen tot privésgesprekken van gebruikers. Volgens OpenAI gaat het om privacy van mensen die niets met de zaak te maken hebben. Het bedrijf zegt verder dat het de privacy van gebruikers blijft verdedigen en gelooft dat het gebruik van materiaal onder de regels van "fair use" (redelijk gebruik) valt.

Conclusie

Het conflict draait om twee hoofdvragen: heeft OpenAI daadwerkelijk intern gezocht in trainingsdata en chatlogs op aanwezige krantenartikelen, en heeft het bedrijf daarbij informatie verborgen of verwijderd die van belang was voor de rechtszaak?

De kranten zeggen van wel en vragen nu strafrechtelijke maatregelen en vergoeding van kosten. OpenAI zegt dat de aantijgingen onjuist zijn en wijst op privacy van gebruikers. De rechtbank moet nu beslissen hoe zij met deze beweringen omgaat en of er consequenties komen voor OpenAI.

Voor jou als lezer is het een goed voorbeeld van hoe ingewikkeld moderne AI-zaken kunnen zijn: het raakt auteursrecht, privacy van gebruikers en de technische vraag of bedrijven wél of niet bij hun data kunnen. De uitkomst kan belangrijk worden voor hoe AI-bedrijven in de toekomst met data en bewijs omgaan.