AI-systemen worden steeds krachtiger. Daardoor groeit ook de kans dat iemand die systemen misbruikt. Bedrijven die AI gebruiken willen bescherming tegen misbruik, maar ook dat hun eigen gegevens niet onnodig worden vastgehouden. Dit zorgt voor een lastige afweging tussen privacy en veiligheid.

Wat is Private Safety Processing?

OpenAI heeft een nieuwe dienst aangekondigd voor geselecteerde klanten: Private Safety Processing. Het is een automatisch systeem dat probeert misbruik te vinden terwijl het zegt geen klantgegevens te bewaren.

Het werkt zo:

• Een software-agent kijkt naar meerdere gesprekken van een gebruiker over tijd, niet alleen naar één losse sessie.

• De agent zoekt naar patronen die kunnen wijzen op misbruik, bijvoorbeeld iemand die stap voor stap vraagt hoe je iets kwaads bouwt.

• Als de agent iets verdacht ziet, stuurt het een nauwkeurig gedefinieerd signaal naar OpenAI.

• Op basis van dat signaal bepaalt OpenAI of er verdere actie nodig is. Daarbij kan OpenAI contact opnemen met de klant. De klant beslist zelf of hij meer data deelt.

OpenAI zegt dat menselijke controle niet standaard nodig is bij deze bewaking; de analyse gebeurt automatisch en er wordt geen complete inhoud van gesprekken bewaard tenzij dat later nodig blijkt.

Hoe verhoudt dit zich tot bestaande privacypraktijken?

Veel AI-aanbieders werken met een beleid dat Zero Data Retention (ZDR) wordt genoemd. Dat betekent dat klantdata niet duurzaam wordt opgeslagen; in plaats daarvan kijken automatische controles per sessie of er sprake is van misbruik, zonder gesprekken te bewaren.

Anthropic, een concurrent van OpenAI, heeft echter een ander beleid voor sommige modellen. Voor zogenaamde “covered models” — waaronder de Mythos-reeks en vergelijkbare toekomstmodellen — bewaart Anthropic gebruikersdata tot 30 dagen. Dat doet het bedrijf onder andere om veiligheidsproblemen te onderzoeken. Sommige klanten met veel gevoelige informatie zijn daar ongerust over, omdat hun gesprekken tijdelijk worden bewaard en mogelijk door mensen kunnen worden bekeken.

Belangrijke verschillen in één oogopslag:

• OpenAI (Private Safety Processing): automatische, over-meerdere-gesprekken analyse; geen standaarddatavastlegging; signaal naar OpenAI als er iets verdachts is.

• ZDR (algemeen): per-sessie automatische controle zonder opslag van klantdata.

• Anthropic (covered models): data wordt tot 30 dagen bewaard om veiligheidsonderzoek mogelijk te maken; menselijke beoordeling is mogelijk via beperkte en gelogde toegang.

Wat betekent dit voor bedrijven die AI gebruiken?

Private Safety Processing is ontworpen om misbruik te vinden dat zich over tijd verspreidt. Dat is handig tegen iemand die zijn verzoeken uitsmeert over meerdere sessies om detectie te omzeilen. Voor organisaties met gevoelige data zijn er twee belangrijke punten om op te letten:

• Controleer het databehoudsbeleid van de AI-aanbieder voor het specifieke model dat je gebruikt.

• Let op wat er gebeurt als een systeem een signaal afgeeft: wie krijgt dat signaal, en welke stappen kan de aanbieder zetten?

OpenAI geeft aan dat het contact zal opnemen en dat de klant kan kiezen of hij extra informatie deelt. Anthropic zegt dat menselijke reviews alleen via een streng gecontroleerd proces mogen gebeuren, en dat elke review wordt geregistreerd in een onveranderlijk logboek.

Waarom gebeurt dit nu?

De concurrentie tussen OpenAI en Anthropic is momenteel scherp. Uit recente berichten blijkt dat OpenAI in een kwartaal minder snel groeide dan Anthropic. Tegelijk heeft Anthropic naar verluidt een hoge jaarlijkse omzetrunrate. Beide bedrijven zoeken manieren om klanten aan zich te binden, en privacybeleid is een belangrijk verkoopargument geworden.

Conclusie

Er is een duidelijke spanning tussen veiligheid en privacy bij grote AI-modellen. OpenAI probeert met Private Safety Processing te laten zien dat misbruik opgespoord kan worden zonder standaard klantdata op te slaan. Anthropic kiest voor tijdelijke opslag van gesprekken bij bepaalde modellen, juist om veiligheidsonderzoek mogelijk te maken.

Jij die werkt met vertrouwelijke informatie doet er verstandig aan het databeleid van je AI-leverancier goed na te lezen en keuzes te baseren op welke garanties er zijn rond opslag, toegang en review.