De makers van grote AI‑modellen bouwen steeds strengere veiligheidsmaatregelen in om misbruik tegen te houden. Die zogenoemde guardrails en speciale toegangsprogramma’s moeten voorkomen dat kwaadwillenden AI gebruiken voor cyberaanvallen. Maar diezelfde regels maken het werk van onderzoekers die zwakke plekken zoeken en dichten vaak lastiger.

Waarom die beperkingen er zijn

AI‑bedrijven stellen guardrails in om te voorkomen dat hun systemen stap‑voor‑stap instructies geven om schadelijke code of exploits te bouwen. Sommige modellen worden alleen beschikbaar gesteld aan zorgvuldig geteste gebruikers. In de VS leidde dit tot exportbeperkingen op bepaalde modellen van een grote aanbieder. Sindsdien kreeg één model beperkte toegang terug, en een ander model is weer publiek beschikbaar.

Tegelijkertijd bieden bedrijven wel speciale programma’s voor beveiligingsonderzoekers aan. Die programma’s vragen vaak om een uitgebreide screening voordat onderzoekers toegang krijgen tot modellen met minder beperkingen.

Hoe die maatregelen onderzoekers hinderen

Beveiligingsonderzoekers zeggen dat guardrails hun werk kunnen blokkeren. Hun taak is vaak om te controleren of een gemelde fout echt te misbruiken is. Dat betekent soms dat ze het model expliciet moeten vragen om een aanvalsmethode te simuleren of te analyseren. Als het model weigert te antwoorden, kan een belangrijke stap in het bevestigen en oplossen van een kwetsbaarheid wegvallen.

Een paar punten die onderzoekers noemen:

• Hetzelfde gereedschap kan zowel helpen bij verdediging als bij aanval, en dat maakt het moeilijk om het gebruik te scheiden.

• Guardrails reageren soms onvoorspelbaar; dezelfde vraag kan op verschillende momenten andere antwoorden geven.

• Strikte regels in clouddiensten verhogen het risico dat gevoelige informatie — zoals details van een kwetsbaarheid — onbedoeld wordt gedeeld of later in trainingen terechtkomt.

Hoe onderzoekers daarop reageren

Onderzoekers kiezen verschillende strategieën om met de beperkingen om te gaan. Een veelgenoemde aanpak is het gebruik van open‑source modellen die lokaal draaien. Open‑source (vrij beschikbaar en aanpasbaar) modellen kunnen zonder commerciële beperkingen gebruikt worden en bewaren vaak geen data in de cloud.

Andere reacties zijn:

• Sommige teams gebruiken commerciële modellen alleen voor omgekeerd ontwerpen (reverse engineering) en doen het daadwerkelijke kwetsbaarheidsonderzoek lokaal.

• Anderen trekken zich terug uit commerciële programma’s en stappen over naar buitenlandse of vrij downloadbare modellen die geen vetting of guardrails hebben.

• Een deel van de onderzoekers zegt dat zij AI vooral gebruiken om het werk sneller te maken, maar dat ze de eigenlijke ontdekking en uitwerking van een kwetsbaarheid zelf willen blijven doen.

Deze keuzes hebben gevolgen. Wanneer defensieve onderzoekers en consultants uitwijken naar buitenlandse modellen, ontstaat er een risico dat veilig onderzoek buiten westerse regels plaatsvindt. Tegelijk zorgt het ontbreken van vetting bij sommige modellen voor nieuwe onzekerheden over verantwoord gebruik.

De praktische gevolgen voor veiligheid

Onderzoekers geven aan dat tijd verloren gaat aan het ‘onderhandelen’ met het model — uitzoeken waarom een vraag niet beantwoord wordt — in plaats van aan het analyseren van de kwetsbaarheid zelf. Dat vertraagt patching en het afsluiten van lekken.

Sommige bedrijven en overheden kiezen er daarom voor om streng gecontroleerde toegang te geven aan vertrouwde teams. Maar dit brengt nieuwe keuzes met zich mee:

• Wie komt in aanmerking voor gecontroleerde toegang?

• Hoe houd je controle op misbruik zonder goede onderzoekers uit te sluiten?

• Leidt strengere beperking echt tot minder kwaad, of duwt het goedwillende onderzoekers naar alternatieven die moeilijker te reguleren zijn?

Conclusie

De veiligheidsmaatregelen rond grote AI‑modellen hebben een duidelijk doel: voorkomen dat ze worden misbruikt. In de praktijk bemoeilijken ze echter ook legitiem onderzoek naar kwetsbaarheden. Sommige onderzoekers schakelen daarom over op lokale of open‑source modellen, of gebruiken commerciële systemen alleen voor ondersteunend werk.

De uitdaging voor AI‑bedrijven en beleidsmakers is nu om een middenweg te vinden: hoe biedt je verantwoord toegang zodat verdedigers hun werk kunnen doen, zonder de deur open te zetten voor kwaadwillenden? Als die balans niet lukt, groeit het risico dat de verdedigers achterop raken in de snelle ontwikkeling van slimme aanvallen.