De Open Secure AI Alliance (OSAA) bestaat nog maar een week, maar heeft al meer dan 120 bedrijven aan zich gebonden. Nvidia nam het initiatief en samen richtten de leden een werkgroep op met de naam SAFE (Shared AI Findings Exchange). Deze werkgroep presenteert al voorstellen en laat die openlijk beoordelen door anderen. De Linux Foundation beheert die voorstellen namens de groep.

Wat is het doel van SAFE?

SAFE wil afspraken maken over hoe bedrijven op een veilige en eerlijke manier omgaan met AI-incidenten. De voorstellen richten zich op een paar eenvoudige, praktische zaken:

• hoe een AI-gerelateerd beveiligingsincident vertrouwelijk gemeld kan worden;

• hoe mensen en organisaties die mogelijk getroffen zijn snel worden geïnformeerd;

• hoe de oorzaak onderzocht kan worden zonder schuld te zoeken, zodat iedereen kan leren.

Deze principes zijn voorlopig niet spectaculair vernieuwend, maar wel belangrijk: ze leggen vast hoe bedrijven samenwerken na een fout of aanval. De aanpak is bedoeld om kennis te delen zonder bedrijven bang te maken om fouten te melden.

Ontmoeting op Black Hat en snelle actie

De voorstellen ontstonden terwijl leden bijeen waren op de Black Hat-conferentie, een belangrijk evenement in de wereld van cyberveiligheid. Dat laat zien dat de groep meteen praktische stappen zet en dat de technische gemeenschap er aandacht voor heeft.

De snelle actie past in een grotere context. Recent speelde in de VS de discussie of modellen uit China beperkt of verboden moeten worden, wat veel onrust veroorzaakte in de industrie. De snelle organisatie van OSAA en SAFE kan gezien worden als een strategie om zelf met oplossingen te komen in plaats van te wachten op regelgeving.

Wat leveren bedrijven al bij?

Leden van OSAA dragen ook concrete, vaak vrije software bij. Enkele voorbeelden:

• Nvidia levert een reeks open modellen en een open-source LLM-veiligheidsscanner genaamd Garak. Open source (publiek vrij toegankelijke softwarecode) betekent dat iedereen de code kan bekijken en gebruiken.

• Okta werkt aan technologie voor identiteit van software-agenten.

• Red Hat ontwikkelt regels en sturing voor het beheer van zulke agenten.

• Amazon bracht een open hulpmiddel om agents te bouwen, Strands Agents, en een autorisatietaal genaamd Cedar.

Door dit soort onderdelen te delen, ontstaat er mogelijk een set van gereedschappen waarmee bedrijven hun AI-systemen beter kunnen beveiligen of verdedigen tegen kwaadaardige AI-activiteiten.

Wie doet mee — en wie niet?

De alliantie telt veel bekende namen. Naast Nvidia zijn onder meer Adobe, BlackRock, Cisco, Intel, Microsoft en Visa betrokken. Ook platforms zoals Hugging Face zitten bij de groep.

Tegelijkertijd ontbreken enkele opvallende spelers tot nu toe, zoals Anthropic, OpenAI en Google. Interessant is dat OpenAI en Google wél het eerdere open schrijven ondertekenden dat deze alliantie mede inspireerde. Dat schrijven riep de Amerikaanse regering op open-source AI-werk te steunen in plaats van het te beperken; het werd door meer dan 200 technologiebedrijven ondertekend en ondersteund door Nvidia.

Anthropic heeft afstand genomen van het schrijven en van de alliantie tot nu toe, maar OpenAI en Google publiceren zelf ook modellen met open gewichten. Of zij zich later bij OSAA zullen voegen, is nog niet duidelijk.

Waarom dit voor bedrijven en gebruikers belangrijk is

Als bedrijven samen richtlijnen en open hulpmiddelen maken, kan dat meerdere voordelen hebben:

• sneller delen van kennis over kwetsbaarheden;

• minder onnodige angst en meer vertrouwen om problemen te melden;

• gezamenlijke bouwstenen om AI veiliger te maken, ook voor kleinere organisaties.

Of deze gezamenlijke inspanning grote problemen voorkomt, valt nog te bezien. Maar dat de groep zo snel in beweging komt, geeft aan dat veel bedrijven vinden dat samenwerken de beste weg is om risico’s te beheersen.

Conclusie

De Open Secure AI Alliance en de SAFE-werkgroep laten zien dat grote technologiebedrijven snel kunnen samenwerken aan gedeelde veiligheidsregels en aan open hulpmiddelen. Het initiatief begon onder leiding van Nvidia en groeide in korte tijd uit tot een brede alliantie met concrete bijdragen van verschillende partijen. Of alle belangrijke spelers uiteindelijk meedoen, en hoeveel effect dit op lange termijn heeft, moet blijken. Voor nu is duidelijk dat er een beweging op gang is gezet om AI-incidenten beter te melden, te analyseren en daarvan te leren.