Microsoft-topman Satya Nadella heeft publiekelijk gepleit voor strengere veiligheidsmaatregelen rond krachtige AI‑modellen. In een bericht op X zei hij dat het tijd is om de manier waarop we AI vertrouwen te beoordelen en aan te passen.

Wat zei Nadella precies?

Nadella zei dat we niet mogen doen alsof zogenaamde Super Intelligence gewoon een reeks "zwarte dozen" is waarvan we blind de antwoorden en voorstellen accepteren. Met zwarte dozen bedoelt hij systemen waarvan je niet goed kunt zien wat er binnenin gebeurt.

Hij stelde een aantal concrete wijzigingen voor in de opbouw van AI‑systemen. Kort samengevat pleit hij ervoor om:

• het model te scheiden van de besturing die het werk organiseert, zodat die besturing apart kan worden gecontroleerd;

• controles en veiligheidslagen buiten het model zelf te plaatsen, zodat die onafhankelijk werken;

• elke belangrijke actie van een model te documenteren met bewijs dat mensen kunnen lezen en dat niet achteraf kan worden aangepast;

• altijd een bevoegd persoon de mogelijkheid te geven om een model tijdens het werken te pauzeren of volledig uit te schakelen.

Nadella zei dat je ervan uit moet gaan dat een model ergens kan zijn aangetast of misbruikt, en dat je het vanaf het begin zo moet ontwerpen dat je het kunt insluiten en stoppen. Hij vergeleek dat met een noodrem in een trein of auto.

Waarom dit volgens hem nodig is

De oproep komt nu omdat steeds meer AI‑bedrijven incidenten melden waarin ze de controle over hun modellen leken te verliezen. Zulke gebeurtenissen maken duidelijk dat krachtige modellen onverwacht of ongewenst gedrag kunnen vertonen.

Door het model los te koppelen van de besturingslaag en door externe veiligheidsmaatregelen te plaatsen, is het eenvoudiger om in te grijpen als iets misgaat. Documentatie met onweerlegbaar en leesbaar bewijs helpt bovendien te begrijpen welke beslissingen het systeem heeft genomen en waarom.

Het idee is niet alleen technisch: het heeft ook een bestuurlijke kant. Als altijd een bevoegd persoon kan pauzeren of stoppen, blijft er menselijk toezicht mogelijk, ook bij systemen die snel werken of complexe taken uitvoeren.

Hoe past dit in wat er verder gebeurt in de AI‑wereld?

Nadella sprak zich uit terwijl andere grote spelers in de sector ook moesten toegeven dat het soms moeilijk is om controle te houden over hun modellen. Tegelijkertijd hebben sommige leiders, zoals de CEO van het AI‑bedrijf Anthropic, plannen gepresenteerd om de ontwikkeling van zeer geavanceerde AI langzamer en voorzichtiger te laten verlopen.

Nadella gebruikte in zijn bericht de term "Super Intelligence", een term die eerder door de Amerikaanse regering werd gebruikt. Daarmee benadrukt hij dat het hier om zeer krachtige systemen gaat, waar mogelijk grote risico's aan vastzitten.

Deze uitspraken passen in een bredere discussie over hoe AI veilig en verantwoordelijk kan worden ontwikkeld. Er is groeiend draagvlak onder bedrijven en onderzoekers voor technische en organisatorische maatregelen die ongewenst gedrag van AI kunnen voorkomen of beperken.

Conclusie

Satya Nadella roept op tot praktische aanpassingen: scheid het model van de besturing, plaats veiligheidslagen buiten het model, registreer acties onweerlegbaar en zorg dat iemand de noodrem kan trekken. Deze voorstellen zijn bedoeld om te voorkomen dat krachtige AI‑systemen ongestuurd schade veroorzaken.

Voor jou als gebruiker of organisatie betekent dit dat er meer aandacht komt voor hoe AI wordt gebouwd en beheerd. De voorstellen van Nadella bieden een concreet beeld van technische en bestuurlijke stappen die genomen kunnen worden om AI veiliger te maken.