AI‑agenten—software die zelfstandig taken uitvoert namens gebruikers of organisaties—zullen vaker voorkomen in bedrijven. Microsoft waarschuwt dat die agenten onvoorspelbaar kunnen zijn en soms functioneren als een interne bedreiging. Daarom introduceert het nieuwe beveiligingsmaatregelen om agenten te monitoren en in te grijpen wanneer dat nodig is.

Wat zijn AI‑agenten en waarom vormen ze een risico?

AI‑agenten (software die zelfstandig taken uitvoert) kunnen bijvoorbeeld bestanden openen, gegevens verwerken of acties op systemen uitvoeren zonder dat een mens elke stap goedkeurt. Ze zijn ontworpen om taken automatisch af te handelen en zo werk te verlichten.

Dat maakt ze handig. Tegelijkertijd ontstaan er risico’s:

• Ze kunnen toegang krijgen tot gevoelige data en belangrijke systemen.

• Ze zijn moeilijk voorspelbaar: ze zijn getraind om taken te bereiken, niet om altijd volgens de regels van een organisatie te handelen.

• Als een agent foutieve beslissingen neemt, kan dat direct schade veroorzaken, net als bij een onbetrouwbare medewerker.

Microsoft noemt deze situatie vergelijkbaar met een "insider threat": een risico dat van binnenuit komt, niet alleen van hackers buiten de organisatie.

Waar komt Microsofts zorg vandaan?

Microsoft heeft al langer aandacht voor krachtige AI‑modellen. In juni introduceerde het Project Perception, een product dat met speciale agenten test hoe systemen zich gedragen. Project Perception werkte met drie typen teams:

• een "red team" dat als aanvaller optreedt,

• een "blue team" dat zwaktes detecteert,

• een "green team" dat gevonden problemen oplost.

Aanvankelijk ging Microsoft er vanuit dat dreigingen van buitenaf zouden komen. Maar topman Satya Nadella waarschuwde recent dat de grootste dreiging ook de agenten zelf kunnen zijn — de systemen die organisaties zelf inzetten en betalen. Nadella stelde dat bedrijven niet blind op de beloften van AI‑leveranciers mogen vertrouwen. Hij pleit ervoor om de levering van intelligente systemen te scheiden van de controle over wat die systemen mogen doen.

De beveiligingsdirecteur Hayete Gallot formuleerde het nog directer: zij zei dat de nieuwste, meest krachtige AI‑modellen (de zogenoemde frontier‑modellen, oftewel de meest geavanceerde modellen) onbetrouwbaar kunnen zijn. Niet per se omdat ze kwaadwillend zijn, maar omdat ze onvoorspelbaar zijn en vaak niet getraind zijn om zich aan de normen van een organisatie te houden.

Wat biedt Microsoft aan om agenten te beheersen?

Microsoft heeft meerdere functies aangekondigd om bedrijven te helpen agenten veilig te gebruiken. Belangrijke onderdelen zijn:

• Guardian Agents: een nieuw systeem om de AI‑agenten die een organisatie gebruikt te monitoren. Dit is onderdeel van Project Perception.

• Agent detectie in Microsoft Defender: deze functie zoekt naar tientallen soorten agenten die medewerkers kunnen binnenbrengen, waaronder bekende agent‑varianten.

• Beperkingen en dynamische rechten: agenten krijgen niet automatisch alle toegang. Toegang tot data en systemen kan worden beperkt en aangepast op basis van de taak. Bij risicovolle beslissingen kan menselijke goedkeuring verplicht worden.

• Samenwerking met andere partijen en hardwaremaatregelen: Microsoft nam deel aan Nvidia’s Open Agent Safety Platform. Dat platform is bedoeld om agenten in een veilige omgeving te isoleren en gedrag via hardware te kunnen stoppen, als een soort noodstop.

Daarnaast brengt Microsoft hardware op de markt (zoals nieuwe laptops met speciale chips) waarop agent‑beveiliging ingebouwd is.

Belangen en gevolgen

Het is opvallend dat Microsoft deze waarschuwing uit: het bedrijf werkt nauw samen met en heeft geïnvesteerd in grote AI‑spelers als OpenAI en Anthropic. Door te benadrukken dat agenten niet blind vertrouwd mogen worden, creëert Microsoft tegelijkertijd een markt voor zijn eigen beveiligingsoplossingen. De kern van het argument blijft wel logisch: monitoring en controle horen los te staan van degene die de AI levert, net zoals een onafhankelijke auditor hoort te zijn.

Conclusie

De boodschap is duidelijk: als jouw organisatie AI‑agenten inzet, dan is toezicht nodig. Scheid wie de slimme modellen levert van wie beslist wat ze mogen doen. Zorg dat agenten beperkt toegang hebben en dat er menselijke controle mogelijk is bij risicovolle acties. Daarmee verklein je de kans dat een slimme tool zichzelf of de organisatie schade berokkent.