Koning Charles hield een besloten bijeenkomst over kunstmatige intelligentie (AI) op zijn landgoed Dumfries House in Schotland. Aan tafel zaten invloedrijke mensen uit de technologiewereld en de Britse regering. De bijeenkomst trok aandacht omdat de koninklijke familie doorgaans politiek neutraal blijft, terwijl AI momenteel hoog op de agenda staat.

Wie was erbij?

• Leiders uit de techsector, waaronder Jensen Huang van Nvidia.

• Vertegenwoordigers van grote AI-bedrijven, zoals mensen van OpenAI en Anthropic.

• De nieuwe Britse AI-minister, Kanishka Narayan.

• Het hoofd van de Britse buitenlandse inlichtingendienst.

• Paolo Benanti, die de paus adviseert over AI.

OpenAI stuurde CFO Sarah Friar. Anthropic kwam met Tino Cuéllar, die de wereldwijde betrekkingen leidt en later zei dat het bedrijf vereerd was deel te nemen.

Wat zei de koning?

Koning Charles zei dat AI veel goeds kan brengen, bijvoorbeeld in de geneeskunde en wetenschap. Tegelijk waarschuwde hij dat de ontwikkeling van deze technologie zowel intrigerend als zorgwekkend is. Hij vroeg de aanwezigen om manieren te vinden om AI te controleren "voordat het te laat is".

Hij noemde expliciet het gevaar dat AI donkerdere capaciteiten kan ontwikkelen, mogelijk zelfs zodanig dat het mensenlevens schaadt. De koning sprak over de noodzaak om de "existentiële gevaren" serieus te nemen: wat gebeurt er als deze technologie in verkeerde handen valt of op catastrofale wijze wordt misbruikt?

Aan het eind van zijn toespraak riep hij op tot internationale samenwerking en consensus. Volgens hem is de taak niet alleen technische vooruitgang, maar ook zorgen dat die vooruitgang dienstbaar blijft aan mens en natuur.

Waarom deze bijeenkomst nu relevant is

De top van Charles komt op een moment waarop AI gespreksonderwerp nummer één is. Er spelen een aantal belangrijke knelpunten:

• Onvrede binnen bedrijven: recent stopte een onderzoeker bij Anthropic en waarschuwde online dat bedrijven "racen" naar veel slimere machines.

• Toegang en soevereiniteit: Anthropic beperkte de toegang tot sommige modellen tot Amerikaanse klanten. Dat schokte de Europese techsector en zette discussie over digitale onafhankelijkheid en "AI-soevereiniteit" in gang.

• Politieke en economische belangen: sommige leiders in de sector, zoals Sam Altman van OpenAI en Dario Amodei van Anthropic, riepen op om het tempo van ontwikkeling te vertragen. Anderen, zoals Nvidia’s Jensen Huang en politieke leiders in de VS, wezen dat af en benadrukken strategisch belang en concurrentie met landen als China.

• Marktplannen en veiligheid: bedrijven flirt hebben met grote beursintroducties (IPO’s), maar zorgen over veiligheid en regulering zetten die plannen onder druk.

Deze tegenstrijdige belangen laten zien hoe complex de situatie is. Technologiebedrijven, politiek en maatschappij hebben vaak andere prioriteiten. Daardoor is het lastig om snel één gezamenlijke koers te vinden.

Conclusie

Koning Charles vroeg leiders om niet alleen te streven naar technologische vooruitgang, maar ook naar regels en samenwerking zodat AI mensen blijft dienen in plaats van schade te veroorzaken. Zijn bijeenkomst bracht belangrijke spelers samen om deze vragen te bespreken, maar liet ook zien hoe verdeeld de meningen zijn.

De kernboodschap was helder: er is snel actie en internationale afstemming nodig om de voordelen van AI te benutten en de risico’s te beperken. Alleen zo blijft deze technologie een hulp in plaats van een bedreiging voor de samenleving.