Twee bekende New Yorkers — burgemeester Zohran Mamdani en actrice en activist Ilana Glazer — spraken samen over kunstmatige intelligentie (AI) tijdens een bijeenkomst in Webster Hall in Manhattan. Mamdani vroeg het publiek zich niet te laten meeslepen door het gevoel dat AI onvermijdelijk is, maar zelf grenzen te stellen en verantwoordelijkheid te eisen.

Waarom Mamdani waarschuwt

Mamdani zei dat er een gevoel bestaat dat AI gewoon moet worden geaccepteerd, alsof er geen alternatief is. Volgens hem leidt die houding tot een ongecontroleerde invoering van technologie zonder dat er serieus wordt nagedacht over de beperkingen en risico’s.

Hij haalde scherpe voorbeelden aan om zijn punt te maken. Zo noemde hij een onderzoek naar een Amerikaanse militaire aanval op een school in Iran, waarbij meer dan honderd mensen omkwamen, waaronder veel kinderen. Onderzoekers stelden dat overmatig vertrouwen op AI bij het bepalen van doelwitten een factor kan zijn geweest. Mamdani benadrukte dat AI niet onfeilbaar is en dat het gevaarlijk is als alleen de ontwikkelaars bepalen hoe en wanneer systemen worden gebruikt.

Daarnaast wees hij op economische en maatschappelijke zorgen: banen die verdwijnen, het effect op de ontwikkeling van kinderen en het risico op aantasting van waardigheid en privacy. Ook noemde hij dat sommige bedrijven weinig verantwoordelijkheid lijken te nemen omdat ze liever hun winsten en mogelijke beurswaarde beschermen.

Acties van New York

Mamdani onderneemt zelf stappen in de stad om inwoners te beschermen en de invoering van AI te vertragen of te reguleren.

• De burgemeester verbood het gebruik van AI in basisscholen en zogenaamde middle schools, als maatregel om de rol van technologie in het onderwijs eerst goed te kunnen beoordelen.

• De stad introduceerde een voorstel dat verhuurders, makelaars en woningplatforms verplicht om duidelijk te vermelden wanneer foto’s of video’s van een woning met AI zijn gemaakt. Dit moet voorkomen dat mensen worden misleid door bewerkte of geheel valse advertenties — soms genoemd "house-phishing".

Beide maatregelen dagen de aanname uit dat scholen en het brede publiek AI maar moeten accepteren zoals het wordt opgedrongen.

Tekortschietende landelijke aanpak

Mamdani bekritiseert de federale overheid omdat die volgens hem de regie bij AI grotendeels overdraagt aan de bedrijven zelf. Op nationaal niveau wordt het debat vaak voorgesteld als een concurrentiestrijd met andere landen, zoals China, waardoor menselijke en ethische zorgen op de achtergrond raken.

Recent aangekondigde initiatieven op federaal niveau, waaronder een taskforce die bedrijven veel ruimte geeft om zichzelf te reguleren, zetten volgens Mamdani niet voldoende druk op de ontwikkelaars en techbedrijven. Dat gebeurt terwijl klokkenluiders van verschillende grote AI-onderzoeksbedrijven waarschuwen voor ernstige risico’s, inclusief scenario’s waarin AI grote gevolgen voor de mensheid kan hebben.

Ook speelt mee dat enkele grote AI-bedrijven dit jaar of binnenkort naar de beurs willen, wat extra nadruk legt op winst en groei — en minder op externe controle en verantwoording.

Conclusie

Mamdani roept op om niet automatische te accepteren dat AI zich vrij kan ontwikkelen zonder regels. Zijn boodschap is dat steden en burgers wél stappen kunnen zetten: door gebruik in scholen te beperken, transparantie te eisen bij woningadvertenties en bedrijven verantwoordelijk te houden. Volgens hem is een andere, steviger landelijke aanpak nodig om te zorgen dat AI veilig en eerlijk wordt toegepast.