Een onderzoeker bij het AI‑bedrijf Anthropic is deze week opgestapt en publiceerde een ferme waarschuwing op X: het bedrijf zou volgens hem “recht op zelfverbeterende superintelligentie afrennen” en daarmee ons leven riskeren. De waarschuwing kreeg extra gewicht toen de verantwoordelijke voor veiligheid binnen Anthropic hetzelfde bericht ondertekende in plaats van het te nuanceren.

Wat is er precies gebeurd

De onderzoeker plaatste een open bericht op X met kritiek op de koers van Anthropic. Hij zei dat het bedrijf te snel werkt aan systemen die zichzelf kunnen verbeteren en uiteindelijk een vorm van superintelligentie zouden kunnen worden — systemen die slimmer zijn dan mensen en moeilijk te controleren zijn.

De ‘alignment lead’ van Anthropic ondertekende hetzelfde bericht. De term alignment lead verwijst naar de persoon binnen een bedrijf die zich bezighoudt met het zorgen dat AI‑systemen zich gedragen volgens menselijke waarden en veilig blijven. Dat iemand met die taak publiekelijk meetekent, is ongebruikelijk en versterkt de ernst van de waarschuwing.

Waarom de timing opvalt

De waarschuwing komt op een moment dat er berichten zijn dat Anthropic mogelijk een beursgang voorbereidt. Een beursgang (beursintroductie van een bedrijf) zet bedrijven extra in de schijnwerpers: meer investeerders, meer druk om snel resultaten te laten zien en meer publieke vragen over risico’s.

Die combinatie — intern ongenoegen over veiligheidsrisico’s plus externe druk om te groeien en geld op te halen — maakt het verhaal meer dan alleen een interne ruzie. Het zorgt voor discussie over hoe bedrijven de ontwikkeling van krachtige AI technisch en bestuurlijk beheersen, en of die beheersing altijd effectief kan zijn als er veel commerciële druk is.

De bredere context: wat gebeurde er deze week nog meer in tech en AI

De situatie bij Anthropic past in een bredere golf van ontwikkelingen in technologie en investeringen. Belangrijke punten uit het nieuws van deze week:

• Apple zette sterk in op AI tijdens een hardware‑evenement, met nieuwe functies voor de iPhone, Apple Watch en AirPods. Vooral functies die altijd luisteren en reageren, kregen aandacht.

• Stokes Space haalde 1 miljard dollar op om herbruikbare raketten te bouwen. De investering volgt op verschuivingen in de markt nu SpaceX geleidelijk stopt met sommige oudere raketten.

• De startup Cognition kreeg 2 miljard dollar aan investeringen en werd gewaardeerd op 48 miljard dollar. Dat laat zien dat investeerders nog veel kansen zien in AI die code schrijft of helpt bij programmeren.

• Een nieuw bedrijf voor drijvende kernreactoren haalde 50 miljoen dollar aan startkapitaal. Die technologie wordt genoemd in verband met de vraag naar stabiele, krachtige stroomvoorziening voor grote AI‑datacenters.

Samen laten deze zaken zien dat er zowel veel geld als veel ambitie in AI en aanverwante sectoren zit — en dat infrastructuur en energie een groeiend aandachtspunt zijn.

Conclusie

De openbare waarschuwing van een Anthropic‑onderzoeker, gesteund door de interne veiligheidsverantwoordelijke, zet de discussie over risico’s van krachtige AI weer scherp op de agenda. De gebeurtenis krijgt extra betekenis door het moment waarop het plaatsvindt: een mogelijke beursgang en een industrie die in hoog tempo ontwikkelt en veel investeerders aantrekt.

De uitkomst is onzeker. De gebeurtenis benadrukt wel dat vragen over veiligheid, governance en de maatschappelijke gevolgen van AI steeds minder theoretisch zijn en steeds meer invloed hebben op bedrijfsbesluiten en investeringstransacties.