Google en onderzoekers van Google DeepMind hebben het DeepMind Institute opgericht. Het doel is om het gesprek over algemene kunstmatige intelligentie (AGI) breder en concreter te maken — niet alleen binnen de bedrijven zelf, maar ook bij de wereldwijde onderzoeks­gemeenschap.

De directie van het instituut bestaat uit DeepMind‑oprichter Shane Legg, Google‑bestuurder James Manyika en DeepMind‑voorzitter Demis Hassabis. Shane Legg vervult daarnaast de rol van eindredacteur.

Wat wil het instituut bereiken?

Het instituut zegt openlijk dat er vaak verschillende meningen zullen zijn tussen Google, DeepMind en onderzoekers buiten die organisaties. Deze meningsverschillen mogen zichtbaar blijven en zullen kunnen veranderen naarmate er meer informatie beschikbaar komt.

Het doel is geen uniform standpunt, maar juist het zichtbaar maken van die uiteenlopende visies. Zo moeten belangrijke keuzes rond veiligheid, regelgeving en openbaarmaking van modellen beter worden besproken en gewogen.

Eerste essays: waar gaat het over?

Het instituut start met een reeks van vier essays. Die behandelen uiteenlopende, concrete onderwerpen. De belangrijkste thema’s zijn:

• Economische maatregelen voor mogelijke verstoring door AGI.

• Hoe modellen hun redeneerstappen leesbaar kunnen houden, zodat mensen kunnen controleren wat een model doet.

• Principes die gericht zijn op menselijke welvaart en ethiek.

• Een kader om de krachtigste, meest geavanceerde AI‑modellen te beoordelen.

Deze essays zijn bedoeld als startpunt voor verder debat en als bron van voorstellen die beleidsmakers en bedrijven kunnen overwegen.

Meer aandacht voor transparantie

Twee onderzoekers van DeepMind, Rohin Shah en Anca Dragan, schrijven over wat zij noemen redenearings‑transparantie: het kunnen zien en controleren van de stapsgewijze redenatie van een model. Zij stellen dat het kleiner worden van dit controleerbare venster niet onvermijdelijk is.

Nieuwe modelontwerpen maken de krachtigste systemen soms moeilijker te volgen. Volgens de auteurs moet de veiligheidshandelingen hiermee rekening houden. Zij noemen een technisch begrip, "opaque serial depth", waarmee ze bedoelen hoeveel opeenvolgende rekenstappen een model kan uitvoeren zonder dat er een leesbaar redeneer­spoor ontstaat.

Als dat spoor verdwijnt, wordt het lastiger om te controleren waarom een model tot een beslissing komt. De onderzoekers pleiten daarom voor maatregelen zoals:

• Grenzen aan de hoeveelheid opeenvolgende berekeningen zonder controleerbaar spoor.

• Of verplichtingen voor ontwikkelaars om te laten zien dat minder transparante systemen toch even goed te monitoren zijn.

Deze voorstellen gaan over praktische veiligheidskeuzes: wil men meer mogelijkheden en minder zichtbaarheid, of meer zichtbaarheid met mogelijk beperktere functies?

Een voorstel voor een toetsingsorgaan

Demis Hassabis stelt in zijn essay voor om een door de Verenigde Staten geleide instantie te vormen die de meest geavanceerde AI‑modellen beoordeelt. Belangrijke punten uit dat voorstel:

• Ontwikkelaars zouden hun modellen vrijwillig kunnen aanbieden voor beoordeling, tot 30 dagen voor publicatie.

• Als het beoordelingssysteem betrouwbaar blijkt, zou het doorstaan van de toets later een vereiste kunnen worden voor inzet in de VS.

• De instantie zou eerst toetsen ontwerpen in overleg met AI‑bedrijven, maar later ook onafhankelijke, niet‑bekende evaluaties gebruiken — zogenaamde "held‑out" tests — zodat ontwikkelaars hun modellen niet op bekende toetsen kunnen afstemmen.

Hassabis schrijft dat het systeem strenger gemaakt kan worden als de situatie daarom vraagt. Dat zou in uiterste gevallen zelfs kunnen leiden tot een gecoördineerde vertraging van de ontwikkeling door de grootste spelers.

Een beweging naar concretere stappen

De essays verschijnen in een periode waarin het debat over AI‑veiligheid verandert. Waar eerder vooral algemene waarschuwingen klonken, schuift de discussie nu richting concrete voorstellen: meer openheid, toetsing door onafhankelijke partijen en, als dat nodig is, gezamenlijke vertragingen om risico’s te beheersen.

Deze ontwikkeling versnelde recentelijk doordat leiders in de sector delen van het plan van Anthropic‑topman Dario Amodei om de ontwikkeling te temperen, ondersteunen. Dat illustreert dat ideeën over regels en pauzes in de ontwikkeling nu serieus worden overwogen.

Conclusie

Het DeepMind Institute wil verschillende meningen rond AGI zichtbaar maken en aanjagen dat die meningen concreet worden uitgewerkt. De eerste essays bieden praktische ideeën: meer inzicht in hoe modellen redeneëren, toetsingskaders voor zeer krachtige systemen en mogelijkheden om development te vertragen als dat nodig blijkt.

Die voorstellen zullen een rol kunnen spelen in toekomstige wetgeving, industriestandaarden en de manier waarop bedrijven hun modellen testen en vrijgeven. Het instituut wil vooral zorgen dat het debat niet alleen bestaat uit waarschuwingen, maar ook uit uitvoerbare oplossingen.