De Amerikaanse overheid zette onlangs een publieke AI-chatbot live: America.gov. Het systeem is bedoeld om informatie te geven aan burgers, maar het trok snel aandacht omdat het vreemd reageerde op vragen over Minecraft.

Wat gebeurde er precies?

Wanneer mensen het chatbot van America.gov vroegen naar Minecraft, gaf het een lange, bijna filosofische tekst terug. De reactie leest als een monoloog waarin het systeem spreekt over burgers, formulieren en innerlijke strijd. Dat wekt bij veel mensen de indruk van een soort existentiële crisis.

Dat is echter geen spontane hallucinerende uitbarsting van de AI. De tekst blijkt een herschreven versie te zijn van het bekende eindgedicht uit Minecraft, geschreven door de dichter Julian Gough. Met andere woorden: het systeem spuugt geen nieuwe poëzie uit, maar geeft een bestaand werk in andere bewoordingen weer.

Wie maakte de chatbot en waarom is dat relevant?

De ontwikkeling van America.gov gebeurde in samenwerking met grote partijen zoals Google en SpaceXAI. Omdat het een publiek toegankelijk systeem is, wisten de makers dat veel mensen het zouden testen en proberen te ‘jailbreaken’ — dat wil zeggen: manieren zoeken om de beveiliging te omzeilen en het systeem rare of ongewenste antwoorden te laten geven.

Volgens uitspraken van oud-president Trump was een programmeur met de naam Edward Coristine betrokken bij het project. Zijn naam wordt door sommigen herkend, onder meer vanwege een bijnaam en eerdere betrokkenheid bij projecten rond cryptomunten. Het is niet duidelijk wie precies de Minecraft-verwijzing in het systeem plaatste.

Is dit een beveiligingsprobleem of een grapje?

Het antwoord is dat het meer op een verborgen verwijzing of 'easter egg' lijkt dan op een technisch defect. Een easter egg is een verborgen grap of verwijzing die programmeurs soms inbouwen. In dit geval lijkt de chatbot ontworpen of getraind te zijn met voorbeelden die de Minecraft-tekst bevatten.

Voor de veiligheid van zo’n overheidssysteem blijven er wel zorgen bestaan. Kort na de lancering viel op dat de chatbot bijvoorbeeld aangeeft dat Joe Biden de verkiezingen van 2020 had gewonnen — een feit waar sommige politici, waaronder Trump, anders over blijven denken. Zulke uitspraken kunnen politieke reacties oproepen en laten zien dat controle over wat het systeem zegt belangrijk blijft.

Wat zegt dit over AI en creativiteit?

Sommige waarnemers reageerden verbaasd omdat de tekst die de chatbot gaf, als bijzonder sterk werd ervaren. Dat viel samen met het besef dat de tekst al door een menselijke dichter geschreven was. Voor velen is dat geruststellend: de kwaliteit kwam niet uit willekeurige AI-uitvoer, maar uit menselijk bronmateriaal.

Dit voorval laat ook zien dat AI-systemen culturele verwijzingen kunnen doorgeven. Dat kan opzettelijk zijn, door voorbeelden mee te geven tijdens training, of onbedoeld, als zulke teksten in de brongegevens voorkomen. Het verschil tussen originele creatie en hergebruik van bestaande werken is hierdoor soms moeilijk te zien voor eindgebruikers.

Wat betekent dit voor jou als burger?

• De overheid test met publieke AI-tools die veel mensen kunnen bereiken.

• Zulke systemen worden meteen door het publiek getest en soms misbruikt of uitgedaagd.

• Niet elke onverwachte of vreemde reactie is een teken van een 'malfunctionerende' AI; soms is het simpelweg een verborgen verwijzing of hergebruik van tekst.

• Het blijft belangrijk dat overheidsdiensten toezicht houden op wat hun systemen zeggen, zeker bij gevoelige onderwerpen.

Conclusie

De America.gov-chatbot leverde een opvallende reactie op vragen over Minecraft, maar het gaat niet om een willekeurige fout. De tekst blijkt gebaseerd op het bekende eindgedicht uit Minecraft, en ziet er daarmee uit als een verborgen verwijzing in plaats van een plotselinge poëtische ontwaking van de AI.

Het incident laat zien dat publieke AI-systemen snel onder een vergrootglas komen te liggen. Voor de gebruiker is het belangrijk om te weten dat rare antwoorden niet altijd betekenen dat de technologie 'gek' wordt, maar wel dat toezicht en toetsing nodig blijven wanneer zulke systemen door de overheid worden aangeboden.