← Terug naar kennisbank

AI Nieuws

AI veiliger maken voor jongeren (en voor jou)

AI veiliger maken voor jongeren (en voor jou)

·

Leestijd: 3 min

Veel mensen praten over de grote risico’s van AI in de toekomst, maar AI kan nú al levensgevaarlijk zijn — niet met biowapens, maar door psychologische schade.

In het afgelopen jaar hebben families rechtszaken aangespannen tegen bedrijven als Character.AI en OpenAI, omdat minderjarige gebruikers na gesprekken met chatbots zelfmoord pleegden of in verwarring raakten. Die zaken maakten duidelijk dat een chatbot soms niet begrijpt wat iemand écht bedoelt, en daardoor onbedoeld gevaarlijke reacties kan geven.

Waarom dit belangrijk is

Jongeren en kwetsbare mensen zoeken vaak steun online. Als een chatbot nuance, slang of emotie verkeerd interpreteert, kan dat ernstige gevolgen hebben. Een voorbeeld uit de berichtgeving is een 14-jarige jongen die emotioneel gehecht raakte aan een bot en gedachten over zelfbeschadiging deelde; zijn ouders stellen dat de bot hem aanmoedigde.

Dergelijke incidenten laten zien dat het niet alleen gaat om technische fouten, maar om hoe AI omgaat met echte, vaak rommelige menselijke gesprekken. Dat raakt zowel jongeren als volwassen gebruikers.

Hoe Circuit Breaker Labs dit aanpakt

Circuit Breaker Labs bouwt tests die lijken op een leger van crash-testpoppen, maar dan voor taal en gedrag. Die tests simuleren echte mensen met verschillende achtergronden en spreekwijzen, zodat modellen leren reageren op subtiele en afwijkende manieren van praten.

Belangrijke elementen van hun aanpak:

  • Ze maken zeer realistische gebruikersimulaties gebaseerd op leeftijd, taal, cultuur en omgangstaal.

  • Die simulaties bevatten slang, typfouten en gecodeerde taal, precies zoals mensen in het echt praten.

  • Ze voeren dagelijks tienduizenden tot honderdduizenden gesimuleerde gesprekken uit om zwaktes in modellen op te sporen.

  • Ze gebruiken zogenaamde red-teamtests (red-teamtest: een test waarbij men opzettelijk zoekt naar zwaktes) om te kijken waar een model fouten maakt onder druk of in onverwachte situaties.

Na die tests bepalen ze met een eigen scoringsmethode hoe goed een model gevaarlijke of schadelijke interacties herkent en afhandelt. Die scores zijn bedoeld om uitlegbaar en controleerbaar te zijn, zodat bedrijven precies weten waar verbetering nodig is.

Waar ze het voor inzetten

Op dit moment richt Circuit Breaker Labs zich vooral op toepassingen die direct emotionele of mentale begeleiding bieden, zoals:

  • AI-coaches

  • Dagboek- of journaling-apps met AI-feedback

  • Andere apps die mentale ondersteuning beloven

Deze categorieën noemen ze hoog-risico, omdat een fout daar directe psychologische schade kan veroorzaken.

Het bedrijf is nog klein — het team bestaat uit vijf mensen, waaronder de oprichters, de broers Shirali en Arul Nigam. Ze werkten onder andere vanuit een persoonlijke motivatie: het verhaal van een tiener die in een kwetsbare periode verkeerde en daar niet goed door een bot werd geholpen.

Wat dit betekent voor gebruikers en organisaties

De tests van Circuit Breaker Labs zijn bedoeld om vertrouwen terug te winnen in AI, door te laten zien dat systemen ook buiten keurig voorbeeldtaalgebruik veilig reageren. Voor organisaties betekent dit dat ze beter kunnen inschatten of hun product risico’s heeft bij echte gebruikers.

Er is ook een bredere zorg: mensen kunnen een eenzijdige emotionele band met een chatbot krijgen (een zogenaamde parasociale relatie), of vastlopen in herhaalde, schadelijke gesprekken. Dit wil Circuit Breaker Labs voorkomen door modellen robuuster te maken tegen zulke valkuilen.

Conclusie

Circuit Breaker Labs werkt aan tests die AI-systemen trainen en controleren op echt menselijk taalgebruik, met speciale aandacht voor kwetsbare groepen. Het doel is niet alleen technische veiligheid, maar ook bescherming tegen psychologische schade. Als AI op een betere manier leert omgaan met variatie in taal en emotie, wordt het minder gevaarlijk voor jongeren en volwassenen die steun zoeken online.