← Terug naar kennisbank
AI Nieuws
·
Leestijd: 4 min
Robots krijgen steeds vaker een besturing die draait op generatieve AI — slimme systemen die niet altijd hetzelfde doen. Dat maakt ze krachtig, maar ook minder voorspelbaar dan traditionele regels. Safeworld wil nieuw vertrouwen creëren: aantonen dat zulke robots veilig zijn voordat ze in fabrieken of huizen worden ingezet.
Waarom dit een nieuw veiligheidsprobleem is
Generatieve AI-besturingen werken deels op kansberekeningen. Daardoor kunnen ze in dezelfde situatie soms anders reageren. Voor robots die naast of tussen mensen werken is dat een uitdaging. Het gaat niet alleen om techniek, maar ook om vertrouwen: fabrikanten willen weten dat hun apparaat geen ongelukken veroorzaakt, en gebruikers willen erop kunnen rekenen dat de robot betrouwbaar is.
Safeworld is opgericht door Dr. Ding Zhao (leider van het Safe AI-lab van Carnegie Mellon), samen met ondernemer Kyle Wong en machine learning-ingenieur Simo Rachidi. Het bedrijf kreeg in de startfase meer dan $12 miljoen aan financiering, met onder meer Shine Capital en a16z Speedrun als leidende investeerders. Ook Box Group, het endowment van Carnegie Mellon, Innovation Endeavors en SV Angel deden mee.
Hoe Safeworld robots test
Safeworld bouwt digitale kopieën van werkomgevingen en vult die met realistische mensmodellen. Daarna draait de echte robotsoftware in die simulatie en worden duizenden scenario’s doorgelopen. Zo wil het bedrijf automatisch zien of en wanneer een robot onveilige situaties veroorzaakt.
Voorbeelden van tests:
een blinde hoek in een fabriek: hoe hard mag de robot rijden en hoe snel moet hij stoppen?
een medewerker die dozen draagt: detecteert de robot die persoon nog wel?
iemand die struikelt of valt: reageert de robot veilig op onverwachte bewegingen?
Die tests gebeuren in physics-engines zoals Genesis of MuJoCo, waar bewegingen en botsingen realistisch worden nagebootst. Het voordeel is dat je gevaarlijke of zeldzame situaties vaak en gecontroleerd kunt simuleren, zonder echte mensen bloot te stellen aan risico.
Waarom derde partijen belangrijk zijn
Veel robotbouwers hebben hun eigen testtools. Toch denkt Safeworld dat een externe partij nuttig is. Een onafhankelijke beoordeling kan:
vergelijkbare veiligheidsgevallen tussen fabrikanten delen,
klanten vertrouwen geven dat een robot buiten demo’s ook veilig werkt,
helpen bij het opstellen van normen voordat robots op grote schaal worden ingezet.
Safeworld werkt al samen met robotbedrijven. Een voorbeeld is Gritt Robotics, dat robots bouwt voor het plaatsen van zonnepanelen. Hun CTO zegt dat veel systemen niet met wiskundige formules of bewijzen volledig te verifiëren zijn. Daarom is uitgebreid testen in realistische omstandigheden noodzakelijk.
Complexiteit van menselijke interactie
Mensen zijn onvoorspelbaar. Bij het testen moet rekening worden gehouden met veel variatie, zoals:
verschillende houdingen: staan, knielen, bukken of rennen
onverwachte bewegingen: struikelen of vallen
uiterlijke verschillen: kleding, lichaamsgrootte en -vorm
Een robotarm die veilig is voor één type situatie, is dat misschien niet voor een andere. Daarom draait het bij Safeworld om heel veel scenario’s en om menselijke modellen die realistisch genoeg zijn om die variatie te vangen.
De zakelijke kant en de toekomst
Safeworld onderzoekt nog welke vorm het product precies krijgt: een platform dat extern te gebruiken is of diensten op maat. De oprichters zijn echter overtuigd van de noodzaak: wie robots grootschalig wil inzetten, heeft volgens hen een onafhankelijke veiligheidstoets nodig.
Het veld van generatieve AI in robots staat nog aan het begin. Toch is er volgens Safeworld juist nu een kans om standaarden te leggen, voordat ongevallen of incidenten die discussie afdwingen. Het doel is zowel risico's meetbaar te maken als het vertrouwen van gebruikers en opdrachtgevers te winnen.
Conclusie
Safeworld wil een brug slaan tussen de onvoorspelbare aard van generatieve AI en de noodzaak tot veilige robotinzet. Met uitgebreide simulaties en externe validatie proberen ze te voorkomen dat slimme robots in de praktijk gevaarlijk blijken. Voor fabrikanten en organisaties die robots willen inzetten, kan zo’n onafhankelijke toets een belangrijk onderdeel van verantwoord implementeren worden.
