← Terug naar kennisbank
AI Nieuws
·
Leestijd: 3 min
Anthropic ging naar de beurs op de Nasdaq en dat was een van de grootste beursgangen ooit. Tijdens de openingsceremonie sprak CEO Dario Amodei over waarom het bedrijf niet alleen snelle vooruitgang zoekt, maar vooral veiligheid en controle belangrijk vindt.
Oorsprong en doel van Anthropic
Amodei vertelde dat Anthropic is begonnen vanuit de wens om krachtige technologie te maken die mensen helpt. Zijn persoonlijke verhaal speelde een rol: hij verloor zijn vader aan een ziekte die later behandelbaar werd. Dat illustreert volgens hem dat wetenschappelijke doorbraken levens kunnen redden, maar vaak veel tijd kosten.
Anthropic ontwikkelt sterke taalmodellen waarmee onderzoekers sneller kunnen werken. In de tekst wordt genoemd dat deze systemen onderzoekers helpen bij onderwerpen als eiwitvouwing, medicijnontwikkeling en klinische studies. Die toepassingen kunnen tijd besparen en mogelijk medische vooruitgang versnellen.
Waarom Anthropic waarschuwt voor snelheid
Amodei benadrukte dat AI niet alleen mogelijkheden biedt, maar ook risico’s. Hij noemde onder meer:
misbruik door kwaadwillenden of landen,
economische ontwrichting,
het gevaar dat mensen de controle over AI verliezen.
Volgens hem zijn die risico’s niet onvermijdelijk. Ze kunnen worden voorkomen als degenen die AI bouwen bewust kiezen voor veiligheid en zorgvuldigheid. Anthropic noemt veiligheid al vanaf het begin een kernwaarde van het bedrijf.
Het bedrijf werkt daarom aan methoden om het gedrag van AI beter te begrijpen en bij te sturen. Dat betekent veel testen, onderzoeken en het ontwikkelen van technieken om systemen onder menselijk toezicht te houden.
De toezegging: tempo matigen en onder menselijk toezicht blijven
In zijn toespraak beloofde Amodei dat Anthropic het tempo van ontwikkeling en uitrol van AI-systemen wil matigen. Hij zei dat het bedrijf zo lang als nodig zal wachten om er zeker van te zijn dat systemen veilig zijn en dat mensen de controle houden. Daarbij hoort ook dat Anthropic zich niet laat dwingen door financiële of politieke druk.
Belangrijke onderdelen van die toezegging zijn:
meer testen en onderzoek naar veilig gedrag van AI,
methoden om AI te doorgronden en te sturen,
samenwerken met anderen in de sector aan veiligheidseisen.
Amodei noemde ook dat Anthropic wil laten zien dat het mogelijk is om zowel veilig te handelen als een succesvol bedrijf te zijn. Dat zou andere bedrijven moeten inspireren om hetzelfde te doen.
Reactie binnen het bedrijf
Daniela Amodei, medeoprichter en zus van Dario, bevestigde in een interview dat de risico’s echt zijn, maar dat de mogelijkheden van AI ook groot zijn. Ze benadrukte dat veiligheid vanaf het begin onderdeel is van het werk bij Anthropic en dat er nog veel te doen is.
Het bedrijf verwijst naar concrete stappen zoals training, testen en intern onderzoek om AI-systemen beter te kunnen begrijpen. Die werkzaamheden moeten helpen om te voorkomen dat systemen ongewenst gedrag vertonen of buiten menselijke controle raken.
Conclusie
Bij de beursgang liet Anthropic duidelijk weten dat groei en geld niet boven veiligheid komen. Het bedrijf zegt bewust te kiezen voor langzamer en zorgvuldiger ontwikkelen van AI, met veel aandacht voor testen en menselijk toezicht. Voor iedereen die zich zorgen maakt of juist nieuwsgierig is naar wat AI kan betekenen, is dit een duidelijke belofte: Anthropic wil vooruitgang boeken, maar niet ten koste van veiligheid.
