Open-modellen uit China — zoals sommige recente grote taalmodellen — veroorzaken veel discussie. Er wordt zelfs gesproken over een mogelijk verbod in de VS en grote commerciële spelers zoals OpenAI en Anthropic maken zich zorgen. Arcee, een Amerikaans lab dat zelf open modellen bouwt, stelt dat die modellen op zich geen bijzondere veiligheidsrisico's vormen. Dit artikel legt uit waarom.

Wat is precies de vrees?

De zorgen draaien om twee dingen:

• Economische druk: sommige Chinese modellen kunnen goedkoper draaien per tekst-eenheid, waardoor winst voor Amerikaanse spelers onder druk komt te staan.

• Veiligheid en controle: er is angst dat modellen uit China stiekem kwaadwillende functies zouden hebben of dat ze een achterdeur vormen voor hackers.

Deze zorgen hebben geleid tot voorstellen om het gebruik van zulke modellen te beperken of te verbieden, maar er is nog geen besluit genomen.

Waarom Arcee zegt dat die modellen niet inherente bedreigingen zijn

Lucas Atkins, de technisch directeur van Arcee, zegt dat open modellen vergelijkbaar zijn met andere open-source software (open-source: broncode vrij beschikbaar en controleerbaar). Het belangrijkste punt is dat wanneer een bedrijf een model downloadt en lokaal draait, de maker van het model geen directe toegang heeft tot dat systeem.

Daarnaast is er doorgaans veel zichtbaar van wat een model doet. De code die je op een server draait is vaak beschikbaar via sites zoals Hugging Face, zodat beveiligingsteams die code kunnen bekijken en testen. Wat niet openbaar is, zijn meestal de exacte data en methodes die gebruikt zijn om het model te trainen.

Atkins benadrukt dat organisaties hun eigen controle- en testprocedures moeten toepassen op elk model dat ze gebruiken. Grote bedrijven doen vaak het volgende voordat ze een model in gebruik nemen:

• eigen beveiligingstests uitvoeren;

• het model verder trainen voor specifieke taken (post-training of fine-tuning);

• onderzoeken op bias, offensieve antwoorden en foutieve informatie (hallucinaties).

Op die manier begrijpen en controleren organisaties het model voordat medewerkers het daadwerkelijk gaan gebruiken.

Zijn verborgen schadelijke functies realistisch?

Theoretisch zou iemand een model kunnen trainen om zich op het juiste moment anders te gedragen, bijvoorbeeld door bij bepaalde soorten code schadelijke patronen te genereren. In de praktijk is dat volgens Atkins echter buitengewoon lastig.

Grote taalmodellen werken op basis van waarschijnlijkheden en creativiteit. Het is moeilijk om precies de omstandigheden, prompts en context te forceren zodat een model consequent en stiekem malware genereert. Bovendien zullen veel bedrijven de door het model geschreven code ook nog controleren voordat ze die inzetten.

Kort gezegd: het is niet onmogelijk, maar de technische drempel en de kans dat het daadwerkelijk misgaat zijn klein genoeg dat het geen direct argument is voor een algemeen verbod.

Waarom bedrijven niet vastzitten aan één model

Veel organisaties bouwen hun toepassingen zo dat ze meerdere modellen kunnen gebruiken. Daardoor zijn ze niet voorgoed afhankelijk van één leverancier of model. Als een bepaald model vandaag het beste is voor de prijs, betekent dat niet dat dat voor altijd zo blijft.

Bovendien gebruiken bedrijven vaak eigen, aanvullende trainingen en veiligheidslagen bovenop het basismodel. Zo blijft controle in handen van de gebruiker, niet van de modelmaker.

Arcee heeft er zelf ook voordeel van

Opmerkelijk is dat Arcee, dat een Amerikaans alternatief voor Chinese modellen ontwikkelt, juist voordeel ziet in die openheid. Omdat Chinese modellen deels open zijn, kan Arcee leren van wat andere teams hebben gedaan en daarop voortbouwen. Die wederzijdse uitwisseling helpt volgens Atkins vooruitgang te boeken.

Zijn conclusie: in plaats van te focussen op een verbod, is het verstandiger te werken aan een gezond, open ecosysteem in de VS — en zelf betere modellen uit te brengen waar men over praat.

Conclusie

De grootste zorgen rond Chinese open-modellen zijn begrijpelijk: ze raken concurrerende bedrijven en roepen vragen op over veiligheid. Volgens Arcee en zijn CTO Lucas Atkins vormen deze modellen echter geen unieke of oncontroleerbare bedreiging. Met de juiste interne beveiligingstests, post-training en meerlaagse controles kunnen bedrijven de risico's beheersen. Een algeheel verbod is volgens hen niet de beste weg; investeren in een sterk, open Amerikaans ecosysteem en betere modellen is een realistischer antwoord.