OpenCode, een open-source (software waarvan de broncode openbaar is en die door iedereen gebruikt of aangepast mag worden) AI-hulpmiddel voor programmeerwerk, meldde dat aanvallers een oudere dienst hadden gekraakt. Ongeveer 1,4% van de gebruikers van de online omgeving OpenCode Console bleek last te hebben van het lek. In die omgeving bewaarden sommige mensen API-sleutels (API = application programming interface; hier: digitale wachtwoorden waarmee je toegang krijgt tot AI-diensten).

Wat gebeurde er precies?

OpenCode schreef dat er een beveiligingsincident was door een zogenaamde distillation-aanval. Dat is een techniek waarbij grote aantallen opdrachten en antwoorden worden gebruikt om eigenschappen van een AI-model na te maken of te benutten. Leaked API-sleutels (gestolen digitale toegangscodes) kunnen hierbij helpen omdat ze toegang geven tot de rekenkracht van commerciële AI-diensten.

Het bedrijf noemde niet precies hoe de aanvallers binnenkwamen. Wel zei OpenCode dat alleen de oude Console-dienst was getroffen; de open-source app zelf en de commandline-tool zouden niet zijn geraakt. Volgens medeoprichter Dax Raad kwamen de sleutels nooit rechtstreeks bij OpenCode terecht.

Gevolgen voor gebruikers

Sommige gebruikers zagen plotseling uitgaven op hun AI-accounts. Op sociale media en forums meldden ontwikkelaars dat ze meldingen kregen van kosten bij meerdere AI-diensten, en enkelen rapporteerden rekeningen van honderden tot meer dan duizend dollar.

Verschillende AI-aanbieders grepen in:

• Anthropic blokkeerde de sleutels waarvan zij dachten dat ze gelekt waren.

• Google deed hetzelfde voor de door hen geïdentificeerde sleutels.

• OpenAI werkte samen met OpenCode om toegang te herstellen en zei dat het klanten die kosten hadden gemaakt zou terugbetalen.

OpenCode zelf zei dat terugbetalingen voor ongeautoriseerde kosten in gang zijn gezet. Gebruikers die geen e-mail van OpenCode ontvingen, waren volgens het bedrijf niet getroffen.

Problemen bij verdediging met AI

De aanval bracht een groter probleem aan het licht: beveiligingsteams lopen soms vast omdat commerciële AI-modellen veiligheidsregels hebben die voorkomen dat ze bepaalde schadelijke code analyseren. OpenCode gaf aan dat hun verdedigingsteams 48 uur lang doorlopend werden aangevallen en dat zij AI-hulpmiddelen lieten meekijken om te helpen bij het onderzoeken.

Een lastigheid was dat sommige AI-modellen weigerden om bepaalde aanvalscode te analyseren omdat die code veiligheidsfilters activeerde. Daardoor konden die modellen even niet helpen bij het maken van tegenmaatregelen. OpenCode kreeg later toegang tot OpenAI’s Daybreak Blue-programma, een regeling voor gecontroleerde gebruikers met modellen die minder snel legitieme defensie-opdrachten blokkeren. Volgens OpenCode verbeterde die toegang het onderzoek.

Dit is geen uniek probleem. Eerder liep ook platform Hugging Face tegen hetzelfde soort blokkades aan toen het probeerde inbraaklogs te analyseren. Beveiligingsonderzoekers noemen dit een "asymmetrie": de hulpmiddelen die aanvallen moeten tegenhouden, kunnen soms ook verdedigers belemmeren omdat ze aanvalscode niet willen aanraken.

Meer voorbeelden van AI-gerelateerde aanvallen

Er lijkt een trend te ontstaan van aanvallen waarbij AI-agenten of AI-hulpmiddelen worden gebruikt. Voorbeelden uit recente meldingen:

• CrowdStrike rapporteerde dat een China-gebaseerde hacker mogelijk een AI-penetratietester gebruikte, samen met het model Claude, bij aanvallen op Zuid-Koreaanse banken.

• Indiase autoriteiten waarschuwden dat AI-agents zonder toestemming toegang kregen tot systemen van organisaties.

• Eerder deze zomer meldde Hugging Face problemen met het analyseren van eigen logs door blokkades in commerciële modellen.

Wat weten we nog niet en wat wordt aangeraden?

OpenCode heeft nog geen volledige uitleg gegeven over hoe de aanvallers precies toegang kregen tot de oudere Console en hoe sleutels precies waren opgeslagen. Het bedrijf adviseert getroffen gebruikers om de gelekte sleutels direct in te trekken (revoken) en te vervangen bij de betreffende aanbieders.

Als jij OpenCode Console gebruikt, controleer of je een e-mail van OpenCode hebt gekregen. Ontving je geen bericht maar zie je onverklaarbare kosten bij je AI-provider, neem dan contact op met die aanbieder en overweeg je API-sleutels te vervangen.

Conclusie

De hack bij OpenCode laat zien dat zelfs tools die bedoeld zijn om ontwikkeling te vergemakkelijken, risico’s kunnen hebben als beheersystemen verouderd zijn. De zaak benadrukt ook een lastig punt: beveiliging met behulp van AI kan last hebben van dezelfde veiligheidsregels die ervoor moeten zorgen dat AI-modellen geen kwaad doen. Dat maakt het lastiger om snel en volledig te reageren op slimme, grootschalige aanvallen. Organisaties en gebruikers moeten alert blijven, API-sleutels goed beheren en direct handelen bij verdachte activiteit.