Toen Hugging Face in juli 2026 werd aangevallen door AI-agents uit een proefomgeving van OpenAI, moest het bedrijf achterhalen wat er in zijn systemen was gebeurd. Daarbij gebruikte het zelf AI om grote hoeveelheden technische gebeurtenissen te onderzoeken. Volgens zijn eigen reconstructie ging het om ongeveer 17.000 gebeurtenissen. De aanvallende en verdedigende kant van AI kwamen bij hetzelfde incident samen. [1][3]

Hugging Face is een platform waarop ontwikkelaars AI-modellen en datasets delen. De aanval bereikte interne systemen. Het bedrijf meldde geen aanwijzingen dat openbare modellen, datasets of Spaces waren aangepast. [1] Voor een organisatie die AI wil invoeren, is vooral de combinatie relevant: software kan helpen om werk op grote schaal uit te voeren én om dat werk achteraf te onderzoeken. In beide gevallen blijft iemand verantwoordelijk voor de kwaliteit van die uitvoering.

Een AI-agent krijgt een opdracht en kan daarvoor hulpmiddelen gebruiken, zoals een browser of bedrijfsapplicatie. Het systeem kan vervolgens een reeks stappen zetten. Hoeveel daarvan zelfstandig mogen gebeuren, hangt af van de inrichting. Een agent die gegevens opzoekt heeft andere bevoegdheden nodig dan een agent die een bestelling verwerkt. Onder dezelfde productnaam kan daardoor heel verschillend werk schuilgaan.

Een wijziging werkt verder

Bij de aanschaf ligt de nadruk gemakkelijk op de taak: offertes voorbereiden, klantvragen afhandelen, administratie bijwerken. De bevoegdheden worden pas zichtbaar in de werkwoorden daaronder. Mag de agent gegevens lezen, een wijziging klaarzetten of die wijziging ook definitief opslaan?

Dat verschil telt vooral wanneer systemen met elkaar zijn verbonden. Een veranderd klantgegeven kan doorwerken in een factuur of een levering. Het beoordelen van één antwoord zegt dan weinig over de gevolgen van de hele handeling. Ook een begrijpelijk antwoord kan samengaan met een verkeerde wijziging in een ander systeem.

De organisatie geeft dus meer uit handen dan het formuleren van tekst. Ze bepaalt welke delen van haar werk zonder afzonderlijke menselijke beslissing verdergaan. Dat kan tijd besparen. Het vraagt wel dat zij vooraf weet waar zo’n handeling terechtkomt. Wie zijn eigen gegevensstromen nauwelijks kan overzien, zal ook moeite hebben om vast te stellen wat een agent heeft veranderd.

Een gezamenlijke oproep aan bestuurders

Op 24 september 2026 publiceerden de Algemene Inlichtingen- en Veiligheidsdienst (AIVD), de Militaire Inlichtingen- en Veiligheidsdienst (MIVD), het Nationaal Cyber Security Centrum (NCSC), de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV), het Openbaar Ministerie (OM), CIO Rijk en de Nationale Politie hun gezamenlijke verklaring ‘AI versnelt de dreiging: nu handelen is noodzakelijk’. Ze roepen bestuurders op cybersecurity prioriteit te geven, middelen beschikbaar te stellen en experts de ruimte te bieden om de weerbaarheid te verhogen. [2]

De afzenders kijken vanuit verschillende verantwoordelijkheden naar digitale veiligheid. Inlichtingenwerk, opsporing en het beveiligen van overheidsinformatie komen in deze oproep samen. De gevolgen die zij noemen, lopen uiteen van langdurige uitval en het buitmaken van persoonsgegevens tot spionage die lange tijd onzichtbaar kan blijven. [2] Voor een bestuurder maakt dat uit: de afwezigheid van een zichtbare storing zegt weinig over de vraag of onbevoegden toegang hebben gekregen.

De verklaring benoemt drie opdrachten: breng de basis op orde, beoordeel of de beveiliging nog bij de dreiging past en neem signalen van specialisten serieus. Daarbij gaat het expliciet over AI aan beide kanten. Organisaties moeten rekening houden met gebruik door kwaadwillenden én met de AI-modellen die zij zelf inzetten, voor hun dagelijkse werk en voor beveiliging. [2]

Daarmee hoort een besluit over een nieuwe agent thuis in dezelfde bespreking als de beveiliging van de systemen waarop die agent gaat werken. Een organisatie kan taken automatiseren terwijl onduidelijk is wie de onderliggende applicaties beheert, welke koppelingen er bestaan of hoe oude toegang wordt ingetrokken. De nieuwe toepassing neemt die onduidelijkheid mee. Als zij op grotere schaal gaat handelen, kan het ook meer werk kosten om een fout te achterhalen.

Minder tijd om een kwetsbaarheid te verhelpen

Volgens de ondertekenaars verlaagt AI de drempel voor aanvallers. Zij kunnen hun werk automatiseren, gemakkelijker schadelijke software ontwikkelen en kwetsbaarheden sneller benutten. Daarvoor hoeven zij niet over de nieuwste experimentele modellen te beschikken. Al beschikbare modellen zijn bruikbaar. De verklaring vat de toenemende tijdsdruk bij beveiligingsupdates samen met de woorden: ‘Weken worden namelijk dagen en die dagen worden uren’. [2]

Dat is een waarschuwing over de korter wordende reactietijd. De tekst geeft geen vaste termijn waarbinnen iedere organisatie iedere update moet installeren. Die keuze vereist kennis van het getroffen systeem: is het vanaf internet bereikbaar, welke gegevens staan erop en wat kan uitval veroorzaken? Wie dat pas moet uitzoeken wanneer een kwetsbaarheid bekend wordt, verliest tijd voordat de herstelactie kan beginnen.

Beveiligingsupdates zijn bovendien onderdeel van de bedrijfsvoering. Voor een update kan een toepassing tijdelijk uit moeten. Soms moet eerst worden getest of een belangrijke koppeling blijft werken. Het uitstellen van die onderbreking kan aantrekkelijk lijken zolang het systeem nog goed functioneert. De kosten van de onderbreking zijn zichtbaar; de kans en schade van een aanval zijn lastiger in te schatten. Daardoor kan uitstel vanzelf de gebruikelijke keuze worden, zonder dat iemand die keuze nog nadrukkelijk verdedigt.

Hier heeft een bestuurder iets te besluiten. Welke dienstverlening mag voor onderhoud worden onderbroken? Wie kan spoedonderhoud toestaan? En wat gebeurt er als een afdelingshoofd dat tegenhoudt omdat zijn werk stilvalt? Een beveiligingsteam kan de kwetsbaarheid vaststellen en een oplossing voorbereiden. De afweging tussen beschikbaarheid en blootstelling aan een aanval vraagt ook gezag over de betrokken afdelingen.

Bij systemen die geen beveiligingsupdates meer krijgen, is die afweging nog lastiger. Vervanging kan duur zijn en werkprocessen raken die jarenlang goed hebben gefunctioneerd. De verklaring noemt juist het vervangen van zulke systemen en het verkleinen van de blootstelling aan aanvallen als eerste stappen. [2] Een investeringsvoorstel voor AI verdient daarom ook de vraag welke achterstand in het bestaande systeemlandschap ermee blijft liggen. Nieuwe functionaliteit kan worden opgeleverd terwijl noodzakelijk onderhoud opnieuw naar het volgende begrotingsjaar schuift.

De bevoegdheden groeien mee

Een agent kan alleen zelfstandig werken als hij ergens bij kan. Die toegang heeft gevolgen voor de omvang van een incident. Een account dat één gegevensbron mag lezen geeft andere mogelijkheden dan een account dat ook gegevens in meerdere applicaties kan wijzigen. Dat geldt bij een verkeerde uitvoering én wanneer iemand de toegang weet te misbruiken. De omvang van de bevoegdheden bepaalt mede hoeveel werk of informatie wordt geraakt voordat iemand ingrijpt.

De gezamenlijke verklaring vraagt om inzicht in het IT-landschap en om registratie en bewaking van gebeurtenissen. [2] Bij agents moet dat inzicht ook de verbindingen tussen toepassingen omvatten. Wie alleen naar het nieuwe AI-product kijkt, kan missen dat het via bestaande accounts toegang heeft tot andere systemen. Voor iedere koppeling moet duidelijk zijn welke taak haar nodig maakt en wie haar kan intrekken.

Toegang moet bij de taak passen

Een instructie als ‘wijzig geen betaalgegevens’ begrenst het gedrag dat we van een agent vragen. Wanneer het gebruikte account die gegevens wel kan wijzigen, blijft de technische mogelijkheid bestaan. Voor werk waarvoor alleen inzage nodig is, ligt toegang met uitsluitend leesrechten daarom voor de hand. Extra bevoegdheden verdienen een eigen reden, ook als de leverancier ze handig vindt voor toekomstige toepassingen.

Vervolgens moet zichtbaar zijn wat er is uitgevoerd. Een toelichting van de agent kan helpen, maar voor onderzoek zijn ook de registraties in de gebruikte applicaties nodig. Welke waarde stond er eerst, welke staat er nu en onder welk account is dat gebeurd? Zonder zulke gegevens moet een medewerker de schade reconstrueren aan de hand van het verhaal van het systeem dat mogelijk de fout maakte.

Herstellen kost bovendien meer dan een verkeerde regel terugzetten. Als die regel al is gebruikt voor een factuur, moet ook die factuur worden gecorrigeerd. Een geslaagde proef met een agent behoort daarom een mislukte handeling te bevatten: laat zien hoe de organisatie die ontdekt en afhandelt.

Het moment waarop het toch misgaat

De ondertekenaars vragen organisaties zich voor te bereiden op een aanvaller die binnenkomt. Zij noemen dat ‘assume breach’: vooraf bepalen wat je zelf kunt doen, waar hulp nodig is en hoe medewerkers het plan uitvoeren. Opleiden en oefenen horen daarbij. [2] Voor een organisatie die agents inzet, geeft zo’n oefening gelegenheid om ook de gevolgen van geautomatiseerd werk te onderzoeken.

Het stopzetten van een agent beëindigt bijvoorbeeld niet vanzelf alle handelingen die hij al in gang heeft gezet. Een verzonden opdracht kan elders nog worden uitgevoerd. Ook moet iemand bepalen welk werk betrouwbaar is en welk deel moet worden nagekeken. Dat is een andere taak dan de verbinding verbreken. Als het team na een storing alleen weet hoe de toepassing opnieuw wordt gestart, is het herstel van de inhoud nog niet geregeld.

Een oefening kan dat verschil zichtbaar maken zonder een echt incident af te wachten. Laat betrokken medewerkers aan de hand van een testwijziging vaststellen wat is gebeurd en welke vervolgstappen teruggedraaid moeten worden. Blijkt daarvoor een leverancier nodig, dan moeten bereikbaarheid en beschikbare hulp vooraf zijn afgesproken. Een algemene toezegging dat ondersteuning beschikbaar is, vertelt nog niet wie op het noodzakelijke moment mag handelen.

Hetzelfde geldt voor de ruimte die experts volgens de verklaring moeten krijgen. [2] Een specialist kan een risico melden, maar als daarop geen besluit volgt, verandert er weinig. Er moet iemand zijn die extra onderzoek of tijdelijk minder functionaliteit kan toestaan. Ook moet worden vastgelegd wie besluit een bekend risico voorlopig te accepteren en wanneer dat besluit opnieuw wordt beoordeeld.

Menselijke goedkeuring kan veel onderscheppen, mits de medewerker werkelijk kan beoordelen wat hij goedkeurt. Een stroom verzoeken waar nauwelijks tijd voor is, maakt die controle kwetsbaar. Zodra de hoeveelheid werk groeit, moet ook worden afgesproken wie de uitvoering mag stilzetten. Die medewerker heeft toegang tot de stopfunctie nodig en ruimte om het werk te onderbreken, ook wanneer de achterstand daardoor oploopt.

Bronnen

[1] Hugging Face, Security incident, July 2026. Reconstructie van het getroffen bedrijf; de uitspraken over gevolgen en eigen AI-gebruik zijn daaraan ontleend.

[2] AIVD, MIVD, NCSC, NCTV, OM, CIO Rijk en Nationale Politie, AI versnelt de dreiging: nu handelen is noodzakelijk. Gezamenlijke verklaring van 24 september 2026. Zie de volledige verklaring, met de oproep aan bestuurders en de drie voorgestelde acties.

[3] METR, Onderzoek naar het OpenAI- en Hugging Face-incident, 26 augustus 2026. Bron voor de herkomst van de agents.