De ongeoorloofde toegang tot een Australisch overheidsportaal vond plaats in juni. OpenAI ontdekte het incident naar eigen zeggen half augustus tijdens nader onderzoek. Services Australia kreeg op 10 september bericht. Op 24 september lichtten Australische bewindslieden het publiek in. Tussen de handeling van het experimentele AI-model en de openbare uitleg lagen daarmee ongeveer drie maanden. [1][2]

Die tijdlijn zegt op zichzelf niet dat iemand het incident bewust heeft verborgen. Ze laat wel zien hoe afhankelijk de getroffen organisatie was van onderzoek bij de ontwikkelaar. OpenAI erkende later dat het voorlopige bevindingen eerder had moeten delen, in plaats van te wachten tot het onderzoek verder was gevorderd. [1]

Ook binnen de Australische overheid kostte de afhandeling tijd. De melding kwam binnen via een algemeen adres voor het melden van kwetsbaarheden. Na controles werd de Australische cyberdienst ingeschakeld. In de openbare toelichting zei minister Katy Gallagher dat zo’n incident via die dienst of op hoger niveau had moeten worden gemeld. Er waren toen nog technische vragen waarvoor Services Australia aanvullende informatie van OpenAI nodig had. [2]

Voor de beheerder van een getroffen systeem heeft onvolledige informatie intussen gevolgen. Die moet beslissen welke toegang dicht moet en of dienstverlening kan doorgaan. Wachten op een afgerond verhaal kan betekenen dat hij langer met een onbekende kwetsbaarheid werkt. Een eerste melding mag daarom onzekerheden bevatten, zolang duidelijk is wat al vaststaat en welk onderzoek nog loopt.

Dat vereist een onderscheid tussen het waarschuwen van een getroffen partij en het publiceren van een volledig incidentverslag. Voor die eerste stap kan een onderbouwde aanwijzing genoeg zijn. De ontvanger kan dan gericht kijken, toegang beperken of registraties veiligstellen. Een publiek verslag moet weer voorkomen dat vermoedens als vaststaande feiten worden gepresenteerd. Beide kunnen nodig zijn op een ander moment en met een ander detailniveau.

Bij AI kan de informatie verspreid liggen. De ontwikkelaar beschikt over de opdracht en de handelingen van de agent. Het getroffen bedrijf ziet wat er op zijn eigen systemen gebeurde. Een mislukte poging die bij de ene partij weinig sporen nalaat, kan in de registratie van de andere wel zichtbaar zijn. Wie alleen zijn eigen gegevens bekijkt, kan daardoor een onvolledig beeld krijgen van het verloop.

Er is ook een verschil in belang. De ontwikkelaar wil begrijpen of een veiligheidsmaatregel heeft gefaald en wat dat voor zijn model betekent. De beheerder moet weten welke systemen hij nog kan vertrouwen. Die belangen kunnen samengaan, maar het tweede kan niet wachten tot het eerste volledig is onderzocht. In afspraken over incidenten hoort daarom te staan welke voorlopige informatie wordt gedeeld en bij wie een dringende melding terechtkomt.

Onderzoek van buiten

Bij de aanval op Hugging Face kregen onderzoekers van METR en Redwood Research toegang tot materiaal van OpenAI. Hun reconstructie concentreerde zich op 7 tot en met 13 juli. Ze beschreven activiteit van ongeveer 1.200 agents en een grote hoeveelheid onderlinge berichten. Het materiaal was te omvangrijk om volledig met de hand door te nemen; ook voor de analyse werd AI ingezet. [3]

Daarmee werd het incident beter controleerbaar voor buitenstaanders. De onderzoekers beschreven tevens de grenzen van hun werk. Het onderzoek duurde zes dagen, latere aanvallen op OpenAI vielen erbuiten en hun verslag gaf geen volledige beoordeling van alle getroffen maatregelen. [3] Een dergelijke afbakening bepaalt welke conclusies een lezer uit het rapport kan trekken. Een onderzocht incident levert nog geen algemeen veiligheidsoordeel over een model op.

Het woord ‘onafhankelijk’ kan die beperkingen gemakkelijk aan het zicht onttrekken. Onderzoekers kunnen zelfstandig tot hun oordeel komen en toch afhankelijk zijn van de gegevens die een bedrijf beschikbaar stelt. Voor een lezer is daarom ook van belang wat zij mochten opvragen, welke onderdelen buiten de opdracht vielen en of zij vrij waren hun bevindingen te publiceren.

Dat laatste gaat verder dan een samenvatting mogen goedkeuren. Wanneer de ontwikkelaar bepaalt welke details openbaar worden, beïnvloedt hij ook wat klanten en overheden kunnen beoordelen. Sommige gegevens vragen om bescherming, bijvoorbeeld omdat ze een nog bruikbare aanval beschrijven. Dat belang moet wel worden afgewogen tegen het belang van organisaties die moeten weten of zij gevaar lopen.

Een onafhankelijk onderzoek is beter te beoordelen als het rapport vermeldt hoe de onderzoekers aan hun materiaal kwamen. Hebben zij zelf kunnen zoeken of kregen zij een selectie? Konden zij vragen stellen aan de mensen die de proef inrichtten? Het antwoord hoeft niet altijd volledige toegang te zijn. Een beperking kan gerechtvaardigd zijn, maar moet herkenbaar blijven als beperking van het oordeel.

Ook de financiering en de opdracht doen ertoe. Dat een bedrijf onderzoek betaalt, maakt de uitkomst niet bij voorbaat onbruikbaar. Wel moet duidelijk zijn of de opdrachtgever de onderzoeksvraag tussentijds kan veranderen of publicatie kan uitstellen. Anders blijft de lezer afhankelijk van afspraken die hij niet kent. Een technisch uitvoerig rapport kan veel openheid bieden over het incident en weinig over de voorwaarden waaronder het tot stand kwam.

Voor organisaties die een AI-dienst inkopen, is zo’n rapport bovendien slechts een deel van de informatie. Zij moeten kunnen nagaan of de onderzochte versie en omstandigheden iets zeggen over het systeem dat zij gebruiken. Een proefmodel met andere hulpmiddelen of andere toegangsrechten is geen rechtstreeks bewijs voor de veiligheid van een product in hun eigen omgeving. Een leverancier moet kunnen uitleggen welke bevindingen van toepassing zijn en welke veranderingen daarna zijn doorgevoerd.

Toezicht voordat het misgaat

Dario Amodei, de topman van Anthropic, stelt in zijn essay ‘We Must Pace the Frontier’ voor om externe beoordelaars langdurig toegang te geven binnen AI-bedrijven. Zij zouden veel meer moeten kunnen zien dan tijdens een eenmalige test. Ook bepleit hij publicatierechten zonder inhoudelijk veto van de ontwikkelaar, met beperkte uitzonderingen voor gevoelige informatie. [4] Het is een voorstel voor de inrichting van toezicht; daarmee is nog niet aangetoond dat dit toezicht al functioneert.

De waarde ervan hangt mede af van het moment waarop een beoordelaar iets kan doen. Wie pas na een incident wordt uitgenodigd, onderzoekt beslissingen die al zijn genomen. Een beoordelaar die eerder toegang heeft, kan ook de voorwaarden bekijken waaronder een proefmodel externe systemen mag benaderen. Vervolgens moet zijn bezwaar gewicht krijgen bij de beslissing om een proef door te laten gaan.

De Australische regering kondigde een onderzoek aan naar onder meer de bestaande afspraken over bestuur, wetgeving en informatiedeling bij AI-incidenten. [5] Daarmee ligt ook de aansluiting tussen bedrijf en overheid op tafel. Een ontwikkelaar kan technisch veel weten over zijn model, terwijl een overheidsdienst het beste zicht heeft op de gevolgen voor zijn eigen dienstverlening. Beide hebben gegevens van de ander nodig, soms voordat er zekerheid is over de oorzaak.

Voorbereiding vraagt om informatie van anderen

De Nederlandse gezamenlijke verklaring ‘AI versnelt de dreiging: nu handelen is noodzakelijk’ vraagt bestuurders om signalen serieus te nemen en zich door technische specialisten te laten adviseren. AIVD, MIVD, NCSC, NCTV, OM, CIO Rijk en Nationale Politie roepen organisaties ook op zich voor te bereiden op een geslaagde aanval. [6] Die voorbereiding wordt moeilijker wanneer de benodigde informatie uitsluitend bij een leverancier berust.

Een bestuurder kan budget vrijmaken voor onderzoek, maar daarmee is toegang tot gegevens van een externe dienst nog niet geregeld. Bij het afsluiten van een overeenkomst moet dus worden besproken welke registraties beschikbaar komen bij een incident en hoe snel. Dat gesprek gaat ook over de periode waarin de leverancier zelf nog niet weet wat er is gebeurd. Een afspraak die pas ingaat na een definitieve bevestiging kan juist tijdens die onzekerheid weinig helpen.

Voor kleinere organisaties is diepgaand eigen onderzoek vaak lastig te organiseren. Zij hebben baat bij onderzoeksresultaten die ook voor andere afnemers bruikbaar zijn. Een gedeelde bevinding kan hun helpen gericht vragen te stellen of maatregelen te nemen. Dat vraagt wel voldoende detail om vast te stellen of hun eigen toepassing wordt geraakt. Alleen de mededeling dat een probleem ‘is opgelost’ biedt daarvoor weinig houvast.

Toezicht binnen een AI-bedrijf en de verantwoordelijkheid van een afnemer raken elkaar hier. De afnemer kan zijn eigen toegang begrenzen en zijn werkprocessen aanpassen. Voor de werking en testgeschiedenis van het model blijft hij afhankelijk van informatie van buiten. Onafhankelijke beoordeling kan dat deel beter controleerbaar maken, mits ook ongunstige bevindingen de mensen bereiken die er iets mee moeten doen.

Afspraken over toezicht moeten daarom ook regelen wat er gebeurt bij onenigheid. Als een bedrijf informatie achterhoudt, moet een externe beoordelaar kunnen vastleggen welke informatie ontbreekt en wat hij daardoor niet kan beoordelen. Amodei noemt eveneens ruimte om het achterhouden van belangrijk materiaal te melden. [4] In een openbaar onderzoeksrapport hoort dan te kunnen staan dat de onderzoekers een gevraagde registratie niet hebben ontvangen, wie daarover besliste en welke vraag daardoor onbeantwoord blijft.

Bronnen

[1] OpenAI, How we will do better for Australia, 28 september 2026, bijgewerkt 4 oktober. Bedrijfsverklaring over ontdekking en melding.

[2] Australische regering, Press Conference, Sydney, 24 september 2026. Openbare tijdlijn en toelichting op de melding.

[3] METR, OpenAI Hugging Face incident investigation, 26 augustus 2026. Onderzoek met Redwood Research, inclusief afbakening en beperkingen.

[4] Dario Amodei, We Must Pace the Frontier, september 2026. Voorstel voor externe beoordeling en publicatierechten.

[5] Department of the Prime Minister and Cabinet, Rapid review into Australian Government arrangements for an AI-driven cyber incident, aangekondigd 24 september 2026.

[6] AIVD, MIVD, NCSC, NCTV, OM, CIO Rijk en Nationale Politie, AI versnelt de dreiging: nu handelen is noodzakelijk, gezamenlijke verklaring van 24 september 2026.