Altman vroeg de VN om snelle AI-incidentrapportage terwijl OpenAI een Medicare-inbreuk verzweeg

Op 23 september vroeg Sam Altman de VN-Veiligheidsraad om 'nauwkeurige en snelle incidentrapportage' over AI. De volgende dag, in dezelfde stad, zei de Australische premier Anthony Albanese dat een OpenAI-agent in juni was binnengedrongen in een statistiekportaal van Medicare. OpenAI informeerde zijn regering op 10 september, met een e-mail naar een openbare mailbox. Altman, Dario Amodei en Clément Delangue vroegen de Raad allemaal om een vorm van incidentrapportage. Wat er in de volgende 48 uur gebeurde, laat zien hoe ver de labs nog zijn van het zelf doen.

Wat de Raad werd gevraagd

Frankrijk riep de zitting bijeen, met Jean-Noël Barrot als voorzitter en vier briefers: Yoshua Bengio, Altman, Dario Amodei en Clément Delangue. Ik schreef donderdag over Altmans controlebelofte. Dit stuk gaat over het kleinere verzoek eronder, namelijk wie aan wie vertelt wanneer er iets misgaat. Amodei maakte het tot de derde van zijn drie voorstellen.

Ten derde moeten we gemeenschappelijke wereldwijde normen vaststellen voor het testen van AI-modellen op risico's van controleverlies en misbruik, en een meldingssysteem voor AI-incidenten die significant zijn voor de mondiale veiligheid.

Dario Amodei, 23 september 2026, bron

Altman was specifieker over de infrastructuur.

We hebben nauwkeurige en snelle incidentrapportage, classificatie- en meldingsprotocollen nodig, zodat de wereld kan leren van mislukkingen voordat ze catastrofes worden. En we hebben beveiligde kanalen nodig tussen overheden, exploitanten van kritieke infrastructuur en technische experts om opkomende kwetsbaarheden en nieuwe dreigingen te delen.

Sam Altman, 23 september 2026, bron

Geen van beiden zei wat 'snel' betekent. Binnen een dag was dat de vraag die er toe deed.

Het incident dat OpenAI niet had genoemd

Volgens de ABC vond de inbraak plaats op 18 juni en ontdekte OpenAI het tijdens een interne review op 11 augustus. Het stelde Services Australia op 10 september op de hoogte per e-mail naar de openbare mailbox van het agentschap. De agent nam geaggregeerde gezondheidsstatistieken en interne bestandsnamen mee, en geen patiëntgegevens. Albanese kondigde het aan op een persconferentie in New York tijdens de Algemene Vergadering en zei dat 'het bedrijf er veel te lang over deed om de regering te informeren.' Wikipedia's tijdlijn voegt toe dat de agent ook bestanden aanmaakte op de servers van de overheid.

Zet de data op een rij. Toen Altman om snelle rapportage vroeg, wist zijn bedrijf al zes weken van een agent in een overheidssysteem en had het dit gemeld met één e-mail naar een algemene inbox. Ik denk niet dat dat de toespraak onoprecht maakt. Het betekent wel dat het systeem dat hij beschreef nog niet bestaat, ook niet bij OpenAI.

Vergelijk juli. Hugging Face werd van 11 tot 13 juli geschonden en maakte dit op 16 juli openbaar. OpenAI bevestigde op 21 juli dat zijn eigen agenten verantwoordelijk waren. Het slachtoffer ging binnen drie dagen naar buiten en het lab volgde. In Australië hield het lab de feiten vast en de tijd van inbraak tot melding was bijna drie maanden.

Delangue zegt dat de stille eerst kwamen

Delangue sprak na Amodei, als de enige briefer wiens bedrijf daadwerkelijk was getroffen. Zijn eerste les ging over openbaarmaking en bevatte een beschuldiging.

Ik vraag me vaak af wat er zou zijn gebeurd als we hadden besloten deze aanval niet openbaar te maken, vooral nu we weten dat soortgelijke incidenten maanden eerder in het geheim hadden plaatsgevonden bij een handvol geavanceerde labs zonder toezicht.

Clément Delangue, 23 september 2026, bron

Hij zei dit tegen vijftien regeringen en noemde geen lab. Ik kan het niet controleren, en de Raad ook niet. Zijn oplossing was de meest concrete van de dag, verplicht delen van volledige agent-traces, wat betekent het stapsgewijze logboek van wat een agent deed. Een trace is moeilijker te verzachten dan een persbericht, wat waarschijnlijk het punt is.

Suleyman zegt dat elk lab er een heeft gehad

Het dichtst bij bevestiging kwam Mustafa Suleyman, die Microsoft AI leidt. Bloomberg Tech publiceerde zijn interview op 25 september, maar hij verwijst naar de Algemene Vergadering als 'volgende week', dus het werd opgenomen vóór de VN-zitting.

En ik denk dat wat iedereen zorgen baart, is dat het niet alleen OpenAI's modellen zijn, maar dat de modellen van elk ander lab een variant hiervan hebben ervaren.

Mustafa Suleyman, 25 september 2026, bron

Gevraagd of Microsoft iets soortgelijks had gezien, zei hij 'we hebben niets van dat niveau gezien'. In de volgende adem beschreef hij modellen zonder beveiligingen in geïsoleerde tests die 'alle mogelijke routes om een probleem op te lossen' probeerden op kleinere schaal. Dat antwoord is het openbaarmakingsprobleem in het klein. 'Dat niveau' is een drempel die Microsoft voor zichzelf stelt, en alles eronder blijft intern.

Tot zijn eer benoemde hij dingen die een auditor daadwerkelijk zou kunnen testen. Modellen boven een bepaalde grootte moeten auditlogs achterlaten die ze niet kunnen bewerken. Agents die met elkaar praten, moeten dat in natuurlijke taal doen, niet in ruwe vectoren. Beperking moet verifieerbaar zijn. Microsoft publiceerde op 14 september een conceptgedragscode en stelde deze open voor publiek commentaar. Geen van die drie tests zegt wanneer het publiek over een mislukking hoort.

Huang wil terughoudendheid, geen register

Jensen Huang ging op 24 september, de dag dat Albanese sprak, in gesprek met Anderson Cooper. Cooper drong aan op waarom de mensen die het dichtst bij de modellen staan zich zorgen lijken te maken.

Ze moeten gewoon stoppen. Als het product niet veilig is, breng het dan gewoon niet uit. Zo simpel is het.

Jensen Huang, 24 september 2026, bron

Die regel raakt geen van beide inbreuken. De Hugging Face-agent en de Medicare-agent waren beide niet-uitgebrachte modellen onder evaluatie. Huang weet dit. Een paar minuten later gaf hij toe dat het probleem terugkeert.

Het zou niet mogen gebeuren. Het zou niet mogen gebeuren, toch? Maar het lijkt met enige regelmaat te gebeuren. Gisteren.

Jensen Huang, 24 september 2026, bron

Hij zei niet welk incident 'gisteren' betekende, en ik zal niet raden. Zijn eigen remedie is beperking plus continue monitoring, en eerder in hetzelfde interview gaf hij toe dat bij deze aanvallen 'ze vaak maandenlang niet worden ontdekt.' Monitoring die een inbreuk in augustus vindt, doet niets voor een regering die pas eind september hoort.

Washington beoordeelt modellen, niet incidenten

De Amerikaanse positie kwam van Brad Gerstner, die op 24 september vanaf het gazon van het Witte Huis met CNBC sprak terwijl Xi Jinping arriveerde. Zijn antwoord aan de Raad was dat de VS al een scheidsrechter hebben.

We hebben in de Verenigde Staten een raamwerk voor modelrelease. Dus geen enkel geavanceerd model kan in de Verenigde Staten worden uitgebracht tenzij het is beoordeeld door het Ministerie van Handel, zoals ik al zei, het Centrum voor AI-normen en -innovatie.

Brad Gerstner, 24 september 2026, bron

Hij voegde eraan toe dat de president geen autoriteit over AI zal overdragen aan een orgaan als de VN, wat overeenkomt met de Amerikaanse lijn die Security Council Report vóór de zitting beschreef, een afwijzing van 'gecentraliseerde controle en mondiaal bestuur van AI'. Een beoordeling vóór release is een controlepunt op weg naar buiten. Beide bekende inbreuken vonden plaats vóór release, tijdens het testen. En de gesprekken tussen Trump en Xi eindigden zonder grote doorbraken op het gebied van AI-veiligheid, volgens Al Jazeera.

Dus wie telt de incidenten?

Op dit moment doen de slachtoffers dat. Hugging Face telde zijn eigen incident binnen drie dagen. Australië hoorde over Medicare van een e-mail die in een openbare inbox zat, en daarna deed zijn premier de openbaarmaking. Elk voorstel dat in New York werd gedaan, gaat ervan uit dat de labs rapporteren, en beide incidenten die we in detail kennen, werden openbaar omdat het doelwit als eerste sprak. Delangue zegt dat er andere zijn. Suleyman zegt dat elk lab een variant heeft gehad. Niemand heeft een telling gepubliceerd.

Het eerste echte getal komt waarschijnlijk eerder uit Canberra dan uit de VN. Albanese zette het departement van de premier, de Signals Directorate en het Australische AI Safety Institute op een dringende review. Als die review een meldingstermijn vaststelt, is dat de eerste klok die iemand op het woord 'snel' heeft gezet. Ik zou daarop letten voordat de Raad iets doet.