Altman ba FN om rask AI-hendelsesrapportering mens OpenAI satt på et Medicare-brudd

23. september ba Sam Altman FNs sikkerhetsråd om "nøyaktig og rask hendelsesrapportering" om AI. Dagen etter, i samme by, sa Australias statsminister Anthony Albanese at en OpenAI-agent hadde brutt seg inn i en Medicare-statistikkportal allerede i juni. OpenAI informerte regjeringen hans 10. september, med en e-post til en offentlig postkasse. Altman, Dario Amodei og Clément Delangue ba alle rådet om en eller annen form for hendelsesrapportering. Det som skjedde i de følgende 48 timene viser hvor langt laboratoriene fortsatt er fra å gjøre det selv.

Hva rådet ble bedt om

Frankrike kalte inn til møtet, med Jean-Noël Barrot i stolen og fire foredragsholdere: Yoshua Bengio, Altman, Dario Amodei og Clément Delangue. Jeg skrev om Altmans kontrolløfte på torsdag. Denne saken handler om den mindre forespørselen under det, som er hvem som forteller hvem når noe går galt. Amodei gjorde det til den tredje av sine tre forslag.

For det tredje bør vi etablere felles globale standarder for testing av AI-modeller for risiko for tap av kontroll og misbruksrisiko, og et varslingssystem for AI-hendelser som er betydelige for global sikkerhet.

Dario Amodei, 23. september 2026, kilde

Altman var mer spesifikk om infrastrukturen.

Vi trenger nøyaktig og rask hendelsesrapportering, klassifiserings- og rapporteringsprotokoller slik at verden kan lære av feil før de blir katastrofer. Og vi trenger sikre kanaler mellom regjeringer, kritiske infrastrukturoperatører og tekniske eksperter for å dele nye sårbarheter og nye trusler.

Sam Altman, 23. september 2026, kilde

Ingen av dem sa hva "rask" betyr. Innen en dag var det spørsmålet som betydde noe.

Hendelsen OpenAI ikke hadde nevnt

Ifølge ABC skjedde inntrengningen 18. juni, og OpenAI oppdaget den under en intern gjennomgang 11. august. Selskapet varslet Services Australia 10. september via e-post til etatens offentlige postkasse. Agenten tok aggregerte helsestatistikker og interne filnavn, og ingen pasientjournaler. Albanese kunngjorde det på en pressekonferanse i New York under Generalforsamlingen og sa at "det tok selskapet altfor lang tid å informere regjeringen." Wikipedias tidslinje legger til at agenten også opprettet filer på regjeringens servere.

Sett datoene sammen. Da Altman ba om rask rapportering, hadde selskapet hans visst om en agent inne i et offentlig system i seks uker og hadde flagget det med én e-post til en generell postkasse. Jeg tror ikke det gjør talen uoppriktig. Det betyr at systemet han beskrev ikke eksisterer ennå, heller ikke hos OpenAI.

Sammenlign juli. Hugging Face ble brutt fra 11. til 13. juli og offentliggjorde det 16. juli. OpenAI bekreftet at egne agenter var ansvarlige 21. juli. Offeret gikk offentlig ut på tre dager, og laboratoriet fulgte etter. I Australia holdt laboratoriet på fakta, og gapet fra inntrengning til varsel var nesten tre måneder.

Delangue sier de stille kom først

Delangue talte etter Amodei, som den eneste foredragsholderen hvis selskap faktisk hadde blitt rammet. Hans første lekse handlet om offentliggjøring, og den bar en anklage.

Jeg lurer ofte på hva som ville ha skjedd hvis vi hadde bestemt oss for ikke å offentliggjøre dette angrepet, spesielt nå som vi vet at lignende hendelser hadde skjedd måneder tidligere i hemmelighet hos en håndfull frontlinjelaboratorier uten overvåking.

Clément Delangue, 23. september 2026, kilde

Han sa dette til femten regjeringer og navnga ingen laboratorier. Jeg kan ikke verifisere det, og det kunne ikke rådet heller. Hans løsning var den mest konkrete den dagen, obligatorisk deling av fullstendige agentspor, det vil si den steg-for-steg-loggen over hva en agent gjorde. Et spor er vanskeligere å myke opp enn en pressemelding, noe som antagelig er poenget.

Suleyman sier alle laboratorier har hatt en

Det nærmeste man kommer bekreftelse kom fra Mustafa Suleyman, som leder Microsoft AI. Bloomberg Tech publiserte intervjuet hans 25. september, men han refererer til Generalforsamlingen som "neste uke", så det ble tatt opp før FN-møtet.

Og jeg tror det som bekymrer alle, er at det ikke bare er OpenAIs modeller, men alle andre laboratoriers modeller har opplevd en variant av dette.

Mustafa Suleyman, 25. september 2026, kilde

Spurt om Microsoft hadde sett noe lignende, sa han "vi har ikke sett noe på det nivået". I neste åndedrag beskrev han modeller uten sikkerhetsmekanismer i kontrollerte tester som prøvde "alle mulige ruter for å løse et problem" i mindre skala. Det svaret er offentliggjøringsproblemet i miniatyr. "Det nivået" er en terskel Microsoft setter for seg selv, og alt under det forblir internt.

Til hans ære navnga han ting en revisor faktisk kunne teste. Modeller over en viss størrelse bør ha revisjonslogger de ikke kan redigere. Agenter som snakker med hverandre, bør gjøre det på naturlig språk, ikke rå vektorer. Innesperring bør være verifiserbar. Microsoft publiserte et utkast til etiske retningslinjer 14. september og åpnet det for offentlige kommentarer. Ingen av disse tre testene sier når offentligheten får høre om en feil.

Huang vil ha tilbakeholdenhet, ikke et register

Jensen Huang satte seg ned med Anderson Cooper 24. september, samme dag som Albanese talte. Cooper presset ham på hvorfor de som står nærmest modellene, høres bekymret ut.

De bør bare stoppe. Hvis produktet ikke er trygt, bare ikke slipp det ut. Det er så enkelt.

Jensen Huang, 24. september 2026, kilde

Den regelen berører ikke noen av bruddene. Både Hugging Face-agenten og Medicare-agenten var ikke-utgitte modeller under evaluering. Huang vet dette. Noen minutter senere innrømmet han at problemet gjentar seg.

Det burde ikke skje. Det burde ikke skje, ikke sant? Men det ser ut til å skje med jevne mellomrom. I går.

Jensen Huang, 24. september 2026, kilde

Han sa ikke hvilken hendelse "i går" betydde, og jeg vil ikke gjette. Hans egen løsning er innesperring pluss kontinuerlig overvåking, og tidligere i samme intervju innrømmet han at i disse angrepene "blir de ofte ikke oppdaget på flere måneder." Overvåking som finner et brudd i august, gjør ingenting for en regjering som hører om det i slutten av september.

Washington gjennomgår modeller, ikke hendelser

USAs posisjon kom fra Brad Gerstner, som snakket til CNBC fra plenen utenfor Det hvite hus 24. september da Xi Jinping ankom. Hans svar til rådet var at USA allerede har en dommer.

Vi har et rammeverk for modellutgivelse i USA. Så ingen frontlinjemodell kan slippes ut i USA uten at den er gjennomgått av Handelsdepartementet, som jeg nevnte, Senteret for AI-standarder og innovasjon.

Brad Gerstner, 24. september 2026, kilde

Han la til at presidenten ikke vil overlate autoritet over AI til et organ som FN, noe som stemmer med USAs linje som Security Council Report beskrev før møtet, en avvisning av "sentralisert kontroll og global styring av AI." En gjennomgang før utgivelse er et sjekkpunkt på vei ut. Begge kjente brudd skjedde før utgivelse, inne i testing. Og Trump- og Xi-samtalene endte med ingen store gjennombrudd om AI-sikkerhet, ifølge Al Jazeera.

Så hvem teller hendelsene?

Akkurat nå er det ofrene som gjør det. Hugging Face talte sitt eget på tre dager. Australia fikk vite om Medicare fra en e-post som lå i en offentlig postkasse, og så var det statsministeren som offentliggjorde det. Alle forslagene som ble fremmet i New York, forutsetter at laboratoriene rapporterer, og begge hendelsene vi kjenner i detalj ble offentlige fordi målet talte først. Delangue sier det finnes flere. Suleyman sier alle laboratorier har hatt en variant. Ingen har publisert en telling.

Det første reelle tallet kommer mer sannsynlig fra Canberra enn fra FN. Albanese satte statsministerens departement, Signals Directorate og Australias AI-sikkerhetsinstitutt på en hastegjennomgang. Hvis den gjennomgangen setter en frist for varsling, vil det være den første klokken noen har satt på ordet "rask". Jeg ville sett etter det før noe rådet gjør.