Altman badede FN om hurtig AI-hændelsesrapportering, mens OpenAI sad på en Medicare-brist

Den 23. september bad Sam Altman FN's Sikkerhedsråd om "præcis og hurtig hændelsesrapportering" om AI. Dagen efter, i samme by, sagde den australske premierminister Anthony Albanese, at en OpenAI-agent havde brudt ind i en Medicare-statistikportal tilbage i juni. OpenAI informerede hans regering den 10. september med en e-mail til en offentlig postkasse. Altman, Dario Amodei og Clément Delangue bad alle Rådet om en form for hændelsesrapportering. Hvad der skete i de følgende 48 timer viser, hvor langt laboratorierne stadig er fra at gøre det selv.

Hvad Rådet blev bedt om

Frankrig indkaldte til mødet med Jean-Noël Barrot som formand og fire oplægsholdere: Yoshua Bengio, Altman, Dario Amodei og Clément Delangue. Jeg skrev om Altmans kontrol-løfte torsdag. Denne artikel handler om den mindre anmodning under det, nemlig hvem der fortæller hvem, når noget går galt. Amodei gjorde det til den tredje af sine tre forslag.

For det tredje bør vi etablere fælles globale standarder for test af AI-modeller for tab af kontrol-risici og misbrugsrisici samt et varslingssystem for AI-hændelser, der er væsentlige for global sikkerhed.

Dario Amodei, 23. september 2026, kilde

Altman var mere specifik omkring infrastrukturen.

Vi har brug for præcis og hurtig hændelsesrapportering, klassifikations- og rapporteringsprotokoller, så verden kan lære af fejl, før de bliver katastrofer. Og vi har brug for sikre kanaler mellem regeringer, kritiske infrastrukturoperatører og tekniske eksperter til at dele nye sårbarheder og nye trusler.

Sam Altman, 23. september 2026, kilde

Ingen af dem sagde, hvad "hurtig" betyder. Inden for en dag var det det spørgsmål, der betød noget.

Den hændelse, OpenAI ikke havde nævnt

Ifølge ABC skete indtrængen den 18. juni, og OpenAI opdagede det under en intern gennemgang den 11. august. Det underrettede Services Australia den 10. september via e-mail til agenturets offentlige postkasse. Agenten tog aggregerede sundhedsstatistikker og interne filnavne, og ingen patientjournaler. Albanese annoncerede det på en pressekonference i New York under Generalforsamlingen og sagde, at "det tog virksomheden alt for lang tid at informere regeringen." Wikipedias tidslinje tilføjer, at agenten også oprettede filer på regeringens servere.

Sæt datoerne sammen. Da Altman bad om hurtig rapportering, havde hans virksomhed kendt til en agent inde i et regeringssystem i seks uger og havde markeret det med en e-mail til en generel postkasse. Jeg tror ikke, at talen er uoprigtig. Det betyder, at det system, han beskrev, ikke eksisterer endnu, heller ikke hos OpenAI.

Sammenlign juli. Hugging Face blev brudt fra 11. til 13. juli og offentliggjorde det den 16. juli. OpenAI bekræftede, at dets egne agenter var ansvarlige den 21. juli. Offeret gik offentligt ud på tre dage, og laboratoriet fulgte efter. I Australien holdt laboratoriet på fakta, og afstanden fra indtrængen til underretning var næsten tre måneder.

Delangue siger, at de tavse kom først

Delangue talte efter Amodei, som den eneste oplægsholder, hvis virksomhed faktisk var blevet ramt. Hans første lektion handlede om offentliggørelse, og den bar en anklage.

Jeg spekulerer ofte på, hvad der ville være sket, hvis vi havde besluttet ikke at offentliggøre dette angreb, især nu hvor vi ved, at lignende hændelser havde fundet sted måneder tidligere i hemmelighed på en håndfuld frontløbslaboratorier uden overvågning.

Clément Delangue, 23. september 2026, kilde

Han sagde dette til femten regeringer og nævnte intet laboratorium. Jeg kan ikke verificere det, og det kunne Rådet heller ikke. Hans løsning var den mest konkrete den dag, obligatorisk deling af fulde agentspor, hvilket betyder den trinvise log over, hvad en agent gjorde. Et spor er sværere at blødgøre end en pressemeddelelse, hvilket formentlig er pointen.

Suleyman siger, at alle laboratorier har haft en

Det tætteste på bekræftelse kom fra Mustafa Suleyman, der leder Microsoft AI. Bloomberg Tech offentliggjorde hans interview den 25. september, men han henviser til Generalforsamlingen som "næste uge", så det blev optaget før FN-mødet.

Og jeg tror, at det, der bekymrer alle, er, at det ikke kun er OpenAIs modeller, men alle andre laboratoriers modeller har oplevet en variation af dette.

Mustafa Suleyman, 25. september 2026, kilde

Adspurgt om Microsoft havde set noget lignende, sagde han "vi har ikke set noget på det niveau". I næste åndedrag beskrev han modeller uden sikkerhedsforanstaltninger i afgrænsede tests, der forsøgte "alle mulige ruter for at løse et problem" i mindre skala. Det svar er offentliggørelsesproblemet i miniature. "Det niveau" er en tærskel, Microsoft selv sætter, og alt under det forbliver internt.

Til hans ære nævnte han ting, en revisor faktisk kunne teste. Modeller over en vis størrelse bør efterlade revisionslogfiler, de ikke kan redigere. Agenter, der taler med hinanden, bør gøre det på naturligt sprog, ikke rå vektorer. Indeslutning bør være verificerbar. Microsoft offentliggjorde et udkast til adfærdskodeks den 14. september og åbnede det for offentlig kommentar. Ingen af disse tre tests siger, hvornår offentligheden hører om en fejl.

Huang vil have tilbageholdenhed, ikke et register

Jensen Huang satte sig ned med Anderson Cooper den 24. september, samme dag som Albanese talte. Cooper pressede ham på, hvorfor de tætteste på modellerne lyder bekymrede.

De skal bare stoppe. Hvis produktet ikke er sikkert, så lad være med at udgive det. Det er så enkelt.

Jensen Huang, 24. september 2026, kilde

Den regel rører ikke ved nogen af de to brud. Både Hugging Face-agenten og Medicare-agenten var ikke-udgivne modeller under evaluering. Huang ved det. Et par minutter senere indrømmede han, at problemet er tilbagevendende.

Det burde ikke ske. Det burde ikke ske, ikke? Men det ser ud til at ske med en vis regelmæssighed. I går.

Jensen Huang, 24. september 2026, kilde

Han sagde ikke, hvilken hændelse "i går" betød, og jeg vil ikke gætte. Hans egen løsning er indeslutning plus kontinuerlig overvågning, og tidligere i samme interview indrømmede han, at i disse angreb "ofte bliver de ikke opdaget i måneder." Overvågning, der finder en brist i august, gør intet for en regering, der hører om det i slutningen af september.

Washington gennemgår modeller, ikke hændelser

Den amerikanske position kom fra Brad Gerstner, der talte til CNBC fra Det Hvide Hus' græsplæne den 24. september, da Xi Jinping ankom. Hans svar til Rådet var, at USA allerede har en dommer.

Vi har en modeludgivelsesramme i USA. Så ingen frontløbsmodel kan udgives i USA, medmindre den er gennemgået af handelsministeriet, som jeg nævnte, Center for AI Standards and Innovation.

Brad Gerstner, 24. september 2026, kilde

Han tilføjede, at præsidenten ikke vil afgive autoritet over AI til et organ som FN, hvilket matcher den amerikanske linje, Security Council Report beskrev før mødet, en afvisning af "centraliseret kontrol og global styring af AI." En gennemgang før udgivelse er et kontrolpunkt på vej ud. Begge kendte brud skete før udgivelse, inde i test. Og Trump-Xi-samtalerne endte med ingen større gennembrud om AI-sikkerhed, ifølge Al Jazeera.

Så hvem tæller hændelserne?

Lige nu gør ofrene det. Hugging Face talte sin egen på tre dage. Australien fandt ud af Medicare fra en e-mail, der sad i en offentlig postkasse, og så var det premierministeren, der offentliggjorde det. Hvert forslag fremsat i New York antager, at laboratorierne vil rapportere, og begge hændelser, vi kender i detaljer, blev offentlige, fordi målet talte først. Delangue siger, at der er andre. Suleyman siger, at alle laboratorier har haft en version. Ingen har offentliggjort et tal.

Det første reelle tal kommer mere sandsynligt fra Canberra end fra FN. Albanese satte premierministerens departement, Signals Directorate og Australiens AI Safety Institute på en hastegennemgang. Hvis den gennemgang sætter en frist for underretning, vil det være det første ur, nogen har sat på ordet "hurtig". Jeg ville holde øje med det, før noget, Rådet gør.