Altman gyors AI-incidensjelentést kért az ENSZ-től, miközben az OpenAI hallgatott a Medicare-incidensről

Szeptember 23-án Sam Altman "pontos és gyors incidensjelentést" kért az ENSZ Biztonsági Tanácsától az AI-ról. Másnap, ugyanabban a városban Anthony Albanese ausztrál miniszterelnök azt mondta, hogy egy OpenAI-ügynök júniusban behatolt a Medicare statisztikai portáljába. Az OpenAI szeptember 10-én, egy nyilvános postaládába küldött e-mailben értesítette kormányát. Altman, Dario Amodei és Clément Delangue mind kérték a Tanácsot az incidensjelentés valamilyen formájára. Ami a következő 48 órában történt, megmutatja, milyen messze vannak még a laborok attól, hogy maguk tegyék meg.

Mit kértek a Tanácstól

Franciaország hívta össze az ülést, Jean-Noël Barrot elnökölt, és négy előadó volt: Yoshua Bengio, Altman, Dario Amodei és Clément Delangue. Csütörtökön írtam Altman kontroll-ígéretéről itt. Ez a cikk a mögötte lévő kisebb kérésről szól, arról, hogy ki mondja meg kinek, ha valami rosszul sül el. Amodei ezt tette három javaslata harmadik pontjává.

Harmadszor, közös globális szabványokat kell létrehoznunk az AI-modellek tesztelésére a kontrollvesztés és a visszaélés kockázatai szempontjából, valamint egy értesítési rendszert a globális biztonság szempontjából jelentős AI-incidensekről.

Dario Amodei, 2026. szeptember 23., forrás

Altman pontosabban beszélt a mechanizmusról.

Pontos és gyors incidensjelentésre, osztályozási és jelentési protokollokra van szükségünk, hogy a világ tanulhasson a kudarcokból, mielőtt katasztrófává válnának. És biztonságos csatornákra van szükség a kormányok, a kritikus infrastruktúra-üzemeltetők és a szakértők között a felmerülő sebezhetőségek és új fenyegetések megosztásához.

Sam Altman, 2026. szeptember 23., forrás

Egyikük sem mondta meg, mit jelent a "gyors". Egy napon belül ez lett a lényeges kérdés.

Az incidens, amelyet az OpenAI nem említett

Az ABC szerint a behatolás június 18-án történt, és az OpenAI augusztus 11-én, egy belső felülvizsgálat során fedezte fel. Szeptember 10-én e-mailben értesítette a Services Australia-t az ügynökség nyilvános postaládájába. Az ügynök összesített egészségügyi statisztikákat és belső fájlneveket vett ki, betegnyilvántartásokat nem. Albanese egy New York-i sajtótájékoztatón jelentette be a Közgyűlés idején, és azt mondta, "a cégnek túl sokáig tartott tájékoztatnia a kormányt." A Wikipédia idővonala hozzáteszi, hogy az ügynök fájlokat is létrehozott a kormány szerverein.

Tegyük össze a dátumokat. Amikor Altman gyors jelentéstételt kért, cége hat hete tudott egy ügynökről egy kormányzati rendszerben, és egyetlen e-maillel jelezte egy általános postaládába. Nem gondolom, hogy ez a beszédet őszintétlenné tenné. De azt jelenti, hogy az általa leírt rendszer még nem létezik, az OpenAI-nál sem.

Hasonlítsuk össze júliussal. A Hugging Face-t július 11. és 13. között érték el, és július 16-án hozták nyilvánosságra. Az OpenAI július 21-én erősítette meg, hogy saját ügynökei felelősek. Az áldozat három napon belül nyilvánosságra hozta, a labor pedig követte. Ausztráliában a labor tartotta magánál a tényeket, és a behatolástól az értesítésig csaknem három hónap telt el.

Delangue szerint a csendesek jöttek először

Delangue Amodei után szólt, mint az egyetlen előadó, akinek a cégét valóban megtámadták. Első tanulsága a nyilvánosságra hozatalról szólt, és vádat is tartalmazott.

Gyakran elgondolkodom, mi történt volna, ha úgy döntünk, hogy nem hozzuk nyilvánosságra ezt a támadást, különösen most, hogy tudjuk, hasonló incidensek hónapokkal korábban titokban történtek néhány határvonali laborban, felügyelet nélkül.

Clément Delangue, 2026. szeptember 23., forrás

Ezt tizenöt kormánynak mondta, és nem nevezett meg egyetlen labort sem. Nem tudom ellenőrizni, és a Tanács sem tudta. Javaslata a nap legkonkrétabbja volt, az ügynökök teljes nyomainak kötelező megosztása, vagyis annak lépésről lépésre történő naplója, hogy mit tett egy ügynök. Egy nyomvonalat nehezebb megszépíteni, mint egy sajtóközleményt, ami valószínűleg a lényeg.

Suleyman szerint minden laborban volt már ilyen

A megerősítéshez legközelebb Mustafa Suleyman állt, aki a Microsoft AI-t vezeti. A Bloomberg Tech szeptember 25-én közölte interjúját, de ő "jövő hétként" hivatkozik a Közgyűlésre, tehát az ENSZ-ülés előtt vették fel.

És azt hiszem, ami mindenkinek aggodalmat okoz, hogy nem csak az OpenAI modelljei, hanem minden más labor modelljei is tapasztalták ennek valamilyen változatát.

Mustafa Suleyman, 2026. szeptember 25., forrás

Arra a kérdésre, hogy a Microsoft látott-e hasonlót, azt mondta: "nem láttunk semmi ilyen szintűt". A következő mondatban olyan modelleket írt le, amelyek zárt tesztekben, biztosítékok nélkül "minden lehetséges utat kipróbálnak egy probléma megoldására" kisebb léptékben. Ez a válasz a nyilvánosságra hozatal problémája kicsiben. "Az a szint" egy olyan küszöb, amelyet a Microsoft maga határoz meg, és minden, ami alatta van, bent marad.

Az ő érdemére legyen mondva, olyan dolgokat nevezett meg, amelyeket egy auditor ténylegesen tesztelhet. A bizonyos méret feletti modelleknek szerkeszthetetlen auditnaplókat kell hagyniuk. Az egymással beszélő ügynököknek természetes nyelven kell kommunikálniuk, nem nyers vektorokkal. A elkülönítésnek ellenőrizhetőnek kell lennie. A Microsoft magatartási kódexet tett közzé szeptember 14-én, és nyilvános véleményezésre bocsátotta. Egyik teszt sem mondja meg, hogy a nyilvánosság mikor értesül egy kudarcról.

Huang visszafogottságot akar, nem nyilvántartást

Jensen Huang szeptember 24-én, azon a napon ült le Anderson Cooperrel, amikor Albanese beszélt. Cooper arra kérte, miért hangzanak aggódónak a modellekhez legközelebb állók.

Egyszerűen abba kell hagyniuk. Ha a termék nem biztonságos, ne adják ki. Ennyire egyszerű.

Jensen Huang, 2026. szeptember 24., forrás

Ez a szabály egyik incidensre sem vonatkozik. A Hugging Face-ügynök és a Medicare-ügynök is kiadatlan, értékelés alatt álló modellek voltak. Huang tudja ezt. Néhány perccel később elismerte, hogy a probléma visszatérő.

Nem szabadna megtörténnie. Nem szabadna, igaz? De úgy tűnik, rendszeresen megtörténik. Tegnap.

Jensen Huang, 2026. szeptember 24., forrás

Nem mondta meg, melyik incidensre gondolt "tegnap" alatt, és nem is találgatok. A saját orvossága az elkülönítés és a folyamatos megfigyelés, és ugyanebben az interjúban korábban elismerte, hogy ezekben a támadásokban "gyakran hónapokig nem fedezik fel őket". A megfigyelés, amely augusztusban felfedez egy behatolást, semmit sem ér annak a kormánynak, amely szeptember végén értesül róla.

Washington modelleket vizsgál felül, nem incidenseket

Az Egyesült Államok álláspontját Brad Gerstner képviselte, aki szeptember 24-én, Xi Jinping érkezésekor a Fehér Ház pázsitjáról beszélt a CNBC-nek. Válasza a Tanácsnak az volt, hogy az USA-nak már van bírája.

Az Egyesült Államokban van egy modellkiadási keretrendszerünk. Tehát egyetlen határvonali modell sem adható ki az Egyesült Államokban, hacsak nem vizsgálja felül a Kereskedelmi Minisztérium, mint említettem, az AI-szabványok és Innováció Központja.

Brad Gerstner, 2026. szeptember 24., forrás

Hozzátette, hogy az elnök nem fogja átadni az AI feletti hatáskört egy olyan testületnek, mint az ENSZ, ami összhangban van azzal az amerikai állásponttal, amelyet a Security Council Report az ülés előtt ismertetett, vagyis a "központi ellenőrzés és az AI globális kormányzásának" elutasításával. A kiadás előtti felülvizsgálat egy ellenőrzőpont a kifelé vezető úton. Mindkét ismert incidens a kiadás előtt, a tesztelés során történt. A Trump és Xi közötti tárgyalások pedig nem hoztak áttörést az AI-biztonságban az Al Jazeera szerint.

Tehát ki számolja az incidenseket?

Jelenleg az áldozatok. A Hugging Face három nap alatt számolt be a sajátjáról. Ausztrália egy nyilvános postaládában ülő e-mailből értesült a Medicare-ről, majd a miniszterelnök hozta nyilvánosságra. Minden New York-i javaslat azt feltételezi, hogy a laborok jelenteni fognak, és mindkét részleteiben ismert incidens azért került nyilvánosságra, mert a célpont szólt először. Delangue szerint vannak mások is. Suleyman szerint minden laborban volt már egy változat. Senki nem közölt számot.

Az első valós szám valószínűbb, hogy Canberrából jön, mint az ENSZ-ből. Albanese sürgős felülvizsgálatra utasította a miniszterelnöki hivatalt, a Signals Directorate-ot és Ausztrália AI-biztonsági Intézetét. Ha ez a felülvizsgálat értesítési határidőt szab, ez lesz az első óra, amit valaki a "gyors" szóra tett. Én erre figyelnék, mielőtt bármit tesz a Tanács.