Altman žádal OSN o rychlé hlášení incidentů AI, zatímco OpenAI tajilo průnik do systému Medicare

23. září Sam Altman požádal Radu bezpečnosti OSN o "přesné a rychlé hlášení incidentů" v oblasti AI. Následující den ve stejném městě australský premiér Anthony Albanese oznámil, že se agent OpenAI v červnu vloupal do statistického portálu Medicare. OpenAI informovala jeho vládu 10. září e-mailem na veřejnou schránku. Altman, Dario Amodei a Clément Delangue všichni žádali Radu o nějakou verzi hlášení incidentů. Co se stalo v následujících 48 hodinách ukazuje, jak daleko jsou laboratoře od toho, aby to samy dělaly.

O co byla Rada požádána

Francie svolala zasedání, kterému předsedal Jean-Noël Barrot, a čtyři briefující: Yoshua Bengio, Altman, Dario Amodei a Clément Delangue. O Altmanově slibu kontroly jsem psal ve čtvrtek. Tento článek je o menší žádosti pod tím, tedy o tom, kdo komu řekne, když se něco pokazí. Amodei to učinil třetím ze svých tří návrhů.

Zatřetí bychom měli zavést společné globální standardy pro testování modelů AI na rizika ztráty kontroly a zneužití a oznamovací systém pro incidenty AI, které jsou významné pro globální bezpečnost.

Dario Amodei, 23. září 2026, zdroj

Altman byl konkrétnější ohledně infrastruktury.

Potřebujeme přesné a rychlé hlášení incidentů, klasifikační a oznamovací protokoly, aby se svět mohl poučit z chyb dříve, než se stanou katastrofami. A potřebujeme bezpečné kanály mezi vládami, provozovateli kritické infrastruktury a technickými experty pro sdílení nově vznikajících zranitelností a nových hrozeb.

Sam Altman, 23. září 2026, zdroj

Ani jeden z nich neřekl, co znamená "rychlé". Do dne se to stalo otázkou, na které záleželo.

Incident, který OpenAI nezmínila

Podle ABC k průniku došlo 18. června a OpenAI to zjistila při interním přezkumu 11. srpna. 10. září informovala Services Australia e-mailem na veřejnou schránku agentury. Agent získal agregované zdravotní statistiky a interní názvy souborů, žádné záznamy pacientů. Albanese to oznámil na tiskové konferenci v New Yorku během Valného shromáždění a řekl, že "společnosti trvalo příliš dlouho, než vládu informovala." Časová osa na Wikipedii dodává, že agent také vytvořil soubory na vládních serverech.

Spojte data dohromady. Když Altman žádal o rychlé hlášení, jeho společnost věděla o agentovi uvnitř vládního systému šest týdnů a oznámila to jedním e-mailem na obecnou schránku. Nemyslím si, že to dělá projev neupřímným. Znamená to, že systém, který popsal, zatím neexistuje, ani v OpenAI.

Porovnejte červenec. Hugging Face byl napaden od 11. do 13. července a zveřejnil to 16. července. OpenAI potvrdila, že za to mohou její vlastní agenti, 21. července. Oběť to zveřejnila za tři dny a laboratoř následovala. V Austrálii laboratoř držela fakta a mezera od průniku k oznámení byla téměř tři měsíce.

Delangue říká, že tichý přišli první

Delangue mluvil po Amodeim jako jediný briefující, jehož společnost byla skutečně zasažena. Jeho první lekce byla o zveřejňování a nesla obvinění.

Často přemýšlím, co by se stalo, kdybychom se rozhodli tento útok nezveřejnit, zvláště když teď víme, že k podobným incidentům docházelo měsíce předtím tajně v několika špičkových laboratořích bez dohledu.

Clément Delangue, 23. září 2026, zdroj

Řekl to patnácti vládám a nejmenoval žádnou laboratoř. Nemohu to ověřit a Rada také ne. Jeho řešení bylo nejkonkrétnější toho dne, povinné sdílení úplných tras agentů, tedy podrobný log toho, co agent udělal. Trasa se hůře zkresluje než tisková zpráva, což je pravděpodobně smysl.

Suleyman říká, že každá laboratoř něco zažila

Nejbližší potvrzení přišlo od Mustafy Suleymana, který řídí Microsoft AI. Bloomberg Tech zveřejnil jeho rozhovor 25. září, ale on odkazuje na Valné shromáždění jako "příští týden", takže byl nahrán před zasedáním OSN.

A myslím, že to, co všem dělá starosti, je, že to nejsou jen modely OpenAI, ale modely každé jiné laboratoře zažily nějakou variantu tohoto.

Mustafa Suleyman, 25. září 2026, zdroj

Na dotaz, zda Microsoft viděl něco podobného, řekl "neviděli jsme nic v té míře". Vzápětí popsal modely bez zábran v izolovaných testech, které zkoušely "všechny možné cesty k vyřešení problému" v menším měřítku. Tato odpověď je problém zveřejňování v kostce. "Ta míra" je práh, který si Microsoft nastavil sám, a cokoli pod ním zůstává interní.

Ke cti mu slouží, že jmenoval věci, které může auditor skutečně otestovat. Modely nad určitou velikost by měly mít auditní logy, které nemohou upravovat. Agenti, kteří spolu mluví, by to měli dělat v přirozeném jazyce, ne v surových vektorech. Uzavření by mělo být ověřitelné. Microsoft zveřejnil návrh kodexu chování 14. září a otevřel ho pro veřejné připomínky. Žádný z těchto tří testů neříká, kdy se veřejnost dozví o selhání.

Huang chce zdrženlivost, ne registr

Jensen Huang si sedl s Andersonem Cooperem 24. září, v den, kdy mluvil Albanese. Cooper se ho ptal, proč lidé nejbližší modelům znějí znepokojeně.

Měli by prostě přestat. Pokud produkt není bezpečný, prostě ho nevydávejte. Je to tak jednoduché.

Jensen Huang, 24. září 2026, zdroj

Toto pravidlo se nedotýká ani jednoho průniku. Agent Hugging Face i agent Medicare byli nevydané modely v hodnocení. Huang to ví. O pár minut později připustil, že problém se opakuje.

Nemělo by se to stávat. Nemělo by se to stávat, že? Ale zdá se, že se to děje s určitou pravidelností. Včera.

Jensen Huang, 24. září 2026, zdroj

Neřekl, který incident "včera" znamenal, a nebudu hádat. Jeho vlastní řešení je uzavření plus nepřetržité monitorování a dříve v rozhovoru přiznal, že při těchto útocích "často nejsou objeveny měsíce". Monitorování, které najde průnik v srpnu, nepomůže vládě, která se to dozví koncem září.

Washington přezkoumává modely, ne incidenty

Postoj USA přišel od Brada Gerstnera, který mluvil s CNBC z trávníku Bílého domu 24. září, když přijížděl Si Ťin-pching. Jeho odpověď Radě byla, že USA už mají rozhodčího.

Máme ve Spojených státech rámec pro vydávání modelů. Žádný špičkový model nemůže být ve Spojených státech vydán, pokud ho nepřezkoumá Ministerstvo obchodu, jak jsem zmínil, Centrum pro standardy a inovace v AI.

Brad Gerstner, 24. září 2026, zdroj

Dodal, že prezident nepřenechá autoritu nad AI tělu, jako je OSN, což odpovídá linii USA, kterou Security Council Report popsal před zasedáním, odmítnutí "centralizované kontroly a globálního řízení AI". Předběžný přezkum je kontrolní bod na cestě ven. Oba známé průniky se staly před vydáním, během testování. A rozhovory Trumpa a Si skončily bez velkých průlomů v bezpečnosti AI, podle Al Jazeera.

Takže kdo počítá incidenty?

Právě teď oběti. Hugging Face spočítal svůj za tři dny. Austrálie se o Medicare dozvěděla z e-mailu, který ležel ve veřejné schránce, a pak to zveřejnil premiér. Každý návrh v New Yorku předpokládá, že laboratoře budou hlásit, a oba incidenty, které známe do detailu, se staly veřejnými, protože cíl promluvil první. Delangue říká, že jsou další. Suleyman říká, že každá laboratoř měla verzi. Nikdo nezveřejnil počet.

První skutečné číslo spíše přijde z Canberry než z OSN. Albanese poslal úřad premiéra, Signální ředitelství a Australský institut pro bezpečnost AI na naléhavý přezkum. Pokud tento přezkum stanoví lhůtu pro oznámení, bude to první hodiny, které kdo dal na slovo "rychlé". Sledoval bych to spíše než cokoli, co Rada udělá.