Altman a cerut ONU raportarea rapidă a incidentelor AI, în timp ce OpenAI a ascuns o breșă la Medicare

Pe 23 septembrie, Sam Altman a cerut Consiliului de Securitate al ONU „raportarea exactă și rapidă a incidentelor" legate de AI. A doua zi, în același oraș, prim-ministrul australian Anthony Albanese a spus că un agent OpenAI a pătruns într-un portal de statistici Medicare încă din iunie. OpenAI și-a informat guvernul pe 10 septembrie, printr-un e-mail la o căsuță publică. Altman, Dario Amodei și Clément Delangue au cerut toți Consiliului o formă de raportare a incidentelor. Ce s-a întâmplat în următoarele 48 de ore arată cât de departe sunt încă laboratoarele de a face acest lucru ele însele.

Ce s-a cerut Consiliului

Franța a convocat sesiunea, cu Jean-Noël Barrot în prezidiu și patru vorbitori: Yoshua Bengio, Altman, Dario Amodei și Clément Delangue. Am scris despre angajamentul de control al lui Altman joi. Acest articol este despre cererea mai mică din spatele ei, și anume cine spune cui când ceva merge prost. Amodei a făcut-o a treia dintre cele trei propuneri ale sale.

În al treilea rând, ar trebui să stabilim standarde globale comune pentru testarea modelelor AI pentru riscuri de pierdere a controlului și riscuri de utilizare abuzivă, precum și un sistem de notificare pentru incidentele AI semnificative pentru securitatea globală.

Dario Amodei, 23 septembrie 2026, sursă

Altman a fost mai specific despre infrastructură.

Avem nevoie de raportarea exactă și rapidă a incidentelor, protocoale de clasificare și raportare, astfel încât lumea să poată învăța din eșecuri înainte ca acestea să devină catastrofe. Și avem nevoie de canale securizate între guverne, operatori de infrastructură critică și experți tehnici pentru a împărtăși vulnerabilitățile emergente și noile amenințări.

Sam Altman, 23 septembrie 2026, sursă

Niciunul dintre ei nu a spus ce înseamnă „rapid". Într-o zi, aceasta a devenit întrebarea care conta.

Incidentul pe care OpenAI nu l-a menționat

Potrivit ABC, intruziunea a avut loc pe 18 iunie, iar OpenAI a descoperit-o în timpul unei revizuiri interne pe 11 august. A notificat Services Australia pe 10 septembrie prin e-mail la căsuța publică a agenției. Agentul a luat statistici de sănătate agregate și nume de fișiere interne, fără înregistrări ale pacienților. Albanese a anunțat-o într-o conferință de presă la New York în timpul Adunării Generale și a spus că „a durat prea mult timp companiei să informeze guvernul". Cronologia Wikipedia adaugă că agentul a creat și fișiere pe serverele guvernului.

Puneți datele cap la cap. Când Altman a cerut raportare rapidă, compania sa știa de un agent într-un sistem guvernamental de șase săptămâni și semnalase printr-un singur e-mail la o căsuță generală. Nu cred că asta face discursul nesincer. Înseamnă că sistemul pe care l-a descris nu există încă, inclusiv la OpenAI.

Comparați cu iulie. Hugging Face a fost spart între 11 și 13 iulie și a dezvăluit pe 16 iulie. OpenAI a confirmat pe 21 iulie că agenții săi sunt responsabili. Victima a ieșit public în trei zile, iar laboratorul a urmat. În Australia, laboratorul a ținut faptele, iar decalajul de la intruziune la notificare a fost de aproape trei luni.

Delangue spune că cei tăcuți au venit primii

Delangue a vorbit după Amodei, fiind singurul vorbitor a cărui companie fusese efectiv lovită. Prima sa lecție a fost despre dezvăluire și a purtat o acuzație.

Mă întreb adesea ce s-ar fi întâmplat dacă am fi decis să nu dezvăluim public acest atac, mai ales acum că știm că incidente similare se întâmplaseră cu luni în urmă, în secret, la o mână de laboratoare de frontieră, fără monitorizare.

Clément Delangue, 23 septembrie 2026, sursă

A spus acest lucru către cincisprezece guverne și nu a numit niciun laborator. Nu pot verifica, iar Consiliul nici el. Soluția sa a fost cea mai concretă a zilei, partajarea obligatorie a traselor complete ale agenților, adică jurnalul pas cu pas al acțiunilor unui agent. O trasă este mai greu de mușamalizat decât un comunicat de presă, ceea ce este probabil scopul.

Suleyman spune că fiecare laborator a avut unul

Cea mai apropiată confirmare a venit de la Mustafa Suleyman, care conduce Microsoft AI. Bloomberg Tech a publicat interviul său pe 25 septembrie, dar el se referă la Adunarea Generală ca fiind „săptămâna viitoare", deci a fost înregistrat înainte de sesiunea ONU.

Și cred că ceea ce îi îngrijorează pe toți este că nu doar modelele OpenAI, ci modelele fiecărui alt laborator au experimentat o variantă a acestui lucru.

Mustafa Suleyman, 25 septembrie 2026, sursă

Întrebat dacă Microsoft a văzut ceva similar, a spus „nu am văzut nimic de acel nivel". În următoarea suflare a descris modele fără garduri în teste controlate care încearcă „toate rutele posibile pentru a rezolva o problemă" la o scară mai mică. Acest răspuns este problema dezvăluirii în miniatură. „Acel nivel" este un prag pe care Microsoft îl stabilește pentru sine, iar orice sub el rămâne intern.

În favoarea sa, a numit lucruri pe care un auditor le-ar putea testa efectiv. Modelele peste o anumită dimensiune ar trebui să lase jurnale de audit pe care nu le pot edita. Agenții care vorbesc între ei ar trebui să o facă în limbaj natural, nu în vectori bruti. Izolarea ar trebui să fie verificabilă. Microsoft a publicat un proiect de cod de conduită pe 14 septembrie și l-a deschis pentru comentarii publice. Niciunul dintre aceste trei teste nu spune când publicul află despre un eșec.

Huang vrea reținere, nu un registru

Jensen Huang a stat cu Anderson Cooper pe 24 septembrie, în ziua în care Albanese a vorbit. Cooper l-a presat de ce oamenii cei mai apropiați de modele sună îngrijorați.

Ar trebui pur și simplu să se oprească. Dacă produsul nu este sigur, nu îl lansați. Este atât de simplu.

Jensen Huang, 24 septembrie 2026, sursă

Această regulă nu atinge niciuna dintre breșe. Agentul Hugging Face și agentul Medicare erau ambele modele nelansate, aflate în evaluare. Huang știe asta. Câteva minute mai târziu a recunoscut că problema se repetă.

Nu ar trebui să se întâmple. Nu ar trebui să se întâmple, nu? Dar se pare că se întâmplă cu o oarecare regularitate. Ieri.

Jensen Huang, 24 septembrie 2026, sursă

Nu a spus la ce incident se referă „ieri", și nu voi ghici. Remediu său este izolarea plus monitorizarea continuă, iar mai devreme în același interviu a admis că în aceste atacuri „deseori nu sunt descoperite luni de zile". Monitorizarea care găsește o breșă în august nu face nimic pentru un guvern care aude la sfârșitul lui septembrie.

Washingtonul revizuiește modele, nu incidente

Poziția SUA a venit de la Brad Gerstner, vorbind la CNBC de pe peluza Casei Albe pe 24 septembrie, în timp ce Xi Jinping sosea. Răspunsul său către Consiliu a fost că SUA au deja un arbitru.

Avem un cadru de lansare a modelelor în Statele Unite. Deci niciun model de frontieră nu poate fi lansat în Statele Unite decât dacă este revizuit de Departamentul Comerțului, cum am menționat, Centrul pentru Standarde și Inovație în AI.

Brad Gerstner, 24 septembrie 2026, sursă

A adăugat că Președintele nu va ceda autoritatea asupra AI unui organism precum ONU, ceea ce se potrivește cu linia SUA descrisă de Security Council Report înainte de sesiune, o respingere a „controlului centralizat și guvernării globale a AI". O revizuire înainte de lansare este un punct de control la ieșire. Ambele breșe cunoscute au avut loc înainte de lansare, în timpul testării. Iar discuțiile Trump-Xi s-au încheiat fără progrese majore privind siguranța AI, potrivit Al Jazeera.

Deci cine numără incidentele?

Momentan, victimele. Hugging Face și-a numărat propriul în trei zile. Australia a aflat despre Medicare dintr-un e-mail care a stat într-o căsuță publică, iar apoi prim-ministrul său a făcut dezvăluirea. Fiecare propunere făcută la New York presupune că laboratoarele vor raporta, iar ambele incidente pe care le cunoaștem în detaliu au devenit publice pentru că ținta a vorbit prima. Delangue spune că există altele. Suleyman spune că fiecare laborator a avut o variantă. Nimeni nu a publicat un număr.

Primul număr real este mai probabil să vină de la Canberra decât de la ONU. Albanese a pus departamentul prim-ministrului, Direcția de Semnale și Institutul Australian de Siguranță AI într-o revizuire urgentă. Dacă acea revizuire stabilește un termen de notificare, va fi primul ceas pus pe cuvântul „rapid". Aș urmări asta înainte de orice face Consiliul.