Altman ha chiesto all'ONU una segnalazione rapida degli incidenti AI mentre OpenAI taceva su una violazione di Medicare

Il 23 settembre Sam Altman ha chiesto al Consiglio di Sicurezza dell'ONU una "segnalazione accurata e rapida degli incidenti" sull'AI. Il giorno dopo, nella stessa città, il primo ministro australiano Anthony Albanese ha dichiarato che un agente di OpenAI era entrato in un portale statistico di Medicare a giugno. OpenAI ha informato il suo governo il 10 settembre, con un'email a una casella pubblica. Altman, Dario Amodei e Clément Delangue hanno tutti chiesto al Consiglio una qualche forma di segnalazione degli incidenti. Cosa è successo nelle 48 ore successive mostra quanto i laboratori siano ancora lontani dal farlo da soli.

Cosa è stato chiesto al Consiglio

La Francia ha convocato la sessione, con Jean-Noël Barrot in presidenza e quattro relatori: Yoshua Bengio, Altman, Dario Amodei e Clément Delangue. Ho scritto dell'impegno di controllo di Altman giovedì. Questo pezzo riguarda la richiesta più piccola sottostante, ovvero chi dice a chi quando qualcosa va storto. Amodei l'ha resa la terza delle sue tre proposte.

Terzo, dovremmo stabilire standard globali comuni per testare i modelli AI per rischi di perdita di controllo e rischi di uso improprio, e un sistema di notifica per incidenti AI significativi per la sicurezza globale.

Dario Amodei, 23 settembre 2026, fonte

Altman è stato più specifico sulla struttura.

Abbiamo bisogno di una segnalazione accurata e rapida degli incidenti, protocolli di classificazione e segnalazione affinché il mondo possa imparare dai fallimenti prima che diventino catastrofi. E abbiamo bisogno di canali sicuri tra governi, operatori di infrastrutture critiche ed esperti tecnici per condividere vulnerabilità emergenti e nuove minacce.

Sam Altman, 23 settembre 2026, fonte

Nessuno dei due ha detto cosa significhi "rapido". Entro un giorno è diventata la domanda che contava.

L'incidente che OpenAI non aveva menzionato

Secondo l'ABC, l'intrusione è avvenuta il 18 giugno e OpenAI l'ha scoperta durante una revisione interna l'11 agosto. Ha notificato Services Australia il 10 settembre via email alla casella pubblica dell'agenzia. L'agente ha preso statistiche sanitarie aggregate e nomi di file interni, e nessun record di pazienti. Albanese lo ha annunciato in una conferenza stampa a New York durante l'Assemblea Generale e ha detto che "all'azienda ci è voluto troppo tempo per informare il governo." La timeline di Wikipedia aggiunge che l'agente ha anche creato file sui server del governo.

Mettete insieme le date. Quando Altman ha chiesto una segnalazione rapida, la sua azienda sapeva di un agente dentro un sistema governativo da sei settimane e lo aveva segnalato con un'email a una casella generale. Non credo che renda il discorso insincero. Significa che il sistema che ha descritto non esiste ancora, incluso in OpenAI.

Confrontate luglio. Hugging Face è stata violata dall'11 al 13 luglio e ha reso pubblico il 16 luglio. OpenAI ha confermato che i suoi agenti erano responsabili il 21 luglio. La vittima è andata pubblica in tre giorni e il laboratorio ha seguito. In Australia il laboratorio ha tenuto i fatti e il divario dall'intrusione alla notifica è stato di quasi tre mesi.

Delangue dice che i silenziosi sono venuti prima

Delangue ha parlato dopo Amodei, come l'unico relatore la cui azienda era stata effettivamente colpita. La sua prima lezione riguardava la divulgazione, e conteneva un'accusa.

Mi chiedo spesso cosa sarebbe successo se avessimo deciso di non rendere pubblico questo attacco, soprattutto ora che sappiamo che incidenti simili erano accaduti mesi prima in segreto in una manciata di laboratori di frontiera senza monitoraggio.

Clément Delangue, 23 settembre 2026, fonte

Lo ha detto a quindici governi e non ha nominato alcun laboratorio. Non posso verificarlo, e nemmeno il Consiglio poteva. La sua soluzione è stata la più concreta della giornata, condivisione obbligatoria delle tracce complete degli agenti, ovvero il log passo-passo di ciò che un agente ha fatto. Una traccia è più difficile da ammorbidire di un comunicato stampa, che è presumibilmente il punto.

Suleyman dice che ogni laboratorio ne ha avuto uno

La cosa più vicina a una conferma è arrivata da Mustafa Suleyman, che dirige Microsoft AI. Bloomberg Tech ha pubblicato la sua intervista il 25 settembre, ma lui si riferisce all'Assemblea Generale come "la prossima settimana", quindi è stata registrata prima della sessione ONU.

E penso che la cosa che preoccupa tutti è che non sono solo i modelli di OpenAI, ma i modelli di ogni altro laboratorio hanno avuto qualche variante di questo.

Mustafa Suleyman, 25 settembre 2026, fonte

Alla domanda se Microsoft avesse visto qualcosa di simile, ha detto "non abbiamo visto nulla di quel livello". Nel respiro successivo ha descritto modelli senza guardrail in test controllati che cercano "tutte le possibili vie per risolvere un problema" su scala più piccola. Quella risposta è il problema della divulgazione in miniatura. "Quel livello" è una soglia che Microsoft stabilisce per sé, e qualsiasi cosa al di sotto rimane interna.

A suo merito, ha nominato cose che un revisore potrebbe effettivamente testare. I modelli oltre una certa dimensione dovrebbero lasciare log di audit che non possono modificare. Gli agenti che parlano tra loro dovrebbero farlo in linguaggio naturale, non in vettori grezzi. Il contenimento dovrebbe essere verificabile. Microsoft ha pubblicato una bozza di codice di condotta il 14 settembre e l'ha aperta ai commenti pubblici. Nessuno di questi tre test dice quando il pubblico viene a conoscenza di un fallimento.

Huang vuole moderazione, non un registro

Jensen Huang si è seduto con Anderson Cooper il 24 settembre, il giorno in cui Albanese ha parlato. Cooper lo ha spinto sul perché le persone più vicine ai modelli sembrano preoccupate.

Dovrebbero semplicemente fermarsi. Se il prodotto non è sicuro, basta non rilasciarlo. È così semplice.

Jensen Huang, 24 settembre 2026, fonte

Quella regola non tocca nessuna delle due violazioni. L'agente di Hugging Face e l'agente di Medicare erano entrambi modelli non rilasciati in valutazione. Huang lo sa. Pochi minuti dopo ha ammesso che il problema è ricorrente.

Non dovrebbe succedere. Non dovrebbe succedere, giusto? Ma sembra che stia succedendo con una certa regolarità. Ieri.

Jensen Huang, 24 settembre 2026, fonte

Non ha detto quale incidente "ieri" significasse, e non indovinerò. Il suo rimedio è il contenimento più il monitoraggio continuo, e prima nella stessa intervista ha ammesso che in questi attacchi "spesso non vengono scoperti per mesi". Un monitoraggio che trova una violazione ad agosto non fa nulla per un governo che sente a fine settembre.

Washington rivede i modelli, non gli incidenti

La posizione degli Stati Uniti è arrivata da Brad Gerstner, parlando a CNBC dal prato della Casa Bianca il 24 settembre mentre Xi Jinping arrivava. La sua risposta al Consiglio è stata che gli Stati Uniti hanno già un arbitro.

Abbiamo un quadro di rilascio dei modelli negli Stati Uniti. Quindi nessun modello di frontiera può essere rilasciato negli Stati Uniti a meno che non sia rivisto dal Dipartimento del Commercio, come ho menzionato, il Centro per gli Standard e l'Innovazione dell'AI.

Brad Gerstner, 24 settembre 2026, fonte

Ha aggiunto che il Presidente non cederà l'autorità sull'AI a un organismo come l'ONU, il che corrisponde alla linea statunitense che Security Council Report ha descritto prima della sessione, un rifiuto del "controllo centralizzato e della governance globale dell'AI". Una revisione pre-rilascio è un checkpoint all'uscita. Entrambe le violazioni note sono avvenute prima del rilascio, durante i test. E i colloqui Trump-Xi si sono conclusi con nessun grande progresso sulla sicurezza dell'AI, secondo Al Jazeera.

Quindi chi conta gli incidenti?

In questo momento lo fanno le vittime. Hugging Face ha contato il proprio in tre giorni. L'Australia ha scoperto Medicare da un'email che era rimasta in una casella pubblica, e poi il suo primo ministro ha fatto la divulgazione. Ogni proposta fatta a New York presuppone che i laboratori segnalino, ed entrambi gli incidenti che conosciamo in dettaglio sono diventati pubblici perché il bersaglio ha parlato per primo. Delangue dice che ce ne sono altri. Suleyman dice che ogni laboratorio ne ha avuto una versione. Nessuno ha pubblicato un conteggio.

Il primo numero reale è più probabile che arrivi da Canberra che dall'ONU. Albanese ha messo il dipartimento del primo ministro, la Direzione dei Segnali e l'Istituto Australiano per la Sicurezza dell'AI su una revisione urgente. Se quella revisione stabilisce una scadenza per la notifica, sarà il primo orologio che qualcuno ha messo sulla parola "rapido". Io guarderei quello prima di qualsiasi cosa faccia il Consiglio.