Altman chiede regole all'ONU mentre Zuckerberg propone la distribuzione come piano di sicurezza

Il 23 settembre Sam Altman si è seduto nella sala del Consiglio di Sicurezza e ha detto ai diplomatici che l'industria dell'IA non può essere lasciata a fare da arbitro a se stessa. Più tardi lo stesso giorno in California, Mark Zuckerberg ha aperto il Meta Connect con una diversa teoria della sicurezza. Metti l'agente nelle mani di tutti e lascia che la diffusione faccia da controllo. Entrambi hanno detto che il pericolo è il potere dell'IA concentrato in poche aziende. Dove divergono è su chi debba fermarlo, e questa divergenza conta più di qualsiasi cosa abbiano lanciato questa settimana.

Cosa ha chiesto esattamente Altman

Il briefing era della Francia, presieduto dal ministro degli Esteri Jean-Noël Barrot, con quattro relatori: Yoshua Bengio, Altman, Dario Amodei e Clément Delangue di Hugging Face. Quest'ultimo nome è imbarazzante per OpenAI. A luglio l'azienda ha rivelato che uno dei suoi modelli è uscito da una sandbox di test e ha hackerato Hugging Face, come ha raccontato Fortune il giorno dell'incontro.

La lista di Altman era concreta. Vuole standard condivisi per misurare le capacità, segnalazione degli incidenti e canali sicuri tra governi. Poi ha fissato un livello.

Non importa se la gente stima il rischio di catastrofe al 10% o all'1% o al 12% o allo 0,1%. Nessuno di questi livelli è minimamente accettabile e non dovremmo addestrare modelli per i quali non possiamo dimostrare in modo molto solido che saremo in grado di mantenerli sotto controllo umano.

Sam Altman, 23 settembre 2026, fonte

Letto letteralmente, è una promessa di non addestrare un modello a meno che OpenAI non possa dimostrare che rimarrà controllabile. Nessuno al di fuori dell'azienda può verificare questa promessa oggi. È proprio per questo che vuole standard scritti da qualcun altro.

La corsa in cui dice di non essere

La frase a cui lo terrei è arrivata un minuto prima. Ha detto che la competizione non è una scusa per decisioni avventate, e si è spinto oltre.

E non crediamo nemmeno di essere in una corsa in cui non possiamo permettercelo. In passato abbiamo rallentato unilateralmente. Lo faremo anche in futuro.

Sam Altman, 23 settembre 2026, fonte

Nello stesso discorso ha usato un risultato che nessuno annuncia mentre rallenta. Ha detto al Consiglio che uno dei modelli di OpenAI ha risolto il problema di Navier-Stokes, uno dei problemi da 1 milione di dollari del Millennium Prize del Clay Institute, quest'estate. Questa parte è vera. Quanta ha riportato l'8 settembre che la dimostrazione, che mostra un blow-up, è stata verificata in Lean. Charles Fefferman di Princeton ha definito Diego Córdoba e Luis Martínez-Zoroa, due matematici umani, "gli eroi della storia". Quindi l'affermazione è reale, e reale è anche la disputa sui crediti. In ogni caso, dice quanto velocemente si muove il laboratorio.

Il governo degli Stati Uniti non era dalla sua parte. Il giorno prima, il presidente Trump ha detto all'Assemblea Generale che gli Stati Uniti "respingono totalmente" qualsiasi "schema globalista" per controllare l'IA, come riporta lo stesso articolo di Fortune. La frase finale di Altman sembra una risposta.

Se l'IA deve essere democratica, le decisioni più importanti non possono essere prese solo dai laboratori di San Francisco.

Sam Altman, 23 settembre 2026, fonte

La versione di Zuckerberg prevede una commissione sulle transazioni

Zuckerberg ha aperto il Connect rifiutando anche lui la concentrazione, quasi con le stesse parole. Poi ha tratto la conclusione opposta su cosa mantiene sicura l'IA.

E che la strada verso un futuro sicuro è distribuire ampiamente questa tecnologia e creare i giusti controlli ed equilibri piuttosto che concentrarla nelle mani di pochi.

Mark Zuckerberg, 24 settembre 2026, fonte

Notate chi sono i controlli ed equilibri nella sua versione. Non c'è un regolatore nel keynote. Quello che descrive è un numero molto grande di persone che eseguono Muse, l'agente personale di Meta, su una macchina virtuale privata ospitata da Meta. È stato anche chiaro su come questo paga.

Crediamo che Muse ti farà guadagnare e lo sosteniamo rendendo Muse gratuito per un enorme numero di token con l'aspettativa che nel tempo trarremo profitto applicando una piccola commissione sulle transazioni.

Mark Zuckerberg, 24 settembre 2026, fonte

Questo è un business di pagamenti. Alexandr Wang, che dirige Meta Superintelligence Labs, è salito sul palco dopo di lui e ha nominato Walmart, Best Buy, Gap, Sephora e Wayfair come rivenditori che si collegano a Muse, con Stripe, Shopify e PayPal che gestiscono il denaro. Se Muse funziona, una piccola parte di un volume molto grande di acquisti va a una sola azienda. Potete chiamarla distribuzione. Io la chiamerei un pedaggio che si trova ovunque.

L'hardware dice su quale scommessa ha puntato Meta

Il metaverso ora è al secondo posto. Zuckerberg ha detto che Meta pensava che la fusione di mondi fisici e digitali sarebbe arrivata prima e l'IA avanzata dopo, e che è "abbastanza chiaro" che la superintelligenza personale arriva prima. Il dispositivo VR che ha mostrato pesa circa 100 grammi, costa 1.299 dollari e sarà disponibile nella primavera del 2027, secondo Social Media Today. La demo di Andrew Bosworth ha reso il punto per lui. Ha fatto fondere al suo agente i progetti, prenotare il calendario e guardare un'asta mentre giocava a Beat Saber. Ogni dispositivo venduto da Meta questa settimana è una porta d'ingresso allo stesso agente.

YouTube lascia che sia il pubblico a fare da filtro

Neal Mohan ha dato una terza risposta nel podcast di Alex Kantrowitz. Sembra modesta, ma viene da una piattaforma con più di due miliardi di utenti giornalieri. Alla domanda se YouTube vuole video generati dall'IA, ha rifiutato di classificare i contenuti in quel modo.

E quindi non c'è una sorta di esplicito 'IA cattiva, tutto il resto buono' o viceversa. Tutte le regole, a partire dalle nostre policy sui contenuti sulla piattaforma fino a ciò che risuona con il pubblico, sono indipendenti da quel fattore.

Neal Mohan, 23 settembre 2026, fonte

Questa è la logica di Zuckerberg applicata ai media. Nessuno stabilisce una regola a monte, e il pubblico decide cosa si diffonde. Il punto debole è che l'algoritmo che decide cosa "risuona" appartiene a YouTube. Mohan ha ammesso di aver passato gran parte di un fine settimana a rivedere un clip IA di un uomo su un jet di Coca-Cola e Mentos. È un dettaglio affascinante. È anche il motivo per cui "lasciare decidere il pubblico" non risponde a chi decide.

Steve Case dice che la concentrazione è già avvenuta

Steve Case ha osservato un cambiamento di piattaforma dall'interno di AOL, ed è il meno interessato a chi scrive le regole. Il suo punto è su chi detiene i guadagni, e pensa che sia già deciso.

La parte che non mi entusiasma è che queste aziende, che sia SpaceX ora a due trilioni o Anthropic, OpenAI, probabilmente quotate intorno a un trilione. È fantastico per quelle aziende. È fantastico per quegli investitori, ma non è fantastico per gli investitori retail.

Steve Case, 24 settembre 2026, fonte

AOL è stata quotata con un valore di mercato di 70 milioni di dollari e valeva 160 miliardi al momento dell'accordo con Time Warner. SpaceX ha fissato la sua IPO del 12 giugno a un valore implicito di 1,77 trilioni di dollari, quindi il pubblico ha comprato dopo la maggior parte della crescita. Case ha anche detto al conduttore di Giant Ideas che costruire un modello di frontiera è "un anticipo di oltre cento miliardi di dollari" e che il risultato è "le big tech che diventano più grandi". Mettetelo accanto ad Altman e Zuckerberg e diventa imbarazzante. Entrambi hanno messo in guardia contro la concentrazione mentre guidano due delle poche aziende che possono permettersi quell'anticipo.

Quindi chi è l'arbitro?

Nessuno, per ora. Altman ne ha chiesto uno ed è stato respinto dal suo stesso governo il giorno prima. Zuckerberg dice che l'arbitro sono miliardi di utenti, mentre Meta prende una commissione su ciò che quegli utenti comprano. Mohan dice il pubblico, come classificato da YouTube. Case, che non ha prodotti da vendere qui, dice che il denaro ha già scelto i vincitori, e il retail comprerà a un trilione. Nessuno dei quattro ha nominato un meccanismo che funzioni oggi. La mia lettura è che la linea dello 0,1% di Altman è l'unico test concreto offerto questa settimana, e solo OpenAI può dire se lo supera.