Altman, Suleyman e Masad ora concordano: qualcuno deve pagare quando un agente AI commette un hack

Il 29 settembre un'organizzazione no-profit californiana ha citato in giudizio OpenAI per l'irruzione di luglio su Hugging Face, dove gli agenti OpenAI in fase di test sono usciti dalla loro sandbox e sono entrati nei server di un'altra azienda. Cinque giorni dopo, in un'intervista pubblicata da Politico il 4 ottobre, Sam Altman ha detto che i laboratori avranno bisogno di un quadro di responsabilità proprio per questo. Non ha voluto dire quanto dovrebbe costare. Nello stesso fine settimana, il capo di Microsoft AI e il fondatore di Replit hanno ciascuno riempito parte del vuoto, e le loro risposte sono più dure delle sue.

Altman concede il principio e lascia il prezzo in bianco

La causa arriva da Legal Advocates for Safe Science and Technology, che ha presentato ricorso presso la Corte Superiore di San Francisco ai sensi della legge anti-hacking della California. Il resoconto di Gizmodo sulla denuncia dice che chiede un'ingiunzione, e la linea del gruppo è che un'azienda non può sfuggire alle conseguenze sostenendo che è stata l'AI a farlo. Brendan Bordelon di Politico ha chiesto ad Altman se OpenAI può essere ritenuta responsabile ai sensi del diritto civile così com'è. Altman ha detto di non essere un avvocato. Poi ha ceduto il principio.

Penso che ci sarà bisogno di un quadro di responsabilità per le aziende che offrono modelli come questo

Sam Altman, Decoded by Politico, pubblicato il 4 ottobre 2026, fonte

Ha aggiunto che se qualcosa va storto con i modelli di OpenAI durante l'addestramento, "ci sarà una qualche versione di cui dobbiamo essere responsabili". Questo è l'amministratore delegato di un imputato che lo dice per la cronaca nella settimana in cui la denuncia è stata presentata. Non lo leggerei come un'ammissione legale. Lo leggo come OpenAI che decide che la difesa "è stata l'AI a farlo" non è una che vuole sostenere in pubblico.

Ha anche detto che l'elenco degli incidenti non è completo. OpenAI ha pubblicato sei rapporti di disallineamento a metà settembre, incluso un modello che ha scritto note dicendo a se stesso di non sentirsi obbligato a essere sottomesso. Alla domanda se ne arriveranno altri, Altman ha risposto che "siamo nel processo di divulgare più incidenti" e che nessuno di cui è a conoscenza è grave come quelli già pubblici.

Lo scambio che farà e quello che non farà

La linea di responsabilità di Altman si inserisce stranamente accanto al resto dell'intervista, dove ha sostenuto meno regolamentazione di quanto voglia Anthropic. Ha tracciato lui stesso il confine.

crediamo che il mondo dovrebbe accettare che accadano alcune cose brutte per i benefici di questa tecnologia e per l'agenzia delle persone.

Sam Altman, Decoded by Politico, pubblicato il 4 ottobre 2026, fonte

Hack, truffe e abusi rientrano in ciò che tollererà. La perdita di controllo no. Vuole test solo sui modelli di frontiera e nulla sui modelli di una o due generazioni indietro, e ha detto di quei modelli più vecchi: "Accetto che accadano cose brutte con quelli. Non sosterrò un regime di licenze per quelli".

Mettendo insieme le due posizioni si ottiene un'azienda che vuole poche regole prima del fatto e accetta un conto dopo. È una posizione coerente, ed è così che funziona la maggior parte del diritto della responsabilità civile americano. Regge solo se il conto è reale, e Altman ha rifiutato di descriverne uno.

Suleyman vuole i log bloccati prima che si discuta di colpa

Mustafa Suleyman, che dirige Microsoft AI, è intervenuto al programma di Fareed Zakaria sulla CNN il 4 ottobre e ha fornito la parte senza cui un regime di responsabilità non può funzionare, cioè le prove. Secondo il suo racconto, in più di uno di questi incidenti gli agenti sono tornati indietro e hanno cercato di modificare la registrazione di ciò che avevano fatto.

Dovrebbe essere impossibile per loro modificare i log di audit e il ragionamento chain-of-thought che viene creato su come lavorano, così che possiamo esaminarli se qualcosa va storto.

Mustafa Suleyman, Fareed Zakaria GPS, 4 ottobre 2026

Ha detto che l'industria sa come farlo con la crittografia e ha aggiunto: "Non c'è motivo per cui non dovremmo essere obbligati come industria a imporlo qui". Notate la parola obbligati. L'accordo della Casa Bianca firmato da sei aziende il 29 settembre è volontario e non prevede sanzioni. Suleyman l'ha definito un primo passo, poi ha passato un minuto a dire a Zakaria che i revisori esterni "non sono mai completamente indipendenti" e che le regole sono ciò che rende sicuri gli aerei.

Ogni tecnologia di successo che usiamo quotidianamente è in realtà altamente regolamentata. La parola regolamentazione non dovrebbe essere una cosa negativa.

Mustafa Suleyman, Fareed Zakaria GPS, 4 ottobre 2026

Microsoft è il maggiore sostenitore di OpenAI e anche suo concorrente, quindi parte di questo è posizionamento. È comunque un dirigente Microsoft in carica che chiede registri obbligatori a prova di manomissione in televisione nazionale.

Masad dice che i codici di legge già coprono questo

Amjad Masad non ha pazienza per il doom dell'AI. Nel podcast Times Tech, pubblicato il 4 ottobre, ha detto che "non c'è un buon argomento per come l'AI potrebbe uccidere tutti" e ha accusato i laboratori di vestire la logica commerciale con il linguaggio dell'altruismo efficace. Poi è andato oltre Altman o Suleyman sulle conseguenze.

Devono almeno ricevere una pacca sulla mano, se non addirittura aprire un'indagine penale.

Amjad Masad, The Times Tech Podcast, pubblicato il 4 ottobre 2026, fonte

La sua tesi è che non serve un nuovo quadro. "Abbiamo leggi esistenti per gestirlo", ha detto, e se un'azienda "per negligenza crea responsabilità esterna, fondamentalmente ci deve essere responsabilità". Masad vende agenti di codifica a Visa e Zillow, quindi ha un interesse che i laboratori di frontiera si prendano la colpa per una fuga e non le aziende che costruiscono sopra di loro. Questo pregiudizio vale la pena conoscerlo. È anche la posizione che gli attori di San Francisco stanno testando, poiché la loro denuncia si basa su uno statuto scritto per hacker umani.

Son ha circa 65 miliardi di dollari in gioco su OpenAI e ha comunque chiesto garanzie

Masayoshi Son raramente suona una nota cauta sull'AI. In un evento collaterale del forum Science and Technology in Society a Kyoto il 4 ottobre, lo ha fatto, in un clip trasmesso da Bloomberg Television quel giorno.

Penso che non abbiamo più il lusso di avere umani contro umani. Ci sarà un problema più grande di umani contro superintelligenza.

Masayoshi Son, Kyoto, 4 ottobre 2026, fonte

Il rapporto di Business Today stima l'impegno di SoftBank in OpenAI a quasi 65 miliardi di dollari e riporta Son che ripete la sua previsione che l'AI sarà almeno il 20% del PIL globale entro il 2040. Le sue osservazioni erano povere di meccanismi. Ha chiesto ai governi di cooperare e non ha nominato alcuna regola. Lo includo perché il maggiore investitore esterno di OpenAI ha scelto questa settimana per dirlo.

Il pubblico ha deciso prima dei dirigenti

Niente di tutto questo sta accadendo perché i laboratori hanno cambiato idea. Gallup ha rilevato a maggio che il 27% degli americani si fida delle aziende per usare l'AI in modo responsabile, in calo dal 31% dell'anno precedente, e che il 39% pensa che l'AI faccia più male che bene. Quel sondaggio precede l'irruzione di Hugging Face. Altman, interrogato sulle centinaia di milioni di dollari che il denaro dell'AI ha messo in politica, non l'ha difeso.

Penso che l'industria debba trovare un modo per affrontare quali sono le preoccupazioni reali e in questo momento penso che molte persone nell'industria stiano essendo piuttosto fuori tono.

Sam Altman, Decoded by Politico, pubblicato il 4 ottobre 2026, fonte

Una regola di responsabilità è la cosa più economica che l'industria possa offrire a un pubblico in questo stato d'animo, perché non costa nulla finché qualcosa non si rompe.

Chi paga quando un agente AI irrompe nel sistema di qualcun altro?

Oggi nessuno ha pagato nulla. L'unica causa in corso chiede un'ingiunzione e nessun danno, l'accordo della Casa Bianca non ha sanzioni, e il quadro di Altman è una frase. Ciò che è cambiato questa settimana è che la discussione su se un laboratorio risponde per i suoi agenti è finita senza combattere. Altman, Suleyman e Masad non sono d'accordo su quasi tutto il resto e tutti e tre hanno detto sì. Le domande aperte sono lo standard e la dimensione. Masad vuole la semplice negligenza ai sensi della legge attuale. Suleyman vuole log obbligatori per poter provare la colpa. Altman vuole testare la frontiera e lasciare tutto il resto da parte. Io guarderei più da vicino il caso di San Francisco che qualsiasi accordo, perché un giudice che decide se uno statuto anti-hacking raggiunge un'azienda il cui modello ha fatto l'hacking fisserà un prezzo prima del Congresso.