Mandia scopre che i modelli AI open source sono vulnerabili quanto quelli chiusi, un problema per il fronte del rallentamento

Il 6 ottobre due amministratori delegati della sicurezza e il chief technologist del Pentagono hanno detto, in modi diversi, che coloro che chiedono di rallentare l'AI hanno torto. George Kurtz di CrowdStrike ha definito una sciocchezza la stima del 10% di catastrofe su CNBC. Il chief technologist del Pentagono ha detto che ogni incidente AI finora era prevenibile. La cosa più utile detta in tutta la giornata, però, è arrivata da Kevin Mandia, in un episodio di a16z pubblicato lo stesso giorno. La sua azienda ha testato modelli open e closed su 20 intrusioni reali, e hanno completato lo stesso numero. Se questo regge, rallentare i laboratori di frontiera serve a poco contro l'hacking AI, perché i modelli open sono già lì.

Il test di Mandia è il numero da ricordare

Mandia ha fondato Mandiant, l'ha venduta, ed è tornato a metà dei suoi cinquant'anni per guidare Armadin, una startup che attacca i propri clienti con agenti AI prima che lo facciano i criminali. SecurityWeek ha riportato il 1° ottobre che aveva raccolto 255,5 milioni di dollari con una valutazione di 2,5 miliardi, co-guidata da Andreessen Horowitz e Accel. Quindi l'host di a16z è un investitore. Tenetelo a mente, e poi guardate cosa ha effettivamente riportato Mandia, perché è più accurato di quanto una presentazione richieda.

Il suo team ha scritto 20 sequenze complete di attacco che operatori umani hanno eseguito su siti di vittime reali, dal primo accesso all'obiettivo. Poi hanno lasciato provare i modelli.

Abbiamo testato i modelli open-weight e i modelli chiusi più avanzati. Tutti ne hanno trovati otto.

Kevin Mandia, a16z, pubblicato il 6 ottobre 2026, fonte

Otto su 20 è una lettura doppia. Nessun modello, chiuso o aperto, è riuscito a completare la maggior parte di un'intrusione reale da solo, il che è una doccia fredda per gli scenari più spaventosi. E l'unico vantaggio dei modelli chiusi era velocità e costo. Mandia dice che il suo team ha lasciato girare più a lungo quelli aperti e "sono arrivati allo stesso punto". Questo secondo punto è quello che il dibattito sul rallentamento ha saltato.

Perché i modelli open contano più di quelli di frontiera

Mandia non fa giri di parole su ciò che ne consegue. Il collo di bottiglia per i criminali, secondo lui, è l'anonimato, non la qualità del modello.

I modelli open sono già abbastanza buoni, e queste cose sono comuni ora. È solo questione di tempo: nel momento in cui avrai disponibilità anonima di GPU, vedrai molti più attacchi criminali.

Kevin Mandia, a16z, pubblicato il 6 ottobre 2026, fonte

Nikesh Arora di Palo Alto Networks è arrivato allo stesso punto dal lato politico. La sua intervista Tech Download con CNBC è stata registrata a fine settembre a HumanX ad Amsterdam e pubblicata il 6 ottobre, quindi trattatela come contesto. Ha detto che prima ha definito la proposta di rallentamento dei laboratori "una mossa da ninja", un gioco per ottenere simpatia regolatoria, e poi ha cambiato idea per una ragione più semplice. Nessuno può farla rispettare.

Penso che sia irrealistico. Non tutti si rallenteranno.

Nikesh Arora, The Tech Download, registrato a fine settembre, pubblicato il 6 ottobre 2026, fonte

Prima nella stessa conversazione Arora ha detto che Palo Alto aveva previsto che i modelli open avrebbero eguagliato Mythos entro tre-sei mesi, e che "ci sono modelli open source quasi buoni come Mythos" ora. Mettete questo accanto agli otto su 20 di Mandia e ottenete una storia coerente da due concorrenti. La frontiera fissa il tetto per le nuove capacità. Per entrare nelle reti, il pavimento ha già raggiunto.

Kurtz dice che la matematica della catastrofe è una sciocchezza

Jim Cramer ha aperto il segmento di Squawk Box notando che CrowdStrike aveva toccato un massimo storico il giorno prima. Yahoo Finance ha fissato il record intraday del 5 ottobre a 274,23 dollari, con il titolo in rialzo del 147% da fine gennaio. Cramer ha poi spinto Kurtz sui ricercatori che dicono che c'è una probabilità reale che l'AI uccida tutti entro la fine del decennio.

Sciocchezze, Jim. Non saremo morti nel 2030 con una probabilità del 10%.

George Kurtz, CNBC Squawk Box, 6 ottobre 2026, fonte

La sua soluzione è un "registratore di volo" per gli agenti, un log di ogni file che un agente tocca e ogni azione che compie, legato a un modo per fermarlo. Vuole standard NIST e autoregolamentazione, non cinque anni di certificazione. Ha anche avuto una battuta pungente per i ricercatori di sicurezza: "dovrebbero consultare più spesso gli esperti di sicurezza".

Prendo sul serio l'argomento ingegneristico, e sconterei comunque il tono. Un CEO il cui titolo è in rialzo del 147% grazie alla domanda di sicurezza AI ha ogni motivo per dire che il problema è abbastanza reale da comprare un prodotto, ma non così reale da rallentare. Il suo stesso miglior esempio va contro la calma. Ha citato un hack in Australia che è rimasto nascosto per 84 giorni prima che qualcuno capisse cosa era successo. Questo corrisponde al divario tra l'agente di OpenAI che è entrato nel portale statistiche Medicare australiano il 18 giugno e OpenAI che ha informato Canberra il 10 settembre, come abbiamo coperto a settembre. Un registratore di volo non serve a nulla se nessuno lo legge per 84 giorni.

Il Pentagono definisce ogni incidente prevenibile

Emil Michael, sottosegretario alla ricerca e ingegneria, era su CNBC la stessa mattina per parlare del premio Navy di Anduril, un contratto fino a 2,9 miliardi di dollari per un cantiere navale di parti di sottomarini nella contea di Baltimora che DefenseScoop riporta che Anduril sostiene con 3,7 miliardi di dollari di fondi propri. Interrogato sul rischio AI, è andato oltre Kurtz e ha attribuito parte della paura a "tattiche intimidatorie" diffuse "potenzialmente con qualche influenza straniera". Non ha fornito prove per questo, e non lo ripeterei come fatto.

Quindi penso che tutto ciò che abbiamo visto finora era prevenibile dai laboratori stessi. E questo è un punto chiave da tenere a mente.

Emil Michael, CNBC, 6 ottobre 2026, fonte

Prevenibile è una parola giusta per fallimenti di sandbox e log non letti. È anche un modo per dire che il problema appartiene ai laboratori e ai loro avvocati, non al governo. Michael lo ha detto quando ha parlato di assicurarsi che le aziende "sappiano che sono responsabili in certi casi".

Mandia non pensa che il prossimo anno sarà tranquillo

Qui è dove il campo della sicurezza si divide, ed è la parte dell'episodio di a16z che i clip salteranno. Mandia è d'accordo con Kurtz che rallentare i modelli è inutile. Non è d'accordo che le cose siano sotto controllo. Dice che Armadin ha trovato più di 90 zero day nei siti dei clienti da gennaio, e che gli ultimi sono stati trovati dall'AI piuttosto che dal suo personale. Sul personale è diretto: "se hai umani nel ciclo di rilevamento e risposta, sarai troppo lento".

Quindi non c'è modo di rendere il prossimo anno bello. È il modo migliore per dirlo.

Kevin Mandia, a16z, pubblicato il 6 ottobre 2026, fonte

Lo inquadra come una finestra in cui l'offensiva ha il vantaggio, e dice che gli attaccanti in Iran o Russia sentono "una disperazione in un momento di entrare ora". Anche questo è un discorso di vendita per la difesa autonoma, e ha una valutazione di 2,5 miliardi di dollari in gioco. È anche la previsione più specifica data da uno dei tre.

Quindi rallentare i laboratori rende qualcuno più al sicuro dagli hacker AI?

Sulla base di queste prove, non molto. Il dato più forte della giornata dice che i modelli open-weight già eguagliano quelli chiusi nelle intrusioni reali, una volta dato loro tempo. Questo rende il rallentamento in una manciata di laboratori statunitensi uno strumento debole contro criminali e stati che eseguono modelli open su GPU noleggiate. Quello che i CEO della sicurezza stanno davvero sostenendo è che i soldi dovrebbero andare a monitorare gli agenti, registrarli e tagliarli fuori rapidamente. Questo è auto-interessato, e probabilmente giusto. La domanda aperta è quella sollevata da Mandia e accantonata da Kurtz. Otto su 20 è il numero di oggi. Nessuno in video ha detto cosa succede quando arriva a 15.