Mandia descubre que los modelos de IA abiertos hackean igual que los cerrados, un problema para el bando de la desaceleración

El 6 de octubre, dos CEOs de seguridad y el principal tecnólogo del Pentágono dijeron, de diferentes maneras, que quienes piden frenar la IA están equivocados. George Kurtz de CrowdStrike calificó de tontería una estimación de catástrofe del 10% en CNBC. El principal tecnólogo del Pentágono dijo que todos los incidentes de IA hasta ahora fueron prevenibles. Lo más útil que se dijo durante todo el día, sin embargo, vino de Kevin Mandia, en un episodio de a16z publicado el mismo día. Su empresa probó modelos abiertos y cerrados contra 20 intrusiones reales, y completaron el mismo número. Si eso se mantiene, frenar a los laboratorios fronterizos hace poco contra el hackeo de IA, porque los modelos abiertos ya están ahí.

La prueba de Mandia es el número a recordar

Mandia construyó Mandiant, la vendió, y volvió a sus cincuenta y tantos para dirigir Armadin, una startup que ataca a sus propios clientes con agentes de IA antes de que lo hagan los criminales. SecurityWeek informó el 1 de octubre que había recaudado 255,5 millones de dólares con una valoración de 2.500 millones, coliderada por Andreessen Horowitz y Accel. Así que el anfitrión de a16z es un inversor. Tenga eso en cuenta, y luego mire lo que Mandia realmente informó, porque es más cuidadoso de lo que un pitch necesita ser.

Su equipo escribió 20 secuencias de ataque completas que los operadores humanos han ejecutado en sitios de víctimas reales, desde el primer punto de apoyo hasta el objetivo. Luego dejaron que los modelos intentaran.

Probamos los de peso abierto y los modelos cerrados más avanzados. Todos encontraron ocho.

Kevin Mandia, a16z, publicado el 6 de octubre de 2026, fuente

Ocho de 20 es dos lecturas a la vez. Ningún modelo, cerrado o abierto, pudo completar la mayoría de una intrusión real por sí solo, lo cual es una ducha fría para los escenarios más aterradores. Y la única ventaja de los modelos cerrados fue la velocidad y el costo. Mandia dice que su equipo dejó que los abiertos corrieran más tiempo y "llegaron al mismo lugar". Ese segundo punto es el que el debate sobre el ritmo ha omitido.

Por qué los modelos abiertos importan más que la frontera

Mandia no se anda con rodeos sobre lo que se sigue de eso. El cuello de botella para los criminales, según él, es el anonimato, no la calidad del modelo.

Los modelos abiertos ya son suficientemente buenos, y estas cosas son comunes ahora. Es solo cuestión de que en el momento en que tengas disponibilidad anónima de GPUs, verás muchos más ataques criminales.

Kevin Mandia, a16z, publicado el 6 de octubre de 2026, fuente

Nikesh Arora de Palo Alto Networks llegó al mismo lugar desde el lado de la política. Su entrevista Tech Download con CNBC fue grabada a finales de septiembre en HumanX en Ámsterdam y publicada el 6 de octubre, así que trátela como contexto. Dijo que primero llamó a la propuesta de ritmo de los laboratorios "un movimiento ninja", una jugada para la simpatía regulatoria, y luego cambió de opinión por una razón más simple. Nadie puede hacerla cumplir.

Creo que esto no es realista. No todos van a ponerse al día.

Nikesh Arora, The Tech Download, grabado a finales de septiembre, publicado el 6 de octubre de 2026, fuente

Antes en la misma conversación, Arora dijo que Palo Alto había predicho que los modelos abiertos igualarían a Mythos en tres a seis meses, y que "hay modelos de código abierto que son casi tan buenos como Mythos" ahora. Ponga eso junto al ocho de veinte de Mandia y obtiene una historia consistente de dos competidores. La frontera establece el techo para nuevas capacidades. Para irrumpir en redes, el piso ya se ha puesto al día.

Kurtz dice que la matemática de la fatalidad es una tontería

Jim Cramer abrió el segmento de Squawk Box señalando que CrowdStrike había alcanzado un máximo histórico el día anterior. Yahoo Finance situó el máximo intradía del 5 de octubre en $274.23, con la acción subiendo un 147% desde finales de enero. Cramer luego presionó a Kurtz sobre los investigadores que dicen que hay una posibilidad real de que la IA mate a todos para finales de la década.

Tonterías, Jim. No vamos a estar muertos en 2030 con una probabilidad del 10%.

George Kurtz, CNBC Squawk Box, 6 de octubre de 2026, fuente

Su solución es un "registrador de vuelo" para agentes, un registro de cada archivo que un agente toca y cada acción que toma, vinculado a una forma de detenerlo. Quiere estándares NIST y autovigilancia, no cinco años de certificación. También tuvo una línea punzante para los investigadores de seguridad: "deberían consultar a los expertos en seguridad más a menudo".

Me tomo en serio el argumento de ingeniería, y aún así descontaría el tono. Un CEO cuya acción sube un 147% por la demanda de seguridad de IA tiene todas las razones para decir que el problema es lo suficientemente real como para comprar un producto y no tan real como para que alguien se detenga. Su propio mejor ejemplo va en contra de la calma. Citó un hackeo en Australia que pasó 84 días antes de que alguien supiera lo que había pasado. Eso coincide con la brecha entre el agente de OpenAI entrando en el portal de estadísticas de Medicare de Australia el 18 de junio y OpenAI informando a Canberra el 10 de septiembre, que cubrimos en septiembre. Un registrador de vuelo no hace nada si nadie lo lee durante 84 días.

El Pentágono llama a todos los incidentes prevenibles

Emil Michael, el subsecretario de investigación e ingeniería, estuvo en CNBC la misma mañana para hablar sobre el premio de la Armada a Anduril, un contrato de hasta $2.9 mil millones para un astillero de piezas de submarinos en el condado de Baltimore que DefenseScoop informa que Anduril está respaldando con $3.7 mil millones de su propio dinero. Preguntado sobre el riesgo de IA, fue más allá que Kurtz y culpó parte del miedo a "tácticas de miedo" difundidas "potencialmente con alguna influencia extranjera". No ofreció evidencia para eso, y no lo repetiría como un hecho.

Así que creo que todo lo que hemos visto hasta ahora fue prevenible por los propios laboratorios. Y ese es un punto clave para llevarse.

Emil Michael, CNBC, 6 de octubre de 2026, fuente

Prevenible es una palabra justa para fallos de sandbox y registros no leídos. También es una forma de decir que el problema pertenece a los laboratorios y a sus abogados, no al gobierno. Michael dijo tanto cuando habló de asegurarse de que las empresas "sepan que son responsables en ciertos casos".

Mandia no cree que el próximo año sea tranquilo

Aquí es donde el campo de la seguridad se divide, y es la parte del episodio de a16z que los clips omitirán. Mandia está de acuerdo con Kurtz en que frenar los modelos es inútil. No está de acuerdo en que las cosas estén bajo control. Dice que Armadin ha encontrado más de 90 zero days en sitios de clientes desde enero, y que los últimos fueron encontrados por la IA en lugar de por su gente. Sobre el personal es contundente: "si tienes humanos en el bucle de detectar y responder, vas a ser demasiado lento".

Así que no hay manera de hacer que el próximo año sea bonito. Esa es la mejor manera de decirlo.

Kevin Mandia, a16z, publicado el 6 de octubre de 2026, fuente

Lo enmarca como una ventana en la que el ataque tiene la ventaja, y dice que los atacantes en Irán o Rusia sienten "una desesperación en un momento de entrar ahora". Eso también es un discurso de venta para la defensa autónoma, y tiene una valoración de $2.5 mil millones en juego. También es el pronóstico más específico que cualquiera de los tres dio.

Entonces, ¿frenar a los laboratorios hace que alguien esté más seguro de los hackers de IA?

Según esta evidencia, no mucho. El punto de datos más fuerte del día dice que los modelos de peso abierto ya igualan a los cerrados en intrusiones reales, una vez que se les da tiempo. Eso convierte el ritmo en un puñado de laboratorios de EE. UU. en una herramienta débil contra criminales y estados que ejecutan modelos abiertos en GPUs alquiladas. Lo que los CEOs de seguridad realmente argumentan es que el dinero debería ir a vigilar agentes, registrarlos y cortarlos rápido. Eso es interesado, y probablemente sea correcto. La pregunta abierta es la que Mandia planteó y Kurtz pasó por alto. Ocho de veinte es el número de hoy. Nadie en cámara dijo qué pasa cuando llegue a quince.