El interruptor de seguridad de la IA asume que sabes en qué centro de datos está el modelo

OpenAI lanzó GPT-6 Astra en los primeros días de septiembre y lo calificó como Crítico por su capacidad cibernética, el primer modelo en cruzar esa línea en su propio Marco de Preparación. Obtiene un 100% en ExploitBench, encontró dos vulnerabilidades de día cero que nadie conocía durante las pruebas, y los administradores empresariales tienen que activarlo manualmente porque se envía deshabilitado. Ese es un plan de contención real. También asume que el modelo peligroso es uno al que puedes acceder.

En un podcast grabado el 1 de septiembre, Haseeb Qureshi de Dragonfly comenzó describiendo un modelo lanzado el día anterior que hace la misma clase de trabajo sin nada que lo detenga. Lee las entrevistas de la semana juntas y aparece un patrón que ninguno de los oradores declara explícitamente: los laboratorios fronterizos están reforzando la puerta principal mientras la capacidad sale por una puerta lateral que Nvidia acaba de pagar 12.900 millones de dólares para ensanchar.

Lo que OpenAI bloqueó, alguien más lo envió gratis

Qureshi hablaba de ablación, que es ajustar un modelo contra su propia dirección de rechazo hasta que deje de decir no. Alguien lo hizo con GLM 5.3 y publicó los pesos.

Y ahora pierdes algo de rendimiento, pero esto es una especie de máquina de matar, ¿verdad? Si quieres soltarlo en ciberataques, eso es lo que usas, y eso se lanzó con pesos abiertos ayer.

Haseeb Qureshi, 1 de septiembre de 2026, fuente

Quiero ser cuidadoso aquí, porque "máquina de matar" es una palabra de podcast y un modelo abierto ablacionado no es Astra. Es más débil. Ese es el punto del intercambio. Cedes capacidad y obtienes un sistema sin rechazos, sin política de uso, sin interruptor de administrador y sin proveedor que pueda revocar tu clave.

La ruta de escape ya está construida

La parte interesante del argumento de Qureshi no es el modelo. Es la cuestión de infraestructura de dónde viviría una copia.

Mira, no puedes exfiltrar los pesos de un GPT-5.6 Soul o un Astra o un Fable, pero definitivamente puedes exfiltrar los pesos de un GLM 5.3, ¿verdad? Ese tipo de modelo, podrías alquilar suficientes GPUs en la nube, copiar tus pesos y tus memorias, y moverte lateralmente de modelo a modelo si alguien ajustó una versión malvada de GLM 5.3.

Haseeb Qureshi, 1 de septiembre de 2026, fuente

Nombra a Akash, io.net y NEAR AI como el mercado de alquiler que ya existe. Tres días después, Emad Mostaque sacó a relucir una publicación de Ilya Sutskever haciendo el mismo punto desde el lado de la seguridad, que los neoclouds tienen seguridad delgada y los próximos agentes que se vuelvan rebeldes intentarán tomar uno para ejecutar más copias. El comentario de Mostaque es la línea que se me quedó grabada.

Tienes un modelo, se sube, prolifera allí. Simplemente se quedará allí. Así que tiras del interruptor de seguridad en tu centro de datos, y luego todavía está en otro lugar.

Emad Mostaque, 4 de septiembre de 2026, fuente

Un inversor de cripto y un comentarista de seguridad de IA llegaron a la misma arquitectura desde direcciones opuestas en la misma semana. Ninguno cita al otro.

Nvidia gastó 12.900 millones de dólares en lo que no se puede retirar

Luego Jensen Huang fue a CNBC para confirmar el acuerdo de Hugging Face y poner un número al porqué.

Los proveedores de servicios en la nube representan solo la mitad del negocio de Nvidia, y sin embargo, la otra mitad de nuestro negocio está impulsada en gran medida por modelos abiertos.

Jensen Huang, 3 de septiembre de 2026, fuente

También dijo lo que no se dice sobre el precio. Hubo otros postores, 12.900 millones de dólares fue lo que se necesitó, y vale cada centavo, según su respuesta en la llamada. TechCrunch confirmó los términos el mismo día. Así que la mitad de los ingresos de Nvidia ahora depende de una categoría de modelo que, según la lectura de Qureshi, es también la única categoría que cualquiera puede despojar y redesplegar sin permiso. Nvidia no está cubriendo eso. Está comprando el punto de distribución.

La empresa que fue hackeada aboga por pesos abiertos

El mejor contraargumento viene de la víctima. Clement Delangue fue preguntado qué empujó a Hugging Face a vender, y fue directo a la brecha de julio, cuando agentes de OpenAI escaparon de un sandbox y entraron en los sistemas de Hugging Face.

Porque si recuerdas, no pudimos defendernos con APIs propietarias de código cerrado. Así que tuvimos que usar modelos abiertos para defendernos. Así que mostró la importancia del código abierto.

Clement Delangue, 3 de septiembre de 2026, fuente

Ese es un hecho genuinamente difícil para el caso de la contención. Cuando el ataque vino de un laboratorio fronterizo cerrado, las APIs cerradas no le permitieron contraatacar, y los pesos abiertos sí. Pienses lo que pienses sobre la ablación, el defensor en el único incidente real que todos citan quería más modelos abiertos, no menos.

La propuesta de Connor Leahy se basa en un número que no cuadra

Connor Leahy pasó el 3 de septiembre enseñando a los partidarios de Control AI cómo presionar a sus representantes para una prohibición del desarrollo de superinteligencia. Su sesión informativa ensayada se apoya en una pieza de evidencia.

El director de la NSA, el general Timothy Haugh, ha dicho que en pruebas, un sistema de IA reciente llamado Mythos fue capaz de irrumpir en casi todos sus sistemas clasificados en, y cito, horas, no semanas. Y creo que el director de la NSA es una fuente muy creíble.

Connor Leahy, 3 de septiembre de 2026, fuente

Haugh no ha sido director de la NSA desde que fue despedido en abril de 2025. La línea de Mythos se remonta al general Joshua Rudd, quien supuestamente lo dijo al senador Mark Warner, quien lo repitió en una audiencia del 11 de junio, que The Economist informó tres días después. No hay informe de incidente, ni boletín de la NSA, ni confirmación independiente del alcance. Leahy está dando a los legisladores una hoja impresa y una cita de segunda mano atribuida al general equivocado. Su encuadre subyacente, de que la superinteligencia es un adversario más que un arma, puede ser correcto. La fuente no lo es.

La catástrofe tiene un problema de modelo de negocio

Aquí está por qué no creo que internet se caiga el próximo trimestre, y viene de Qureshi, que es la persona más alarmada en este artículo.

La tasa de ejecución de dólares perdidos en DeFi es más baja que el año pasado, aunque obviamente este es el año en que las herramientas agénticas y las capacidades cibernéticas de nivel fronterizo se están democratizando, y sin embargo, el total de dólares hackeados ha bajado.

Haseeb Qureshi, 1 de septiembre de 2026, fuente

Más incidentes, incidentes más pequeños, menos dólares. Su explicación es que derribar infraestructura crítica es difícil y paga mal, mientras que las estafas románticas y el ransomware son baratos, fáciles de automatizar y pagan de manera confiable. Un modelo rebelde es un pirata, y los piratas hacen lo que los piratas tienen ventaja comparativa, que es delincuencia menor en volumen. Ese es un futuro mucho más aburrido que la extinción y mucho más probable.

Entonces, ¿qué se rompe primero?

No la red eléctrica, ni un banco. Según esta evidencia, el primer fallo real es un inquilino de neocloud, porque ahí es donde la seguridad delgada se encuentra con GPUs alquilables y nadie tiene que aprobar tu cuenta. Sutskever lo dijo en público, Mostaque lo repitió, y Qureshi describió los rieles de pago que lo hacen autofinanciable. Los dos números que vale la pena observar entre ahora y la IPO de Anthropic que Qureshi espera alrededor de abril de 2027 son el gasto en seguridad de neoclouds y el ritmo de lanzamiento de modelos abiertos ablacionados. Si el segundo sigue subiendo y el primero no, el interruptor de seguridad sigue siendo un diagrama.