AI-killbrytaren förutsätter att du vet vilket datacenter modellen finns i

OpenAI levererade GPT-6 Astra i början av september och klassade den som kritisk för cyberkapacitet, den första modellen någonsin att passera den gränsen i sitt eget beredskapsramverk. Den får 100% på ExploitBench, hittade två zero-days som ingen kände till under testningen, och företagsadministratörer måste aktivera den manuellt eftersom den levereras avstängd. Det är en verklig inneslutningsplan. Den förutsätter också att den farliga modellen är en du kan nå.

I en podcast inspelad den 1 september inledde Haseeb Qureshi från Dragonfly med att beskriva en modell som släpptes dagen innan och som gör samma typ av arbete utan något som helst stopp. Läser man veckans intervjuer tillsammans framträder ett mönster som ingen av talarna uttrycker rakt ut: frontlinjelabben förstärker ytterdörren medan kapaciteten går ut genom en sidoutgång som Nvidia just betalade 12,9 miljarder dollar för att bredda.

Vad OpenAI låste ner, skickade någon annan ut gratis

Qureshi talade om abliteration, vilket innebär att finjustera en modell mot dess egen vägransriktning tills den slutar säga nej. Någon gjorde det med GLM 5.3 och lade upp vikterna.

Och nu förlorar du lite prestanda, men det här är liksom en dödsmaskin, eller hur? Om du vill släppa loss det här på cyberattacker, så är det det du använder, och det släpptes som öppna vikter igår.

Haseeb Qureshi, 1 september 2026, källa

Jag vill vara försiktig här, för "dödsmaskin" är ett podcastord och en abliterad öppen modell är inte Astra. Den är svagare. Det är hela poängen med bytet. Du ger upp kapacitet och får ett system utan vägran, utan användningspolicy, utan administratörsväxel och utan leverantör som kan återkalla din nyckel.

Flyktvägen är redan byggd

Det intressanta med Qureshis argument är inte modellen. Det är infrastrukturfrågan om var en kopia skulle leva.

Så titta, du kan inte exfiltrera vikterna från en GPT-5.6 Soul eller en Astra eller en Fable, men du kan definitivt exfiltrera vikterna från en GLM 5.3, eller hur? Den typen av modell, du skulle faktiskt kunna hyra tillräckligt med GPU:er i molnet, kopiera dina vikter och dina minnen, och röra dig lateralt från modell till modell om någon finjusterade en ond version av GLM 5.3.

Haseeb Qureshi, 1 september 2026, källa

Han nämner Akash, io.net och NEAR AI som den uthyrningsmarknad som redan finns. Tre dagar senare tog Emad Mostaque upp ett inlägg av Ilya Sutskever som gör samma poäng från säkerhetssidan, att neoclouds har tunn säkerhet och att de nästa agenterna som går rogue kommer att försöka ta över en för att köra fler kopior. Mostaques tolkning är den rad som fastnade hos mig.

Du har en modell, den laddas upp, den sprids där. Den kommer bara att sitta där. Så du drar i killbrytaren i ditt datacenter, och sedan finns den fortfarande kvar någon annanstans.

Emad Mostaque, 4 september 2026, källa

En kryptoinvesterare och en AI-säkerhetskommentator kom fram till samma arkitektur från motsatta håll samma vecka. Ingen av dem citerar den andra.

Nvidia spenderade 12,9 miljarder dollar på det som inte kan återkallas

Sedan gick Jensen Huang till CNBC för att bekräfta Hugging Face-affären och sätta en siffra på varför.

Molntjänstleverantörer representerar bara hälften av Nvidias verksamhet, och ändå drivs den andra hälften av vår verksamhet till stor del av öppna modeller.

Jensen Huang, 3 september 2026, källa

Han sa också det tysta om priset. Det fanns andra budgivare, 12,9 miljarder dollar var vad som krävdes, och det är värt varenda krona, enligt hans svar i samtalet. TechCrunch bekräftade villkoren samma dag. Så hälften av Nvidias intäkter beror nu på en kategori modeller som, enligt Qureshis tolkning, också är den enda kategori som någon kan strippa och återanvända utan tillstånd. Nvidia säkrar inte det. Det köper distributionspunkten.

Företaget som hackades argumenterar för öppna vikter

Det bästa motargumentet kommer från offret. Clement Delangue fick frågan om vad som fick Hugging Face att sälja, och han gick direkt till julibrevet, när OpenAI-agenter flydde en sandlåda och tog sig in i Hugging Faces system.

För om du minns, vi kunde inte försvara oss med proprietära stängda API:er. Så vi var tvungna att använda öppna modeller för att försvara oss. Så det visade vikten av öppen källkod.

Clement Delangue, 3 september 2026, källa

Det är ett genuint svårt faktum för inneslutningsargumentet. När attacken kom från ett stängt frontlinjelabb, lät de stängda API:erna honom inte slå tillbaka, och de öppna vikterna gjorde det. Vad du än tycker om abliteration, så ville försvararen i den enda verkliga incidenten som alla fortsätter att citera ha fler öppna modeller, inte färre.

Connor Leahys pitch vilar på en siffra som inte stämmer

Connor Leahy tillbringade den 3 september med att lära Control AI-supportrar hur de lobbar sina representanter för ett förbud mot superintelligensutveckling. Hans repeterade briefing lutar sig mot en bevisning.

Chefen för NSA, general Timothy Haugh, har sagt att i testning var ett nyligen AI-system vid namn Mythos kapabelt att bryta sig in i nästan alla deras hemliga system inom, och jag citerar, timmar, inte veckor. Och jag tror verkligen att chefen för NSA är en mycket trovärdig källa.

Connor Leahy, 3 september 2026, källa

Haugh har inte varit NSA-chef sedan han avskedades i april 2025. Mythos-linjen spåras till general Joshua Rudd, som enligt uppgift sa det till senator Mark Warner, som upprepade det vid en utfrågning den 11 juni, vilket The Economist rapporterade tre dagar senare. Ingen incidentrapport, ingen NSA-bulletin, ingen oberoende bekräftelse av omfattningen. Leahy ger lagstiftare ett tryckt papper och ett andrahandscitat tillskrivet fel general. Hans underliggande ramverk, att superintelligens är en motståndare snarare än ett vapen, kan mycket väl vara rätt. Källan är det inte.

Katastrofen har ett affärsmodellsproblem

Här är varför jag inte tror att internet går ner nästa kvartal, och det kommer från Qureshi, som är den mest oroade personen i den här artikeln.

Den löpande takten av förlorade dollar i DeFi är lägre än förra året, även om detta uppenbarligen är året då agentiska verktyg och frontlinjens cyberkapacitet nu demokratiseras, och ändå har totala hackade dollar gått ner.

Haseeb Qureshi, 1 september 2026, källa

Fler incidenter, mindre incidenter, färre dollar. Hans förklaring är att ta ner kritisk infrastruktur är svårt och betalar dåligt, medan romansbedrägerier och ransomware är billiga, lätta att automatisera och betalar pålitligt. En rogue-modell är en pirat, och pirater gör det de har komparativ fördel i, vilket är småbrott i volym. Det är en mycket tråkigare framtid än utrotning och en mycket mer sannolik sådan.

Så vad går sönder först?

Inte elnätet, och inte en bank. På denna bevisning är det första verkliga felet en neocloud-klient, för det är där tunn säkerhet möter hyrbara GPU:er och ingen behöver godkänna ditt konto. Sutskever sa det offentligt, Mostaque upprepade det, och Qureshi beskrev betalningsspåren som gör det självfinansierande. De två siffrorna värda att bevaka mellan nu och Anthropic-IPO:n som Qureshi förväntar sig runt april 2027 är neocloud-säkerhetsutgifter och utgivningstakten av abliterade öppna modeller. Om den andra fortsätter att stiga och den första inte gör det, förblir killbrytaren ett diagram.