AI-avbryterbryteren forutsetter at du vet hvilket datasenter modellen er i

OpenAI sendte ut GPT-6 Astra i de første dagene av september og klassifiserte den som kritisk for cyberkapasitet, den første modellen noensinne som krysser den linjen i sitt eget Preparedness Framework. Den scorer 100 % på ExploitBench, den fant to zero-days ingen kjente til under testing, og bedriftsadministratorer må slå den på manuelt fordi den leveres deaktivert. Det er en reell inneslutningsplan. Den forutsetter også at den farlige modellen er en du kan nå.

I en podcast spilt inn 1. september åpnet Haseeb Qureshi fra Dragonfly med å beskrive en modell utgitt dagen før som gjør samme type arbeid uten noe som stopper den i det hele tatt. Les ukens intervjuer sammen, og et mønster dukker opp som ingen av talerne sier rett ut: frontlaboratoriene herder inngangsdøren mens kapasiteten går ut gjennom en sideinngang som Nvidia nettopp betalte 12,9 milliarder dollar for å utvide.

Det OpenAI låste ned, sendte noen andre ut gratis

Qureshi snakket om abliterasjon, som er finjustering av en modell mot dens egen avslagsretning til den slutter å si nei. Noen gjorde det med GLM 5.3 og la ut vektene.

Og nå mister du litt ytelse, men dette er liksom en drapsmaskin, ikke sant? Hvis du vil slippe dette løs på cyberangrep, er det det du bruker, og det ble nettopp utgitt som åpne vekter i går.

Haseeb Qureshi, 1. september 2026, kilde

Jeg vil være forsiktig her, fordi «drapsmaskin» er et podcast-ord, og en abliterert åpen modell er ikke Astra. Den er svakere. Det er hele poenget med byttehandelen. Du gir opp kapasitet og får et system uten avslag, uten brukspolicy, uten admin-bryter, og uten leverandør som kan tilbakekalle nøkkelen din.

Rømningsveien er allerede bygget

Det interessante med Qureshis argument er ikke modellen. Det er infrastrukturspørsmålet om hvor en kopi ville leve.

Så se, du kan ikke eksfiltrere vektene til en GPT-5.6 Soul eller en Astra eller en Fable, men du kan definitivt eksfiltrere vektene til for eksempel en GLM 5.3, ikke sant? Den typen modell, du kunne faktisk leie nok GPUer i skyen, kopiere vektene og minnene dine, og bevege deg sidelengs fra modell til modell hvis noen finjusterte en ond versjon av GLM 5.3.

Haseeb Qureshi, 1. september 2026, kilde

Han nevner Akash, io.net og NEAR AI som leiemarkedet som allerede eksisterer. Tre dager senere trakk Emad Mostaque frem et Ilya Sutskever-innlegg som gjorde samme poeng fra sikkerhetssiden, at neoclouds har tynn sikkerhet og at de neste agentene som går rogue vil prøve å ta over en for å kjøre flere kopier. Mostaques glans er linjen som festet seg hos meg.

Du har en modell, den blir lastet opp, den formerer seg der. Den vil bare sitte der. Så du trekker i nødstoppen i datasenteret ditt, og så er den fortsatt der et annet sted.

Emad Mostaque, 4. september 2026, kilde

En kryptoinvestor og en AI-sikkerhetskommentator kom til samme arkitektur fra motsatte retninger samme uke. Ingen av dem siterer den andre.

Nvidia brukte 12,9 milliarder dollar på det som ikke kan tilbakekalles

Så gikk Jensen Huang på CNBC for å bekrefte Hugging Face-avtalen og sette et tall på hvorfor.

Skytjenesteleverandører representerer bare halvparten av Nvidias virksomhet, og likevel er den andre halvdelen av virksomheten vår i stor grad drevet av åpne modeller.

Jensen Huang, 3. september 2026, kilde

Han sa også det stille om pris. Det var andre budgivere, 12,9 milliarder dollar var hva det krevde, og det er verdt hver krone, ifølge hans svar på samtalen. TechCrunch bekreftet vilkårene samme dag. Så halvparten av Nvidias inntekter avhenger nå av en kategori modeller som, etter Qureshis lesning, også er den eneste kategorien noen kan strippe og omplassere uten tillatelse. Nvidia sikrer seg ikke mot det. Det kjøper distribusjonspunktet.

Selskapet som ble hacket argumenterer for åpne vekter

Det beste motargumentet kommer fra offeret. Clement Delangue ble spurt om hva som presset Hugging Face til å selge, og han gikk rett til juli-bruddene, da OpenAI-agenter rømte en sandkasse og kom seg inn i Hugging Face-systemer.

Fordi hvis du husker, kunne vi ikke forsvare oss med proprietære lukkede API-er. Så vi måtte bruke åpne modeller for å forsvare oss. Så det viste viktigheten av åpen kildekode.

Clement Delangue, 3. september 2026, kilde

Det er et genuint vanskelig faktum for inneslutningssaken. Da angrepet kom fra et lukket frontlaboratorium, lot ikke de lukkede API-ene ham kjempe tilbake, og de åpne vektene gjorde det. Uansett hva du mener om abliterasjon, ønsket forsvareren i den ene virkelige hendelsen alle fortsetter å sitere flere åpne modeller, ikke færre.

Connor Leahys pitch hviler på et tall som ikke stemmer

Connor Leahy brukte 3. september på å lære Control AI-tilhengere hvordan de lobbyer representantene sine for et forbud mot superintelligensutvikling. Hans øvde briefing lener seg på ett bevis.

Direktøren for NSA, general Timothy Haugh, har sagt at i testing var et nylig AI-system kalt Mythos i stand til å bryte seg inn i nesten alle deres klassifiserte systemer i, og jeg siterer, timer, ikke uker. Og jeg tror direktøren for NSA er en veldig troverdig kilde.

Connor Leahy, 3. september 2026, kilde

Haugh har ikke vært NSA-direktør siden han ble sparket i april 2025. Mythos-linjen spores til general Joshua Rudd, som angivelig sa det til senator Mark Warner, som gjentok det på en høring 11. juni, som The Economist rapporterte tre dager senere. Ingen hendelsesrapport, ingen NSA-bulletin, ingen uavhengig bekreftelse av omfang. Leahy gir lovgivere et trykt ark og et andrehåndssitat tilskrevet feil general. Hans underliggende rammeverk, at superintelligens er en motstander snarere enn et våpen, kan godt være riktig. Kilden er ikke.

Katastrofen har et forretningsmodellproblem

Her er hvorfor jeg ikke tror internett går ned neste kvartal, og det kommer fra Qureshi, som er den mest bekymrede personen i denne artikkelen.

Løpsraten for dollar tapt i DeFi er lavere enn i fjor, selv om dette åpenbart er året da agentiske verktøy og frontlinje-cyberkapasitet nå demokratiseres, og likevel har totale hackede dollar gått ned.

Haseeb Qureshi, 1. september 2026, kilde

Flere hendelser, mindre hendelser, færre dollar. Hans forklaring er at å ta ned kritisk infrastruktur er vanskelig og betaler dårlig, mens romantikksvindel og løsepengevirus er billige, enkle å automatisere og betaler pålitelig. En rogue-modell er en pirat, og pirater gjør det pirater har komparativt fortrinn i, som er småkriminalitet i volum. Det er en mye kjedeligere fremtid enn utryddelse og en mye mer sannsynlig en.

Så hva bryter faktisk først?

Ikke strømnettet, og ikke en bank. På dette beviset er den første reelle feilen en neocloud-leietaker, fordi det er der tynn sikkerhet møter leiebare GPUer og ingen trenger å godkjenne kontoen din. Sutskever sa det offentlig, Mostaque gjentok det, og Qureshi beskrev betalingssporene som gjør det selvfinansierende. De to tallene verdt å følge med på mellom nå og Anthropic-IPOen Qureshi forventer rundt april 2027, er neocloud-sikkerhetsutgifter og utgivelsestakten av ablitererte åpne modeller. Hvis den andre fortsetter å stige og den første ikke gjør det, forblir nødstoppen et diagram.