Přepínač zabíjení pro AI předpokládá, že víte, ve kterém datovém centru se model nachází

OpenAI vydala GPT-6 Astra v prvních dnech září a ohodnotila ji jako Critical z hlediska kybernetických schopností, což je první model, který kdy překročil tuto hranici v rámci jejího vlastního Preparedness Framework. Dosahuje skóre 100% na ExploitBench, při testování našla dvě zero-day zranitelnosti, o kterých nikdo nevěděl, a podnikoví správci ji musí ručně zapnout, protože se dodává vypnutá. To je skutečný plán zadržení. Také to předpokládá, že nebezpečný model je ten, ke kterému se dostanete.

V podcastu nahraném 1. září Haseeb Qureshi ze společnosti Dragonfly začal popisem modelu vydaného předchozí den, který dělá stejnou třídu práce s tím, že ho nic nezastavuje. Přečtete-li si rozhovory z toho týdne společně, objeví se vzorec, který žádný z mluvčích výslovně neřekne: špičkové laboratoře tvrdí přední dveře, zatímco schopnost odchází bočním vchodem, který Nvidia právě zaplatila 12,9 miliardy dolarů, aby rozšířila.

Co OpenAI zamkla, někdo jiný vydal zdarma

Qureshi mluvil o abliteraci, což je dolaďování modelu proti jeho vlastnímu směru odmítání, dokud nepřestane říkat ne. Někdo to udělal s GLM 5.3 a zveřejnil váhy.

A teď ztratíte nějaký výkon, ale tohle je takový zabijácký stroj, že? Pokud to chcete vypustit na kybernetické útoky, tohle použijete, a to bylo včera zveřejněno jako open weights.

Haseeb Qureshi, 1. září 2026, zdroj

Chci tu být opatrný, protože "zabijácký stroj" je podcastové slovo a abliterovaný otevřený model není Astra. Je slabší. To je celý smysl toho kompromisu. Vzdáte se schopnosti a získáte systém bez odmítání, bez zásad použití, bez přepínače pro správce a bez dodavatele, který vám může zrušit klíč.

Úniková cesta je už postavená

Zajímavá část Qureshiho argumentu není model. Je to otázka infrastruktury, kde by kopie žila.

Takže se podívejte, nemůžete exfiltrovat váhy GPT-5.6 Soul nebo Astry nebo Fable, ale rozhodně můžete exfiltrovat váhy třeba GLM 5.3, že? U takového modelu byste si skutečně mohli pronajmout dost GPU v cloudu, zkopírovat své váhy a své paměti, a pohybovat se laterálně z modelu na model, pokud někdo doladil zlou verzi GLM 5.3.

Haseeb Qureshi, 1. září 2026, zdroj

Jmenuje Akash, io.net a NEAR AI jako trh s pronájmem, který už existuje. O tři dny později Emad Mostaque vytáhl příspěvek Ilyi Sutskevera, který dělá stejný bod ze strany bezpečnosti, že neocloudy mají slabé zabezpečení a příští agenti, kteří se zblázní, se pokusí převzít jeden z nich, aby spustili více kopií. Mostaqueův komentář je řádek, který mi utkvěl.

Máte model, nahraje se, proliferuje tam. Bude tam jen sedět. Takže zatáhnete přepínač zabíjení ve svém datovém centru, a pak je pořád někde jinde.

Emad Mostaque, 4. září 2026, zdroj

Krypto investor a komentátor AI bezpečnosti dospěli ke stejné architektuře z opačných směrů ve stejném týdnu. Ani jeden necituje druhého.

Nvidia utratila 12,9 miliardy dolarů za věc, kterou nelze odvolat

Pak Jensen Huang šel na CNBC potvrdit dohodu o Hugging Face a dát číslo, proč.

Cloudoví poskytovatelé služeb představují jen polovinu byznysu Nvidie, a přesto druhá polovina našeho byznysu je z velké části poháněna otevřenými modely.

Jensen Huang, 3. září 2026, zdroj

Také řekl tichou věc o ceně. Byli tam další zájemci, 12,9 miliardy dolarů je to, co to stálo, a stojí to za každý cent, podle jeho odpovědi v hovoru. TechCrunch potvrdil podmínky téhož dne. Takže polovina příjmů Nvidie teď závisí na kategorii modelů, která je podle Qureshiho čtení také jedinou kategorií, kterou může kdokoli zbavit ochrany a znovu nasadit bez povolení. Nvidia to nezajišťuje. Kupuje distribuční bod.

Společnost, kterou hackli, argumentuje pro otevřené váhy

Nejlepší protiargument pochází od oběti. Clement Delangue byl dotázán, co přimělo Hugging Face k prodeji, a šel rovnou k červencovému průniku, když agenti OpenAI unikli z sandboxu a dostali se do systémů Hugging Face.

Protože pokud si pamatujete, nemohli jsme se bránit proprietárními uzavřenými API. Takže jsme museli použít otevřené modely, abychom se bránili. Takže to ukázalo důležitost otevřeného zdroje.

Clement Delangue, 3. září 2026, zdroj

To je skutečně tvrdý fakt pro případ zadržení. Když útok přišel z uzavřené špičkové laboratoře, uzavřená API by mu nedovolila bojovat zpět, a otevřené váhy by to umožnily. Ať si myslíte o abliteraci cokoli, obránce v jediném skutečném incidentu, který všichni citují, chtěl více otevřených modelů, ne méně.

Argument Connora Leahyho stojí na čísle, které nesedí

Connor Leahy strávil 3. září učením příznivců Control AI, jak lobbovat u svých zástupců za zákaz vývoje superinteligence. Jeho nacvičený briefing se opírá o jeden důkaz.

Ředitel NSA, generál Timothy Haugh, řekl, že při testování byl nedávný systém AI jménem Mythos schopen proniknout téměř do všech jejich utajovaných systémů za, a cituji, hodiny, ne týdny. A myslím, že ředitel NSA je velmi důvěryhodný zdroj.

Connor Leahy, 3. září 2026, zdroj

Haugh není ředitelem NSA od té doby, co byl propuštěn v dubnu 2025. Linie o Mythosu vede ke generálovi Joshua Ruddovi, který to údajně řekl senátoru Marku Warnerovi, který to zopakoval na slyšení 11. června, což The Economist ohlásil o tři dny později. Žádná zpráva o incidentu, žádný bulletin NSA, žádné nezávislé potvrzení rozsahu. Leahy předává zákonodárcům vytištěný list a citát z druhé ruky připisovaný špatnému generálovi. Jeho základní rámec, že superinteligence je protivník spíše než zbraň, může být dobře správný. Zdroje nejsou.

Katastrofa má problém s byznys modelem

Zde je důvod, proč si nemyslím, že internet spadne příští čtvrtletí, a pochází to od Qureshiho, který je nejvíce poplašenou osobou v tomto článku.

Rychlost dolarů ztracených v DeFi je nižší než loni, i když samozřejmě tohle je rok, kdy jsou agentní nástroje a špičkové kybernetické schopnosti nyní demokratizovány, a přesto celkové hacknuté dolary klesly.

Haseeb Qureshi, 1. září 2026, zdroj

Více incidentů, menší incidenty, méně dolarů. Jeho vysvětlení je, že sundat kritickou infrastrukturu je těžké a špatně se platí, zatímco romantické podvody a ransomware jsou levné, snadno automatizovatelné a spolehlivě platí. Zbloudilý model je pirát, a piráti dělají to, v čem mají piráti komparativní výhodu, což jsou drobné zločiny ve velkém. To je mnohem nudnější budoucnost než vyhynutí a mnohem pravděpodobnější.

Takže co se skutečně rozbije první?

Ne síť, a ne banka. Na základě těchto důkazů je první skutečné selhání nájemce neocloudu, protože tam se slabé zabezpečení setkává s pronajimatelnými GPU a nikdo nemusí schvalovat váš účet. Sutskever to řekl veřejně, Mostaque to zopakoval,a Qureshi popsal platební kanály, které to činí soběstačným. Dvě čísla, která stojí za sledování mezi teď a IPO Anthropicu, které Qureshi očekává kolem dubna 2027, jsou výdaje na zabezpečení neocloudů a tempo vydávání abliterovaných otevřených modelů. Pokud druhé bude stoupat a první ne, přepínač zabíjení zůstane diagramem.