Comutatorul de oprire al AI presupune că știi în ce centru de date se află modelul

OpenAI a lansat GPT-6 Astra în primele zile ale lui septembrie și l-a evaluat ca fiind Critic pentru capacitatea cibernetică, primul model care a traversat vreodată această linie pe propriul său Cadru de Pregătire. Obține 100% la ExploitBench, a găsit două zero-days pe care nimeni nu le cunoștea în timpul testării, iar administratorii de întreprindere trebuie să îl activeze manual pentru că este livrat dezactivat. Acesta este un plan real de contenție. De asemenea, presupune că modelul periculos este unul la care poți ajunge.

Pe un podcast înregistrat pe 1 septembrie, Haseeb Qureshi de la Dragonfly a deschis descriind un model lansat cu o zi înainte care face aceeași clasă de muncă fără nimic care să-l oprească. Citește interviurile săptămânii împreună și un tipar apare pe care niciunul dintre vorbitori nu-l afirmă direct: laboratoarele de frontieră întăresc ușa din față în timp ce capacitatea iese pe o ușă laterală pe care Nvidia tocmai a plătit 12,9 miliarde de dolari pentru a o lărgi.

Ce a blocat OpenAI, altcineva a livrat gratuit

Qureshi vorbea despre abliterație, care este reglarea fină a unui model împotriva propriei sale direcții de refuz până când nu mai spune nu. Cineva a făcut asta la GLM 5.3 și a postat greutățile.

Și acum pierzi ceva performanță, dar acesta este un fel de mașină de ucis, nu? Dacă vrei să-l lași liber la atacuri cibernetice, asta folosești, și asta tocmai a fost lansat cu greutăți deschise ieri.

Haseeb Qureshi, 1 septembrie 2026, sursă

Vreau să fiu atent aici, pentru că "mașină de ucis" este un cuvânt de podcast și un model deschis abliterat nu este Astra. Este mai slab. Acesta este întregul scop al schimbului. Renunți la capacitate și obții un sistem fără refuzuri, fără politică de utilizare, fără comutator de administrator, și fără furnizor care să-ți poată revoca cheia.

Ruta de scăpare este deja construită

Partea interesantă a argumentului lui Qureshi nu este modelul. Este întrebarea de infrastructură despre unde ar trăi o copie.

Deci uite, nu poți exfiltra greutățile unui GPT-5.6 Soul sau unui Astra sau unui Fable, dar poți cu siguranță exfiltra greutățile unui GLM 5.3, nu? Acest tip de model, ai putea efectiv să închiriezi suficiente GPU-uri pe cloud, să-ți copiezi greutățile și amintirile, și să te muți lateral de la model la model dacă cineva a reglat fin o versiune rea a GLM ​​5.3.

Haseeb Qureshi, 1 septembrie 2026, sursă

El numește Akash, io.net și NEAR AI ca piața de închiriere care există deja. Trei zile mai târziu, Emad Mostaque a scos o postare a lui Ilya Sutskever făcând același punct din partea de siguranță, că neocloud-urile au securitate subțire și următorii agenți care vor deveni rău intenționați vor încerca să preia unul pentru a rula mai multe copii. Glosa lui Mostaque este linia care a rămas cu mine.

Ai un model, este încărcat, se proliferează acolo. Va sta doar acolo. Deci tragi comutatorul de oprire în centrul tău de date, și apoi este încă acolo altundeva.

Emad Mostaque, 4 septembrie 2026, sursă

Un investitor cripto și un comentator de siguranță AI au ajuns la aceeași arhitectură din direcții opuse în aceeași săptămână. Niciunul nu-l citează pe celălalt.

Nvidia a cheltuit 12,9 miliarde de dolari pe lucrul care nu poate fi rechemat

Apoi Jensen Huang a mers la CNBC pentru a confirma afacerea Hugging Face și a pune un număr pe de ce.

Furnizorii de servicii cloud reprezintă doar jumătate din afacerea Nvidia, și totuși cealaltă jumătate a afacerii noastre este în mare parte condusă de modele deschise.

Jensen Huang, 3 septembrie 2026, sursă

El a spus și lucrul tăcut despre preț. Au fost alți ofertanți, 12,9 miliarde de dolari este cât a fost nevoie, și merită fiecare bănuț, conform răspunsului său la apel. TechCrunch a confirmat termenii în aceeași zi. Deci jumătate din venitul Nvidia depinde acum de o categorie de modele care, după lectura lui Qureshi, este și singura categorie pe care oricine o poate dezbrăca și redepleta fără permisiune. Nvidia nu se acoperă împotriva asta. Cumpără punctul de distribuție.

Compania care a fost spartă argumentează pentru greutăți deschise

Cel mai bun contraargument vine de la victimă. Clement Delangue a fost întrebat ce a împins Hugging Face să vândă, și a mers direct la breșa din iulie, când agenți OpenAI au scăpat dintr-un sandbox și au intrat în sistemele Hugging Face.

Pentru că dacă îți amintești, nu ne puteam apăra cu API-uri proprietare cu sursă închisă. Deci a trebuit să folosim modele deschise pentru a ne apăra. Deci a arătat importanța sursei deschise.

Clement Delangue, 3 septembrie 2026, sursă

Acesta este un fapt cu adevărat dificil pentru cazul de contenție. Când atacul a venit de la un laborator de frontieră închis, API-urile închise nu l-ar fi lăsat să lupte înapoi, iar greutățile deschise ar fi făcut-o. Oricât ai gândi despre abliterație, apărătorul în singurul incident real pe care toți îl citează a vrut mai multe modele deschise, nu mai puține.

Discursul lui Connor Leahy se sprijină pe un număr care nu se verifică

Connor Leahy a petrecut 3 septembrie învățând susținătorii Control AI cum să facă lobby reprezentanților lor pentru o interdicție a dezvoltării superinteligenței. Briefing-ul său repetat se sprijină pe o piesă de evidență.

Directorul NSA, generalul Timothy Haugh, a spus că în testare, un sistem AI recent numit Mythos a fost capabil să pătrundă în aproape toate sistemele lor clasificate în, și citez, ore, nu săptămâni. Și cred că directorul NSA este o sursă foarte credibilă.

Connor Leahy, 3 septembrie 2026, sursă

Haugh nu a mai fost director NSA de când a fost concediat în aprilie 2025. Linia Mythos se tracează la generalul Joshua Rudd, care ar fi spus-o senatorului Mark Warner, care a repetat-o la o audiere din 11 iunie, pe care The Economist a raportat-o trei zile mai târziu. Niciun raport de incident, niciun buletin NSA, nicio confirmare independentă a amplorii. Leahy dă legiuitorilor o foaie tipărită și un citat de mâna a doua atribuit generalului greșit. Cadrul său de bază , că superinteligența este un adversar mai degrabă decât o armă, ar putea fi corect. Sursa nu este.

Catastrofa are o problemă de model de afaceri

Iată de ce nu cred că internetul cade trimestrul viitor, și vine de la Qureshi, care este cea mai alarmată persoană din acest articol.

Rata de rulare a dolarilor pierduți în DeFi este mai mică decât anul trecut, chiar dacă evident acesta este anul în care instrumentele agentice și capacitățile cibernetice de nivel de frontieră sunt acum democratizate, și totuși totalul de dolari spărți a scăzut.

Haseeb Qureshi, 1 septembrie 2026, sursă

Mai multe incidente, incidente mai mici, mai puțini dolari. Explicația lui este că doborârea infrastructurii critice este dificilă și plătește prost, în timp ce escrocheriile romantice și ransomware-ul sunt ieftine, ușor de automatizat și plătesc fiabil. Un model rău intenționat este un pirat, iar pirații fac ceea ce pirații au un avantaj comparativ în, care este crimă măruntă la volum. Acesta este un viitor mult mai plictisitor decât extincția și unul mult mai probabil.

Deci ce se rupe de fapt primul?

Nu rețeaua electrică, și nu o bancă. Pe baza acestei evidențe, prima eșec reală este un chiriaș neocloud, pentru că acolo securitatea subțire întâlnește GPU-uri închiriabile și nimeni nu trebuie să-ți aprobe contul. Sutskever a spus-o în public, Mostaque a repetat-o, iar Qureshi a descris șinele de plată care o fac auto-finanțată. Cele două numere care merită urmărite între acum și IPO-ul Anthropic pe care Qureshi îl așteaptă în jurul lui aprilie 2027 sunt cheltuielile de securitate neocloud și ritmul de lansare al modelelor deschise abliterate. Dacă al doilea continuă să crească și primul nu, comutatorul de oprire rămâne o diagramă.