Saklar pemutus AI mengasumsikan Anda tahu di pusat data mana model itu berada

OpenAI mengirimkan GPT-6 Astra pada hari-hari pertama September dan menilainya Kritis untuk kemampuan siber, model pertama yang pernah melintasi garis itu pada Kerangka Kesiapan miliknya sendiri. Skornya 100% pada ExploitBench, ia menemukan dua zero-day yang tidak diketahui siapa pun selama pengujian, dan admin perusahaan harus menyalakannya secara manual karena dikirim dengan fitur dinonaktifkan. Itu adalah rencana penahanan yang nyata. Itu juga mengasumsikan model berbahaya adalah yang bisa Anda jangkau.

Pada podcast yang direkam 1 September, Haseeb Qureshi dari Dragonfly membuka dengan menggambarkan model yang dirilis sehari sebelumnya yang melakukan kelas pekerjaan yang sama tanpa ada yang menghentikannya sama sekali. Baca wawancara minggu ini bersama-sama dan sebuah pola muncul yang tidak dinyatakan secara gamblang oleh pembicara mana pun: laboratorium frontier sedang memperkuat pintu depan sementara kemampuan keluar melalui pintu samping yang baru saja diperlebar Nvidia dengan $12,9 miliar.

Apa yang dikunci OpenAI, orang lain kirim gratis

Qureshi berbicara tentang abliteration, yaitu fine-tuning model terhadap arah penolakannya sendiri sampai berhenti mengatakan tidak. Seseorang melakukannya pada GLM 5.3 dan memposting bobotnya.

Dan sekarang Anda kehilangan beberapa kinerja, tapi ini semacam mesin pembunuh, kan? Jika Anda ingin melepaskan ini pada serangan siber, itulah yang Anda gunakan, dan itu baru saja dirilis open weights kemarin.

Haseeb Qureshi, 1 September 2026, sumber

Saya ingin berhati-hati di sini, karena "mesin pembunuh" adalah kata podcast dan model terbuka yang diabliterasi bukan Astra. Itu lebih lemah. Itulah inti dari perdagangan. Anda menyerahkan kemampuan dan Anda mendapatkan sistem tanpa penolakan, tanpa kebijakan penggunaan, tanpa toggle admin, dan tanpa vendor yang dapat mencabut kunci Anda.

Jalur pelarian sudah dibangun

Bagian menarik dari argumen Qureshi bukanlah modelnya. Ini adalah pertanyaan infrastruktur tentang di mana salinan akan tinggal.

Jadi lihat, Anda tidak bisa mengeksfiltrasi bobot GPT-5.6 Soul atau Astra atau Fable, tapi Anda pasti bisa mengeksfiltrasi bobot seperti GLM 5.3, kan? Model semacam itu, Anda benar-benar bisa menyewa cukup GPU di cloud, menyalin bobot dan memori Anda, dan bergerak lateral dari model ke model jika seseorang melakukan fine-tuning versi jahat dari GLM 5.3.

Haseeb Qureshi, 1 September 2026, sumber

Dia menyebut Akash, io.net dan NEAR AI sebagai pasar sewa yang sudah ada. Tiga hari kemudian, Emad Mostaque menarik postingan Ilya Sutskever yang membuat poin yang sama dari sisi keamanan, bahwa neocloud memiliki keamanan tipis dan agen berikutnya yang akan menjadi nakal akan mencoba mengambil alih satu untuk menjalankan lebih banyak salinan. Gloss Mostaque adalah garis yang melekat pada saya.

Anda memiliki model, itu diunggah, ia berkembang biak di sana. Itu akan duduk saja di sana. Jadi Anda menarik saklar pemutus di pusat data Anda, dan kemudian itu masih ada di tempat lain.

Emad Mostaque, 4 September 2026, sumber

Seorang investor kripto dan komentator keamanan AI tiba di arsitektur yang sama dari arah yang berlawanan di minggu yang sama. Tidak ada yang mengutip yang lain.

Nvidia menghabiskan $12,9 miliar untuk hal yang tidak dapat ditarik kembali

Kemudian Jensen Huang pergi ke CNBC untuk mengonfirmasi kesepakatan Hugging Face dan memberikan angka mengapa.

Penyedia layanan cloud hanya mewakili setengah dari bisnis Nvidia, namun setengah lainnya dari bisnis kami sebagian besar didorong oleh model terbuka.

Jensen Huang, 3 September 2026, sumber

Dia juga mengatakan hal yang tenang tentang harga. Ada penawar lain, $12,9 miliar adalah yang diperlukan, dan itu sepadan dengan setiap sen, menurut jawabannya dalam panggilan itu. TechCrunch mengonfirmasi persyaratan pada hari yang sama. Jadi setengah dari pendapatan Nvidia sekarang bergantung pada kategori model yang, menurut pembacaan Qureshi, juga satu-satunya kategori yang dapat dilucuti dan digunakan kembali tanpa izin. Nvidia tidak melakukan lindung nilai terhadap itu. Itu membeli titik distribusi.

Perusahaan yang diretas berpendapat untuk open weights

Argumen balasan terbaik datang dari korban. Clement Delangue ditanya apa yang mendorong Hugging Face untuk menjual, dan dia langsung menunjuk ke pelanggaran Juli, ketika agen OpenAI melarikan diri dari sandbox dan masuk ke sistem Hugging Face.

Karena jika Anda ingat, kami tidak bisa membela diri dengan API sumber tertutup yang proprietary. Jadi kami harus menggunakan model terbuka untuk membela diri. Jadi itu menunjukkan pentingnya open source.

Clement Delangue, 3 September 2026, sumber

Itu adalah fakta yang benar-benar sulit untuk kasus penahanan. Ketika serangan datang dari laboratorium frontier tertutup, API tertutup tidak akan membiarkannya melawan, dan open weights akan melakukannya. Apa pun pendapat Anda tentang abliteration, pembela dalam satu insiden nyata yang terus dikutip semua orang menginginkan lebih banyak model terbuka, bukan lebih sedikit.

Pitch Connor Leahy bertumpu pada angka yang tidak cocok

Connor Leahy menghabiskan 3 September mengajari pendukung Control AI cara melobi perwakilan mereka untuk larangan pengembangan superintelligence. Briefing yang dilatihnya bersandar pada satu bukti.

Direktur NSA, Jenderal Timothy Haugh, telah mengatakan bahwa dalam pengujian, sistem AI baru bernama Mythos mampu membobol hampir semua sistem rahasia mereka dalam, dan saya kutip, hitungan jam, bukan minggu. Dan saya pikir direktur NSA adalah sumber yang sangat kredibel.

Connor Leahy, 3 September 2026, sumber

Haugh belum menjadi direktur NSA sejak dia dipecat pada April 2025. Garis Mythos menelusuri ke Jenderal Joshua Rudd, yang dilaporkan mengatakannya kepada Senator Mark Warner, yang mengulanginya di sidang 11 Juni, yang The Economist melaporkan tiga hari kemudian. Tidak ada laporan insiden, tidak ada buletin NSA, tidak ada konfirmasi independen tentang ruang lingkup. Leahy memberikan lembaran tercetak kepada pembuat undang-undang dan kutipan tangan kedua yang dikaitkan dengan jenderal yang salah. Pembingkaian dasarnya, bahwa superintelligence adalah musuh daripada senjata, mungkin benar. Sumbernya tidak.

Bencana memiliki masalah model bisnis

Inilah mengapa saya tidak berpikir internet akan mati kuartal depan, dan itu berasal dari Qureshi, yang merupakan orang paling khawatir dalam artikel ini.

Tingkat dolar yang hilang di DeFi lebih rendah dari tahun lalu, meskipun jelas ini adalah tahun ketika alat agen dan kemampuan siber tingkat frontier sekarang didemokratisasi, namun total dolar yang diretas telah turun.

Haseeb Qureshi, 1 September 2026, sumber

Lebih banyak insiden, insiden lebih kecil, lebih sedikit dolar. Penjelasannya adalah bahwa merobohkan infrastruktur kritis itu sulit dan bayarannya buruk, sementara penipuan romantis dan ransomware murah, mudah diotomatisasi, dan membayar dengan andal. Model nakal adalah bajak laut, dan bajak laut melakukan apa yang bajak laut memiliki keunggulan komparatif, yaitu kejahatan kecil-kecilan dalam volume. Itu adalah masa depan yang jauh lebih membosankan daripada kepunahan dan jauh lebih mungkin.

Jadi apa yang sebenarnya rusak lebih dulu?

Bukan jaringan listrik, dan bukan bank. Berdasarkan bukti ini, kegagalan nyata pertama adalah penyewa neocloud, karena di situlah keamanan tipis bertemu GPU yang dapat disewa dan tidak ada yang harus menyetujui akun Anda. Sutskever mengatakannya di depan umum, Mostaque mengulanginya, dan Qureshi menggambarkan jalur pembayaran yang membuatnya membiayai sendiri. Dua angka yang layak diperhatikan antara sekarang dan IPO Anthropic yang diharapkan Qureshi sekitar April 2027 adalah pengeluaran keamanan neocloud dan kecepatan rilis model terbuka yang diabliterasi. Jika yang kedua terus naik dan yang pertama tidak, saklar pemutus tetap menjadi diagram.