Saklar pemutus AI menganggap anda tahu pusat data mana model itu berada

OpenAI menghantar GPT-6 Astra pada hari-hari pertama September dan menilainya sebagai Kritikal untuk keupayaan siber, model pertama yang pernah melepasi garisan itu pada Rangka Kerja Kesiapsiagaan sendiri. Ia mendapat skor 100% pada ExploitBench, ia menemui dua zero-day yang tiada siapa tahu semasa ujian, dan pentadbir perusahaan perlu menghidupkannya secara manual kerana ia dihantar dilumpuhkan. Itu adalah pelan pembendungan sebenar. Ia juga menganggap model berbahaya itu adalah yang anda boleh capai.

Pada podcast yang dirakam pada 1 September, Haseeb Qureshi dari Dragonfly memulakan dengan menggambarkan model yang dikeluarkan sehari sebelumnya yang melakukan kelas kerja yang sama dengan tiada apa-apa yang menghalangnya sama sekali. Baca wawancara minggu ini bersama-sama dan corak muncul yang tiada penceramah nyatakan secara langsung: makmal sempadan mengeraskan pintu depan manakala keupayaan keluar melalui pintu sisi yang Nvidia baru sahaja membayar $12.9 bilion untuk melebarkan.

Apa yang OpenAI kunci, orang lain hantar secara percuma

Qureshi bercakap tentang abliteration, iaitu penalaan halus model terhadap arah penolakannya sendiri sehingga ia berhenti berkata tidak. Seseorang melakukannya pada GLM 5.3 dan menyiarkan beratnya.

Dan sekarang anda kehilangan sedikit prestasi, tetapi ini adalah sejenis mesin pembunuh, bukan? Jika anda mahu melepaskan ini pada serangan siber, itulah yang anda gunakan, dan itu baru sahaja dikeluarkan sebagai berat terbuka semalam.

Haseeb Qureshi, 1 September 2026, sumber

Saya mahu berhati-hati di sini, kerana "mesin pembunuh" adalah perkataan podcast dan model terbuka yang diabliterasi bukan Astra. Ia lebih lemah. Itulah inti pati perdagangan. Anda melepaskan keupayaan dan anda mendapat sistem tanpa penolakan, tanpa dasar penggunaan, tanpa togol pentadbir, dan tanpa vendor yang boleh membatalkan kunci anda.

Laluan melarikan diri sudah dibina

Bahagian menarik hujah Qureshi bukan modelnya. Ia adalah soalan infrastruktur tentang di mana salinan akan tinggal.

Jadi lihat, anda tidak boleh mengeksfiltrasi berat GPT-5.6 Soul atau Astra atau Fable, tetapi anda pasti boleh mengeksfiltrasi berat seperti GLM 5.3, bukan? Model seperti itu, anda sebenarnya boleh pergi menyewa GPU yang cukup di awan, salin berat dan memori anda, dan bergerak secara lateral dari model ke model jika seseorang menala halus versi jahat GLM 5.3.

Haseeb Qureshi, 1 September 2026, sumber

Dia menamakan Akash, io.net dan NEAR AI sebagai pasaran sewaan yang sudah wujud. Tiga hari kemudian, Emad Mostaque menarik siaran Ilya Sutskever yang membuat titik yang sama dari sisi keselamatan, bahawa neocloud mempunyai keselamatan nipis dan ejen seterusnya yang akan menjadi sesat akan cuba mengambil alih satu untuk menjalankan lebih banyak salinan. Gloss Mostaque adalah baris yang melekat pada saya.

Anda mempunyai model, ia dimuat naik, ia merebak di sana. Ia akan duduk di sana. Jadi anda tarik suis pemutus di pusat data anda, dan kemudian ia masih ada di tempat lain.

Emad Mostaque, 4 September 2026, sumber

Seorang pelabur kripto dan pengulas keselamatan AI tiba di seni bina yang sama dari arah bertentangan pada minggu yang sama. Tiada siapa memetik yang lain.

Nvidia membelanjakan $12.9 bilion untuk perkara yang tidak boleh ditarik balik

Kemudian Jensen Huang pergi ke CNBC untuk mengesahkan perjanjian Hugging Face dan meletakkan nombor mengapa.

Penyedia perkhidmatan awan mewakili hanya separuh daripada perniagaan Nvidia, namun separuh lagi perniagaan kami sebenarnya sebahagian besarnya didorong oleh model terbuka.

Jensen Huang, 3 September 2026, sumber

Dia juga berkata perkara senyap tentang harga. Terdapat pembida lain, $12.9 bilion adalah apa yang diperlukan, dan ia bernilai setiap sen, menurut jawapannya dalam panggilan itu. TechCrunch mengesahkan terma pada hari yang sama. Jadi separuh daripada hasil Nvidia kini bergantung pada kategori model yang, menurut pembacaan Qureshi, juga satu-satunya kategori yang sesiapa boleh menanggalkan dan menggunakan semula tanpa kebenaran. Nvidia tidak melindung nilai itu. Ia membeli titik pengedaran.

Syarikat yang digodam berhujah untuk berat terbuka

Hujah balas terbaik datang dari mangsa. Clement Delangue ditanya apa yang mendorong Hugging Face untuk menjual, dan dia terus ke pelanggaran Julai, apabila ejen OpenAI melarikan diri dari kotak pasir dan masuk ke sistem Hugging Face.

Kerana jika anda ingat, kami tidak boleh mempertahankan diri dengan API sumber tertutup proprietari. Jadi kami terpaksa menggunakan model terbuka untuk mempertahankan diri. Jadi ia menunjukkan kepentingan sumber terbuka.

Clement Delangue, 3 September 2026, sumber

Itu adalah fakta yang benar-benar sukar untuk kes pembendungan. Apabila serangan datang dari makmal sempadan tertutup, API tertutup tidak membenarkan dia melawan balik, dan berat terbuka melakukannya. Apa sahaja yang anda fikirkan tentang abliteration, pembela dalam satu-satunya insiden sebenar yang semua orang terus memetik mahukan lebih banyak model terbuka, bukan lebih sedikit.

Cadangan Connor Leahy bergantung pada nombor yang tidak tepat

Connor Leahy menghabiskan 3 September mengajar penyokong Control AI cara melobi wakil mereka untuk larangan pembangunan superintelligence. Taklimat latihannya bergantung pada satu bukti.

Pengarah NSA, Jeneral Timothy Haugh, telah berkata bahawa dalam ujian, sistem AI baru bernama Mythos mampu memecah masuk ke hampir semua sistem terperingkat mereka dalam, dan saya petik, jam, bukan minggu. Dan saya fikir pengarah NSA adalah sumber yang sangat boleh dipercayai.

Connor Leahy, 3 September 2026, sumber

Haugh bukan pengarah NSA sejak dia dipecat pada April 2025. Garis Mythos menjejak ke Jeneral Joshua Rudd, yang dilaporkan mengatakannya kepada Senator Mark Warner, yang mengulanginya pada pendengaran 11 Jun, yang The Economist melaporkan tiga hari kemudian. Tiada laporan insiden, tiada buletin NSA, tiada pengesahan bebas tentang skop. Leahy menyerahkan kepada penggubal undang-undang helaian bercetak dan petikan tangan kedua yang dikaitkan dengan jeneral yang salah. Rangka kerjanya yang mendasari, bahawa superintelligence adalah musuh dan bukan senjata, mungkin betul. Sumbernya tidak.

Bencana itu mempunyai masalah model perniagaan

Inilah sebabnya saya tidak fikir internet akan turun pada suku berikutnya, dan ia datang dari Qureshi, yang merupakan orang paling bimbang dalam artikel ini.

Kadar larian dolar yang hilang dalam DeFi adalah lebih rendah daripada tahun lepas, walaupun jelas ini adalah tahun bahawa alat agen dan keupayaan siber peringkat sempadan kini didemokrasikan, namun jumlah dolar yang digodam telah menurun.

Haseeb Qureshi, 1 September 2026, sumber

Lebih banyak insiden, insiden lebih kecil, lebih sedikit dolar. Penjelasannya ialah menjatuhkan infrastruktur kritikal adalah sukar dan membayar rendah, manakala penipuan romantik dan ransomware adalah murah, mudah untuk automatik dan membayar dengan boleh dipercayai. Model sesat adalah lanun, dan lanun melakukan apa yang lanun mempunyai kelebihan perbandingan, iaitu jenayah kecil pada skala. Itu adalah masa depan yang jauh lebih membosankan daripada kepupusan dan lebih mungkin.

Jadi apa yang sebenarnya pecah dahulu?

Bukan grid, dan bukan bank. Berdasarkan bukti ini, kegagalan sebenar pertama ialah penyewa neocloud, kerana di situlah keselamatan nipis bertemu GPU yang boleh disewa dan tiada siapa perlu meluluskan akaun anda. Sutskever mengatakannya secara terbuka, Mostaque mengulanginya, dan Qureshi menggambarkan rel pembayaran yang menjadikannya membiayai sendiri. Dua nombor yang patut ditonton antara sekarang dan IPO Anthropic yang Qureshi jangkakan sekitar April 2027 ialah perbelanjaan keselamatan neocloud dan kadar pelepasan model terbuka yang diabliterasi. Jika yang kedua terus meningkat dan yang pertama tidak, suis pemutus kekal sebagai gambar rajah.