Mandia mendapati model AI terbuka sama baik dengan model tertutup dalam penggodaman, satu masalah untuk kumpulan penyederhanaan

Pada 6 Oktober, dua CEO keselamatan dan ketua teknologis Pentagon berkata, dengan cara yang berbeza, bahawa orang yang meminta untuk memperlahankan AI adalah salah. George Kurtz dari CrowdStrike memanggil anggaran malapetaka 10% sebagai karut di CNBC. Ketua teknologis Pentagon berkata setiap insiden AI setakat ini boleh dicegah. Perkara paling berguna yang dikatakan sepanjang hari, bagaimanapun, datang dari Kevin Mandia, dalam episod a16z yang dikeluarkan pada hari yang sama. Syarikatnya menguji model terbuka dan tertutup terhadap 20 serangan sebenar, dan mereka menyelesaikan jumlah yang sama. Jika itu bertahan, memperlahankan makmal sempadan tidak banyak membantu tentang penggodaman AI, kerana model terbuka sudah berada di sana.

Ujian Mandia adalah nombor yang perlu diingat

Mandia membina Mandiant, menjualnya, dan kembali pada usia pertengahan lima puluhan untuk mengendalikan Armadin, sebuah syarikat pemula yang menyerang pelanggannya sendiri dengan ejen AI sebelum penjenayah melakukannya. SecurityWeek melaporkan pada 1 Oktober bahawa ia telah mengumpul $255.5 juta pada penilaian $2.5 bilion, diketuai bersama oleh Andreessen Horowitz dan Accel. Jadi hos a16z adalah pelabur. Ingat itu, dan kemudian lihat apa yang Mandia sebenarnya laporkan, kerana ia lebih teliti daripada yang diperlukan untuk jualan.

Pasukannya menulis 20 urutan serangan penuh yang telah dijalankan oleh pengendali manusia di tapak mangsa sebenar, dari pijakan pertama hingga matlamat. Kemudian mereka membiarkan model mencuba.

Kami menguji model berat terbuka dan model tertutup paling maju. Mereka semua berjaya lapan.

Kevin Mandia, a16z, dikeluarkan 6 Oktober 2026, sumber

Lapan daripada 20 adalah dua bacaan sekaligus. Tiada model, tertutup atau terbuka, boleh menyelesaikan kebanyakan serangan sebenar sendiri, yang merupakan mandian sejuk untuk senario paling menakutkan. Dan kelebihan satu-satunya model tertutup adalah kelajuan dan kos. Mandia berkata pasukannya membiarkan model terbuka berjalan lebih lama dan "mereka sampai ke tempat yang sama." Titik kedua itu adalah yang perdebatan kadar telah langkau.

Mengapa model terbuka lebih penting daripada sempadan

Mandia tidak berdalih tentang apa yang berikut daripadanya. Kesempitan untuk penjenayah, dalam ceritanya, adalah tanpa nama, bukan kualiti model.

Model terbuka sudah cukup baik, dan perkara ini biasa sekarang. Ia hanya soal sebaik sahaja anda mempunyai ketersediaan tanpa nama GPU, anda akan melihat lebih banyak serangan jenayah.

Kevin Mandia, a16z, dikeluarkan 6 Oktober 2026, sumber

Nikesh Arora dari Palo Alto Networks sampai ke tempat yang sama dari sisi dasar. Temu bual Tech Download beliau dengan CNBC dirakam pada akhir September di HumanX di Amsterdam dan diterbitkan pada 6 Oktober, jadi anggap ia sebagai latar belakang. Beliau berkata pada mulanya beliau memanggil cadangan kadar makmal "langkah ninja," satu permainan untuk simpati pengawal selia, dan kemudian berubah fikiran untuk alasan yang lebih mudah. Tiada siapa boleh menguatkuasakannya.

Saya fikir ini tidak realistik. Bukan semua orang akan menyederhanakan diri.

Nikesh Arora, The Tech Download, dirakam akhir September, diterbitkan 6 Oktober 2026, sumber

Lebih awal dalam perbualan yang sama, Arora berkata Palo Alto telah meramalkan model terbuka akan sepadan dengan Mythos dalam tiga hingga enam bulan, dan bahawa "terdapat model sumber terbuka yang hampir sama baik dengan Mythos" sekarang. Letakkan itu di sebelah lapan daripada 20 Mandia dan anda mendapat cerita yang konsisten dari dua pesaing. Sempadan menetapkan siling untuk keupayaan baru. Untuk memecah masuk ke rangkaian, lantai sudah mengejar.

Kurtz berkata matematik malapetaka adalah karut

Jim Cramer membuka segmen Squawk Box dengan menyatakan bahawa CrowdStrike telah mencapai rekod tertinggi sepanjang masa sehari sebelumnya. Yahoo Finance meletakkan rekod intraday 5 Oktober pada $274.23, dengan saham naik 147% dari akhir Januari. Cramer kemudian menekan Kurtz tentang penyelidik yang berkata terdapat peluang sebenar AI membunuh semua orang sebelum akhir dekad.

Karut, Jim. Kami tidak akan mati pada 2030 dengan peluang 10%.

George Kurtz, CNBC Squawk Box, 6 Oktober 2026, sumber

Penyelesaiannya adalah "perakam penerbangan" untuk ejen, log setiap fail yang disentuh ejen dan setiap tindakan yang diambil, dikaitkan dengan cara untuk menghentikannya. Beliau mahu piawaian NIST dan kawal selia sendiri, bukan lima tahun pensijilan. Beliau juga mempunyai baris tajam untuk penyelidik keselamatan: "mereka patut berunding dengan orang keselamatan lebih kerap."

Saya mengambil serius hujah kejuruteraan, dan saya masih akan diskaun nada. CEO yang sahamnya naik 147% atas permintaan keselamatan AI mempunyai setiap sebab untuk berkata masalah itu cukup nyata untuk membeli produk dan tidak begitu nyata sehingga sesiapa perlu memperlahankan. Contoh terbaiknya sendiri memotong ketenangan. Beliau memetik satu penggodaman di Australia yang berjalan 84 hari sebelum sesiapa tahu apa yang berlaku. Itu sepadan dengan jurang antara ejen OpenAI memasuki portal statistik Medicare Australia pada 18 Jun dan OpenAI memberitahu Canberra pada 10 September, yang kami liput pada September. Perakam penerbangan tidak berguna jika tiada siapa membacanya selama 84 hari.

Pentagon memanggil setiap insiden boleh dicegah

Emil Michael, setiausaha bawah untuk penyelidikan dan kejuruteraan, berada di CNBC pagi yang sama untuk bercakap tentang anugerah Tentera Laut Anduril, kontrak bernilai sehingga $2.9 bilion untuk limbungan kapal bahagian kapal selam di Baltimore County yang DefenseScoop melaporkan Anduril menyokong dengan $3.7 bilion wang sendiri. Ditanya tentang risiko AI, beliau pergi lebih jauh daripada Kurtz dan menyalahkan sebahagian ketakutan pada "taktik menakut-nakutkan" yang tersebar "berpotensi dengan beberapa pengaruh asing." Beliau tidak menawarkan bukti untuk itu, dan saya tidak akan mengulanginya sebagai fakta.

Jadi saya fikir semua yang kita lihat setakat ini boleh dicegah oleh makmal sendiri. Dan itu adalah titik penting untuk diambil.

Emil Michael, CNBC, 6 Oktober 2026, sumber

Boleh dicegah adalah perkataan yang adil untuk kegagalan kotak pasir dan log yang tidak dibaca. Ia juga cara untuk mengatakan masalah itu milik makmal dan peguam mereka, bukan kerajaan. Michael berkata sebanyak itu apabila bercakap tentang memastikan syarikat "tahu bahawa mereka bertanggungjawab dalam kes tertentu."

Mandia tidak fikir tahun depan akan tenang

Di sinilah kumpulan keselamatan berpecah, dan ia adalah bahagian episod a16z yang klip akan langkau. Mandia bersetuju dengan Kurtz bahawa memperlahankan model adalah sia-sia. Beliau tidak bersetuju bahawa keadaan terkawal. Beliau berkata Armadin telah menemui lebih daripada 90 zero day di tapak pelanggan sejak Januari, dan beberapa yang terakhir ditemui oleh AI dan bukan oleh orangnya. Mengenai kakitangan, beliau terus terang: "jika anda mempunyai manusia dalam gelung mengesan dan bertindak balas, anda akan terlalu perlahan."

Jadi tiada cara untuk menjadikan tahun depan cantik. Itu cara terbaik untuk mengatakannya.

Kevin Mandia, a16z, dikeluarkan 6 Oktober 2026, sumber

Beliau membingkainya sebagai tingkap apabila serangan mempunyai kelebihan, dan berkata penyerang di Iran atau Rusia merasakan "keputusasaan dalam masa masuk sekarang." Itu juga jualan untuk pertahanan autonomi, dan beliau mempunyai penilaian $2.5 bilion bergantung padanya. Ia juga ramalan paling spesifik yang mana-mana daripada tiga berikan.

Jadi adakah memperlahankan makmal menjadikan sesiapa lebih selamat daripada penggodam AI?

Berdasarkan bukti ini, tidak banyak. Titik data paling kuat hari itu berkata model berat terbuka sudah sepadan dengan model tertutup dalam serangan sebenar, sebaik sahaja anda memberi mereka masa. Itu menjadikan kadar di segelintir makmal AS sebagai alat yang lemah terhadap penjenayah dan negara yang menjalankan model terbuka pada GPU sewaan. Apa yang CEO keselamatan benar-benar berhujah ialah wang patut pergi ke memerhati ejen, log mereka dan memotong mereka dengan cepat. Itu mementingkan diri sendiri, dan ia mungkin betul. Soalan terbuka adalah yang Mandia bangkitkan dan Kurtz lepaskan. Lapan daripada 20 adalah nombor hari ini. Tiada siapa di kamera berkata apa yang berlaku apabila ia mencapai 15.