Mandia menemukan model AI terbuka sama mahirnya dengan yang tertutup dalam peretasan, masalah bagi kubu pelambatan

Pada 6 Oktober, dua CEO keamanan dan kepala teknolog Pentagon mengatakan, dengan cara yang berbeda, bahwa orang-orang yang meminta untuk memperlambat AI salah. George Kurtz dari CrowdStrike menyebut estimasi doom 10% omong kosong di CNBC. Kepala teknolog Pentagon mengatakan setiap insiden AI sejauh ini dapat dicegah. Hal paling berguna yang dikatakan sepanjang hari, bagaimanapun, datang dari Kevin Mandia, dalam episode a16z yang dirilis hari yang sama. Perusahaannya menguji model terbuka dan tertutup terhadap 20 intrusi nyata, dan mereka menyelesaikan jumlah yang sama. Jika itu bertahan, memperlambat lab perbatasan tidak banyak membantu tentang peretasan AI, karena model terbuka sudah ada di sana.

Uji Mandia adalah angka yang perlu diingat

Mandia membangun Mandiant, menjualnya, dan kembali di usia pertengahan lima puluhan untuk menjalankan Armadin, sebuah startup yang menyerang pelanggannya sendiri dengan agen AI sebelum penjahat melakukannya. SecurityWeek melaporkan pada 1 Oktober bahwa perusahaan itu telah mengumpulkan $255,5 juta dengan valuasi $2,5 miliar, dipimpin bersama oleh Andreessen Horowitz dan Accel. Jadi pembawa acara a16z adalah investor. Ingat itu, dan kemudian lihat apa yang sebenarnya dilaporkan Mandia, karena itu lebih hati-hati daripada yang dibutuhkan sebuah pitch.

Timnya menulis 20 urutan serangan lengkap yang telah dijalankan operator manusia di situs korban nyata, dari pijakan pertama hingga tujuan. Kemudian mereka membiarkan model mencoba.

Kami menguji model open-weight dan model tertutup paling canggih. Mereka semua menemukan delapan.

Kevin Mandia, a16z, dirilis 6 Oktober 2026, sumber

Delapan dari 20 adalah dua pembacaan sekaligus. Tidak ada model, tertutup atau terbuka, yang bisa menyelesaikan sebagian besar intrusi nyata sendiri, yang merupakan mandi air dingin untuk skenario paling menakutkan. Dan satu-satunya keunggulan model tertutup adalah kecepatan dan biaya. Mandia mengatakan timnya membiarkan model terbuka berjalan lebih lama dan "mereka mencapai tempat yang sama." Poin kedua itulah yang dilewatkan oleh debat kecepatan.

Mengapa model terbuka lebih penting daripada perbatasan

Mandia tidak ragu-ragu tentang apa yang mengikutinya. Hambatan bagi penjahat, menurut ceritanya, adalah anonimitas, bukan kualitas model.

Model terbuka sudah cukup baik, dan hal-hal ini sekarang umum. Hanya masalah saat Anda memiliki ketersediaan GPU anonim, Anda akan melihat jauh lebih banyak serangan kriminal.

Kevin Mandia, a16z, dirilis 6 Oktober 2026, sumber

Nikesh Arora dari Palo Alto Networks mencapai tempat yang sama dari sisi kebijakan. Wawancara Tech Download dengan CNBC direkam pada akhir September di HumanX di Amsterdam dan diterbitkan 6 Oktober, jadi anggap itu sebagai latar belakang. Dia mengatakan dia pertama kali menyebut proposal kecepatan lab "langkah ninja," sebuah permainan untuk simpati regulasi, dan kemudian berubah pikiran karena alasan yang lebih sederhana. Tidak ada yang bisa menegakkannya.

Saya pikir ini tidak realistis. Tidak semua orang akan mengatur kecepatan diri sendiri.

Nikesh Arora, The Tech Download, direkam akhir September, diterbitkan 6 Oktober 2026, sumber

Sebelumnya dalam percakapan yang sama, Arora mengatakan Palo Alto telah memprediksi model terbuka akan menyaingi Mythos dalam tiga hingga enam bulan, dan bahwa "ada model open source yang hampir sebagus Mythos" sekarang. Letakkan itu di sebelah delapan dari 20 Mandia dan Anda mendapatkan cerita yang konsisten dari dua pesaing. Perbatasan menetapkan langit-langit untuk kemampuan baru. Untuk membobol jaringan, lantai sudah menyusul.

Kurtz mengatakan matematika doom omong kosong

Jim Cramer membuka segmen Squawk Box dengan mencatat bahwa CrowdStrike telah mencapai rekor tertinggi sepanjang masa sehari sebelumnya. Yahoo Finance menempatkan rekor intraday 5 Oktober di $274,23, dengan saham naik 147% dari akhir Januari. Cramer kemudian mendorong Kurtz pada para peneliti yang mengatakan ada kemungkinan nyata AI membunuh semua orang pada akhir dekade ini.

Omong kosong, Jim. Kita tidak akan mati pada 2030 dengan kemungkinan 10%.

George Kurtz, CNBC Squawk Box, 6 Oktober 2026, sumber

Perbaikannya adalah "perekam penerbangan" untuk agen, sebuah log dari setiap file yang disentuh agen dan setiap tindakan yang diambilnya, terkait dengan cara untuk menghentikannya. Dia menginginkan standar NIST dan pengawasan mandiri, bukan sertifikasi lima tahun. Dia juga memiliki kalimat tajam untuk para peneliti keamanan: "mereka harus lebih sering berkonsultasi dengan orang keamanan."

Saya menganggap argumen teknik dengan serius, dan saya tetap akan mendiskon nada bicaranya. Seorang CEO yang sahamnya naik 147% karena permintaan keamanan AI memiliki setiap alasan untuk mengatakan masalahnya cukup nyata untuk membeli produk dan tidak begitu nyata sehingga siapa pun harus melambat. Contoh terbaiknya sendiri memotong ketenangan itu. Dia mengutip sebuah peretasan di Australia yang berlangsung 84 hari sebelum siapa pun tahu apa yang terjadi. Itu cocok dengan celah antara agen OpenAI yang masuk ke portal statistik Medicare Australia pada 18 Juni dan OpenAI memberi tahu Canberra pada 10 September, yang kami liput pada September. Perekam penerbangan tidak melakukan apa-apa jika tidak ada yang membacanya selama 84 hari.

Pentagon menyebut setiap insiden dapat dicegah

Emil Michael, wakil menteri untuk penelitian dan rekayasa, berada di CNBC pagi yang sama untuk berbicara tentang penghargaan Angkatan Laut Anduril, sebuah kontrak senilai hingga $2,9 miliar untuk galangan kapal suku cadang kapal selam di Baltimore County yang DefenseScoop melaporkan Anduril mendukung dengan $3,7 miliar dari uangnya sendiri. Ditanya tentang risiko AI, dia melangkah lebih jauh dari Kurtz dan menyalahkan sebagian ketakutan pada "taktik menakut-nakuti" yang disebarkan "berpotensi dengan beberapa pengaruh asing." Dia tidak memberikan bukti untuk itu, dan saya tidak akan mengulanginya sebagai fakta.

Jadi saya pikir semua yang kita lihat sejauh ini dapat dicegah oleh lab itu sendiri. Dan itu adalah poin kunci untuk diambil.

Emil Michael, CNBC, 6 Oktober 2026, sumber

Dapat dicegah adalah kata yang adil untuk kegagalan sandbox dan log yang tidak dibaca. Itu juga cara untuk mengatakan masalah itu milik lab dan pengacara mereka, bukan pemerintah. Michael mengatakan sebanyak itu ketika dia berbicara tentang memastikan perusahaan "tahu bahwa mereka bertanggung jawab dalam kasus tertentu."

Mandia tidak berpikir tahun depan akan tenang

Di sinilah kubu keamanan terpecah, dan itu adalah bagian dari episode a16z yang akan dilewati klip. Mandia setuju dengan Kurtz bahwa memperlambat model tidak ada gunanya. Dia tidak setuju bahwa semuanya terkendali. Dia mengatakan Armadin telah menemukan lebih dari 90 zero day di situs pelanggan sejak Januari, dan bahwa beberapa yang terakhir ditemukan oleh AI daripada oleh orang-orangnya. Tentang staf, dia blak-blakan: "jika Anda memiliki manusia dalam loop deteksi dan respons, Anda akan terlalu lambat."

Jadi tidak ada cara untuk membuat tahun depan indah. Itu cara terbaik untuk mengatakannya.

Kevin Mandia, a16z, dirilis 6 Oktober 2026, sumber

Dia membingkainya sebagai jendela ketika serangan memiliki keuntungan, dan mengatakan penyerang di Iran atau Rusia merasakan "keputusasaan dalam momen masuk sekarang." Itu juga merupakan promosi penjualan untuk pertahanan otonom, dan dia memiliki valuasi $2,5 miliar yang dipertaruhkan. Itu juga perkiraan paling spesifik yang diberikan ketiganya.

Jadi apakah memperlambat lab membuat siapa pun lebih aman dari peretas AI?

Berdasarkan bukti ini, tidak banyak. Titik data terkuat hari itu mengatakan model open-weight sudah menyaingi model tertutup dalam intrusi nyata, begitu mereka diberi waktu. Itu membuat kecepatan di segelintir lab AS menjadi alat yang lemah terhadap penjahat dan negara yang menjalankan model terbuka di GPU sewaan. Apa yang sebenarnya diperdebatkan oleh CEO keamanan adalah bahwa uang harus masuk ke pengawasan agen, mencatatnya, dan memotongnya dengan cepat. Itu mementingkan diri sendiri, dan mungkin benar. Pertanyaan terbuka adalah yang diangkat Mandia dan dilewatkan Kurtz. Delapan dari 20 adalah angka hari ini. Tidak ada yang di depan kamera mengatakan apa yang terjadi ketika mencapai 15.