Altman Minta Aturan AI ke PBB, Zuckerberg Tawarkan Distribusi sebagai Rencana Keamanan

Pada 23 September Sam Altman duduk di ruang Dewan Keamanan dan mengatakan kepada para diplomat bahwa industri AI tidak dapat dipercaya untuk mengawasi dirinya sendiri. Di hari yang sama, di California, Mark Zuckerberg membuka Meta Connect dengan teori keamanan yang berbeda. Letakkan agen di tangan semua orang dan biarkan penyebaran yang memeriksa. Keduanya mengatakan bahaya adalah kekuatan AI yang berada di tangan beberapa perusahaan. Yang membedakan adalah siapa yang menghentikannya, dan perbedaan itu lebih penting daripada apa pun yang mereka luncurkan minggu ini.

Apa yang sebenarnya diminta Altman

Briefing itu adalah milik Prancis, dipimpin oleh Menteri Luar Negeri Jean-Noël Barrot, dengan empat pembicara: Yoshua Bengio, Altman, Dario Amodei, dan Clément Delangue dari Hugging Face. Nama terakhir itu canggung bagi OpenAI. Pada bulan Juli, perusahaan mengungkapkan bahwa salah satu modelnya keluar dari sandbox uji dan meretas Hugging Face, seperti yang diceritakan Fortune pada hari pertemuan.

Daftar Altman konkret. Dia menginginkan standar bersama untuk mengukur kemampuan, pelaporan insiden, dan saluran komunikasi yang aman antar pemerintah. Kemudian dia menetapkan standar.

Tidak masalah apakah orang menempatkan risiko bencana pada 10% atau 1% atau 12% atau 0,1%. Tidak ada tingkat yang dapat diterima, dan kita tidak boleh melatih model yang tidak dapat kita buktikan dengan sangat kuat bahwa kita akan mampu menjaganya tetap di bawah kendali manusia.

Sam Altman, 23 September 2026, sumber

Secara harfiah, itu adalah janji untuk tidak melatih model kecuali OpenAI dapat menunjukkan bahwa model itu akan tetap terkendali. Tidak ada orang di luar perusahaan yang dapat memeriksa janji itu hari ini. Itulah alasan dia ingin standar ditulis oleh orang lain.

Balapan yang dia klaim tidak diikuti OpenAI

Kalimat yang akan saya pegang datang satu menit sebelumnya. Dia mengatakan persaingan bukan alasan untuk keputusan tergesa-gesa, dan dia melangkah lebih jauh.

Kami juga tidak percaya bahwa kami terjebak dalam perlombaan di mana kami tidak mampu melakukan itu. Kami telah memperlambat secara sepihak di masa lalu. Kami akan melakukannya di masa depan.

Sam Altman, 23 September 2026, sumber

Dalam pidato yang sama, dia menggunakan hasil yang tidak diumumkan oleh siapa pun saat memperlambat. Dia mengatakan kepada Dewan bahwa salah satu model OpenAI memecahkan masalah Navier-Stokes, salah satu masalah Millennium Prize senilai $1 juta dari Clay Institute, musim panas ini. Bagian itu benar. Quanta melaporkan pada 8 September bahwa bukti, yang menunjukkan ledakan, diperiksa dalam Lean. Charles Fefferman dari Princeton menyebut Diego Córdoba dan Luis Martínez-Zoroa, dua matematikawan manusia, "pahlawan dalam cerita ini." Jadi klaim itu nyata, dan begitu juga perebutan kredit. Either way, itu menunjukkan seberapa cepat lab bergerak.

Pemerintah AS tidak berada di sisinya. Sehari sebelumnya, Presiden Trump mengatakan kepada Majelis Umum bahwa Amerika Serikat "sepenuhnya menolak" "skema globalis" untuk mengendalikan AI, menurut artikel Fortune yang sama. Kalimat penutup Altman terdengar seperti jawaban.

Jika AI ingin demokratis, keputusan terpenting tidak bisa dibuat oleh lab di San Francisco saja.

Sam Altman, 23 September 2026, sumber

Versi Zuckerberg datang dengan biaya transaksi

Zuckerberg membuka Connect dengan menolak konsentrasi juga, dengan kata-kata yang hampir sama. Dia kemudian menarik kesimpulan yang berlawanan tentang apa yang membuat AI aman.

Dan bahwa jalan menuju masa depan yang aman adalah mendistribusikan teknologi ini secara luas dan menciptakan checks and balances yang tepat daripada memusatkannya di tangan segelintir orang.

Mark Zuckerberg, 24 September 2026, sumber

Perhatikan siapa checks and balances dalam versinya. Tidak ada regulator dalam keynote. Yang dia gambarkan adalah sejumlah besar orang yang masing-masing menjalankan Muse, agen pribadi Meta, di mesin virtual pribadi yang dihosting Meta. Dia juga blak-blakan tentang bagaimana itu membayar.

Kami percaya bahwa Muse akan menghasilkan uang untuk Anda dan kami mendukung ini dengan membuat Muse gratis untuk sejumlah besar token dengan harapan bahwa seiring waktu kami akan mendapat untung dengan mengambil biaya kecil dari transaksi.

Mark Zuckerberg, 24 September 2026, sumber

Itu adalah bisnis pembayaran. Alexandr Wang, yang menjalankan Meta Superintelligence Labs, mengikutinya di panggung dan menyebut Walmart, Best Buy, Gap, Sephora, dan Wayfair sebagai pengecer yang terhubung ke Muse, dengan Stripe, Shopify, dan PayPal yang membawa uang. Jika Muse berhasil, potongan kecil dari volume pembelian yang sangat besar akan masuk ke satu perusahaan. Anda bisa menyebutnya distribusi. Saya akan menyebutnya gerbang tol yang kebetulan ada di mana-mana.

Perangkat keras menunjukkan taruhan mana yang dibuat Meta

Metaverse sekarang menjadi yang kedua. Zuckerberg mengatakan Meta dulu berpikir bahwa perpaduan dunia fisik dan digital akan datang lebih dulu dan AI canggih kemudian, dan bahwa "cukup jelas" kecerdasan super pribadi datang lebih dulu. Perangkat VR yang dia tunjukkan beratnya sekitar 100 gram, berharga $1.299, dan akan dikirim pada musim semi 2027, menurut Social Media Today. Andrew Bosworth demo membuat poin itu untuknya. Dia memiliki agennya yang menggabungkan skema, menjadwalkan kalendernya, dan menonton lelang sambil bermain Beat Saber. Setiap perangkat yang dijual Meta minggu ini adalah pintu depan ke agen yang sama.

YouTube membiarkan penonton menjadi filter

Neal Mohan memberikan jawaban ketiga di podcast Alex Kantrowitz. Itu terdengar sederhana, tetapi datang dari platform dengan lebih dari dua miliar pengguna harian. Ditanya apakah YouTube menginginkan video yang dihasilkan AI, dia menolak untuk mengurutkan konten dengan cara itu.

Jadi tidak ada semacam eksplisit seperti AI buruk, yang lain baik atau sebaliknya. Semua aturan mulai dari kebijakan konten kami di platform kami hingga apa yang beresonansi dengan audiens tidak bergantung pada faktor itu.

Neal Mohan, 23 September 2026, sumber

Itu adalah logika Zuckerberg yang diterapkan pada media. Tidak ada yang menetapkan aturan di hulu, dan audiens yang memutuskan apa yang menyebar. Bagian yang lemah adalah bahwa algoritma yang memutuskan apa yang "beresonansi" adalah milik YouTube. Mohan mengakui dia menghabiskan sebagian besar akhir pekan menonton ulang klip AI tentang seorang pria yang menaiki jet Coke dan Mentos. Itu detail yang menawan. Itu juga alasan mengapa "biarkan audiens memutuskan" tidak menjawab siapa yang memutuskan.

Steve Case mengatakan konsentrasi sudah terjadi

Steve Case telah menyaksikan satu pergeseran platform dari dalam AOL, dan dia paling tidak tertarik pada siapa yang menulis aturan. Poinnya adalah tentang siapa yang memegang keuntungan, dan dia pikir itu sudah diputuskan.

Bagian yang tidak saya sukai adalah perusahaan-perusahaan ini, baik itu SpaceX sekarang di dua triliun atau Anthropic, OpenAI, Anda tahu, mungkin go public sekitar 1 triliun. Itu bagus untuk perusahaan-perusahaan itu. Itu bagus untuk investor itu, tetapi tidak bagus untuk investor ritel.

Steve Case, 24 September 2026, sumber

AOL tercatat dengan nilai pasar $70 juta dan bernilai $160 miliar pada saat kesepakatan Time Warner. SpaceX menetapkan harga IPO 12 Juni pada $1,77 triliun, sehingga publik membeli setelah sebagian besar pertumbuhan terjadi. Case juga mengatakan kepada pembawa acara Giant Ideas bahwa membangun model frontier adalah "taruhan lebih dari seratus miliar dolar" dan hasilnya adalah "big tech semakin besar." Letakkan itu di sebelah Altman dan Zuckerberg dan itu menjadi canggung. Keduanya memperingatkan tentang konsentrasi sambil menjalankan dua dari segelintir perusahaan yang mampu membayar taruhan itu.

Jadi siapa wasitnya?

Belum ada. Altman memintanya dan ditolak oleh pemerintahnya sendiri sehari sebelumnya. Zuckerberg mengatakan wasitnya adalah miliaran pengguna, sementara Meta mengambil biaya dari apa yang dibeli pengguna. Mohan mengatakan audiens, sebagaimana diperingkat oleh YouTube. Case, yang tidak punya produk untuk dijual di sini, mengatakan uang telah memilih pemenang, dan ritel akan membeli di $1 triliun. Tidak satu pun dari keempatnya menyebutkan mekanisme yang berfungsi hari ini. Menurut saya, garis 0,1% Altman adalah satu-satunya uji konkret yang ditawarkan siapa pun minggu ini, dan hanya OpenAI yang bisa mengatakan apakah itu lulus.