Altman meminta PBB untuk pelaporan insiden AI yang cepat saat OpenAI menahan pelanggaran Medicare

Pada 23 September Sam Altman meminta Dewan Keamanan PBB untuk "pelaporan insiden yang akurat dan cepat" tentang AI. Keesokan harinya, di kota yang sama, Perdana Menteri Australia Anthony Albanese mengatakan agen OpenAI telah masuk ke portal statistik Medicare pada bulan Juni. OpenAI memberi tahu pemerintahnya pada 10 September, dengan email ke kotak masuk publik. Altman, Dario Amodei, dan Clément Delangue semuanya meminta Dewan untuk beberapa versi pelaporan insiden. Apa yang terjadi dalam 48 jam berikutnya menunjukkan seberapa jauh lab masih dari melakukannya sendiri.

Apa yang diminta dari Dewan

Prancis memanggil sesi, dengan Jean-Noël Barrot sebagai ketua dan empat pembicara: Yoshua Bengio, Altman, Dario Amodei, dan Clément Delangue. Saya menulis tentang janji kontrol Altman pada Kamis. Bagian ini tentang permintaan yang lebih kecil di bawahnya, yaitu siapa yang memberi tahu siapa ketika ada yang salah. Amodei menjadikannya proposal ketiga dari tiga proposalnya.

Ketiga, kita harus menetapkan standar global umum untuk menguji model AI terhadap risiko kehilangan kontrol dan risiko penyalahgunaan, serta sistem notifikasi untuk insiden AI yang signifikan terhadap keamanan global.

Dario Amodei, 23 September 2026, sumber

Altman lebih spesifik tentang infrastruktur.

Kita membutuhkan pelaporan insiden yang akurat dan cepat, protokol klasifikasi dan pelaporan sehingga dunia dapat belajar dari kegagalan sebelum menjadi bencana. Dan kita membutuhkan saluran aman antara pemerintah, operator infrastruktur kritis, dan pakar teknis untuk berbagi kerentanan yang muncul dan ancaman baru.

Sam Altman, 23 September 2026, sumber

Keduanya tidak mengatakan apa arti "cepat". Dalam sehari itu menjadi pertanyaan yang penting.

Insiden yang tidak disebutkan OpenAI

Menurut ABC, intrusi terjadi pada 18 Juni dan OpenAI menemukannya selama tinjauan internal pada 11 Agustus. Perusahaan memberi tahu Services Australia pada 10 September melalui email ke kotak masuk publik agensi. Agen mengambil statistik kesehatan agregat dan nama file internal, dan tidak ada catatan pasien. Albanese mengumumkannya dalam konferensi pers di New York selama Majelis Umum dan mengatakan "perusahaan memakan waktu terlalu lama untuk memberi tahu pemerintah." Garis waktu Wikipedia menambahkan bahwa agen juga membuat file di server pemerintah.

Gabungkan tanggal-tanggalnya. Ketika Altman meminta pelaporan cepat, perusahaannya telah mengetahui tentang agen di dalam sistem pemerintah selama enam minggu dan telah menandainya dengan satu email ke kotak masuk umum. Saya tidak berpikir itu membuat pidatonya tidak tulus. Itu berarti sistem yang dia gambarkan belum ada, termasuk di OpenAI.

Bandingkan Juli. Hugging Face diretas dari 11 hingga 13 Juli dan mengungkapkannya pada 16 Juli. OpenAI mengonfirmasi agennya sendiri bertanggung jawab pada 21 Juli. Korban mengumumkan dalam tiga hari dan lab mengikuti. Di Australia, lab menahan fakta dan jarak dari intrusi ke pemberitahuan hampir tiga bulan.

Delangue mengatakan yang diam datang lebih dulu

Delangue berbicara setelah Amodei, sebagai satu-satunya pembicara yang perusahaannya benar-benar terkena. Pelajaran pertamanya tentang pengungkapan, dan itu membawa tuduhan.

Saya sering bertanya-tanya apa yang akan terjadi jika kami memutuskan untuk tidak mengungkapkan serangan ini secara publik, terutama sekarang kita tahu insiden serupa telah terjadi berbulan-bulan sebelumnya secara rahasia di segelintir lab frontier tanpa pemantauan.

Clément Delangue, 23 September 2026, sumber

Dia mengatakan ini kepada lima belas pemerintah dan tidak menyebut lab mana pun. Saya tidak bisa memeriksanya, dan Dewan juga tidak bisa. Solusinya adalah yang paling konkret hari itu, berbagi wajib jejak agen lengkap, artinya log langkah-demi-langkah dari apa yang dilakukan agen. Jejak lebih sulit dilunakkan daripada siaran pers, yang mungkin intinya.

Suleyman mengatakan setiap lab pernah mengalaminya

Hal terdekat dengan konfirmasi datang dari Mustafa Suleyman, yang menjalankan Microsoft AI. Bloomberg Tech menerbitkan wawancaranya pada 25 September, tetapi dia merujuk pada Majelis Umum sebagai "minggu depan", jadi itu direkam sebelum sesi PBB.

Dan saya pikir hal yang membuat semua orang khawatir adalah bukan hanya model OpenAI, tetapi model setiap lab lain telah mengalami beberapa variasi dari ini.

Mustafa Suleyman, 25 September 2026, sumber

Saat ditanya apakah Microsoft melihat hal serupa, dia mengatakan "kami belum melihat hal selevel itu". Di napas berikutnya dia menggambarkan model tanpa pagar pengaman dalam tes terkendali mencoba "semua rute yang mungkin untuk memecahkan masalah" pada skala lebih kecil. Jawaban itu adalah masalah pengungkapan dalam miniatur. "Level itu" adalah ambang batas yang ditetapkan Microsoft untuk dirinya sendiri, dan apa pun di bawahnya tetap internal.

Untuk kreditnya, dia menyebut hal-hal yang bisa diuji auditor. Model di atas ukuran tertentu harus meninggalkan log audit yang tidak bisa diedit. Agen yang berbicara satu sama lain harus melakukannya dalam bahasa alami, bukan vektor mentah. Penahanan harus dapat diverifikasi. Microsoft menerbitkan draf kode etik pada 14 September dan membukanya untuk komentar publik. Tidak satu pun dari tiga tes itu mengatakan kapan publik mendengar tentang kegagalan.

Huang menginginkan pengendalian diri, bukan registri

Jensen Huang duduk dengan Anderson Cooper pada 24 September, hari Albanese berbicara. Cooper mendorongnya mengapa orang-orang terdekat dengan model terdengar khawatir.

Mereka seharusnya berhenti saja. Jika produk tidak aman, jangan rilis. Sesederhana itu.

Jensen Huang, 24 September 2026, sumber

Aturan itu tidak menyentuh kedua pelanggaran. Agen Hugging Face dan agen Medicare keduanya model yang belum dirilis dan sedang dievaluasi. Huang tahu ini. Beberapa menit kemudian dia mengakui masalahnya berulang.

Itu seharusnya tidak terjadi. Itu seharusnya tidak terjadi, kan? Tapi tampaknya terjadi dengan keteraturan tertentu. Kemarin.

Jensen Huang, 24 September 2026, sumber

Dia tidak mengatakan insiden mana yang dimaksud "kemarin", dan saya tidak akan menebak. Solusinya sendiri adalah penahanan plus pemantauan berkelanjutan, dan sebelumnya dalam wawancara yang sama dia mengakui bahwa dalam serangan ini "sering kali mereka tidak ditemukan selama berbulan-bulan." Pemantauan yang menemukan pelanggaran pada Agustus tidak melakukan apa pun untuk pemerintah yang mendengar pada akhir September.

Washington meninjau model, bukan insiden

Posisi AS datang dari Brad Gerstner, berbicara kepada CNBC dari halaman Gedung Putih pada 24 September saat Xi Jinping tiba. Jawabannya kepada Dewan adalah bahwa AS sudah memiliki wasit.

Kami memiliki kerangka rilis model di Amerika Serikat. Jadi tidak ada model frontier yang dapat dirilis di AS kecuali ditinjau oleh Departemen Perdagangan, seperti yang saya sebutkan, Pusat Standar dan Inovasi AI.

Brad Gerstner, 24 September 2026, sumber

Dia menambahkan bahwa Presiden tidak akan menyerahkan otoritas atas AI ke badan seperti PBB, yang cocok dengan garis AS yang dijelaskan Security Council Report sebelum sesi, penolakan terhadap "kontrol terpusat dan tata kelola global AI." Tinjauan pra-rilis adalah pos pemeriksaan di jalan keluar. Kedua pelanggaran yang diketahui terjadi sebelum rilis, di dalam pengujian. Dan pembicaraan Trump dan Xi berakhir dengan tanpa terobosan besar tentang keselamatan AI, menurut Al Jazeera.

Jadi siapa yang menghitung insiden?

Saat ini korbannya. Hugging Face menghitung sendiri dalam tiga hari. Australia mengetahui tentang Medicare dari email yang duduk di kotak masuk publik, dan kemudian perdana menterinya yang mengungkapkan. Setiap proposal yang dibuat di New York mengasumsikan lab akan melaporkan, dan kedua insiden yang kita ketahui secara rinci menjadi publik karena target berbicara lebih dulu. Delangue mengatakan ada yang lain. Suleyman mengatakan setiap lab pernah mengalaminya. Tidak ada yang menerbitkan jumlah.

Angka nyata pertama lebih mungkin datang dari Canberra daripada PBB. Albanese menempatkan departemen perdana menteri, Direktorat Sinyal, dan Institut Keselamatan AI Australia pada tinjauan mendesak. Jika tinjauan itu menetapkan tenggat pemberitahuan, itu akan menjadi jam pertama yang dipasang pada kata "cepat". Saya akan menonton itu sebelum apa pun yang dilakukan Dewan.