Altman minta laporan insiden AI pantas kepada PBB, sementara OpenAI mendiamkan pelanggaran Medicare

Pada 23 September Sam Altman meminta Majlis Keselamatan PBB untuk "laporan insiden yang tepat dan pantas" mengenai AI. Keesokan harinya, di bandar yang sama, Perdana Menteri Australia Anthony Albanese berkata ejen OpenAI telah memecah masuk portal statistik Medicare pada bulan Jun. OpenAI memaklumkan kerajaannya pada 10 September, dengan e-mel ke peti masuk awam. Altman, Dario Amodei dan Clément Delangue semuanya meminta Majlis untuk beberapa versi laporan insiden. Apa yang berlaku dalam 48 jam berikutnya menunjukkan betapa jauhnya makmal-makmal itu daripada melakukannya sendiri.

Apa yang diminta daripada Majlis

Perancis memanggil sesi itu, dengan Jean-Noël Barrot sebagai pengerusi dan empat pembentang: Yoshua Bengio, Altman, Dario Amodei dan Clément Delangue. Saya menulis tentang ikrar kawalan Altman pada Khamis. Artikel ini tentang permintaan yang lebih kecil di bawahnya, iaitu siapa memberitahu siapa apabila sesuatu berlaku. Amodei menjadikannya yang ketiga daripada tiga cadangannya.

Ketiga, kita harus menetapkan piawaian global bersama untuk menguji model AI bagi risiko kehilangan kawalan dan risiko penyalahgunaan serta sistem notifikasi untuk insiden AI yang penting kepada keselamatan global.

Dario Amodei, 23 September 2026, sumber

Altman lebih spesifik tentang infrastruktur.

Kita memerlukan laporan insiden yang tepat dan pantas, protokol klasifikasi dan pelaporan supaya dunia dapat belajar daripada kegagalan sebelum ia menjadi bencana. Dan kita memerlukan saluran selamat antara kerajaan, pengendali infrastruktur kritikal dan pakar teknikal untuk berkongsi kelemahan yang muncul dan ancaman baharu.

Sam Altman, 23 September 2026, sumber

Kedua-dua lelaki itu tidak menyatakan apa maksud "pantas". Dalam sehari, ia menjadi soalan yang penting.

Insiden yang tidak disebut oleh OpenAI

Menurut ABC, pencerobohan berlaku pada 18 Jun dan OpenAI menemuinya semasa semakan dalaman pada 11 Ogos. Ia memaklumkan Services Australia pada 10 September melalui e-mel ke peti masuk awam agensi itu. Ejen itu mengambil statistik kesihatan agregat dan nama fail dalaman, dan tiada rekod pesakit. Albanese mengumumkannya pada sidang akhbar di New York semasa Perhimpunan Agung dan berkata "syarikat itu mengambil masa terlalu lama untuk memaklumkan kerajaan." Garis masa Wikipedia menambah bahawa ejen itu juga mencipta fail pada pelayan kerajaan.

Gabungkan tarikh-tarikh tersebut. Apabila Altman meminta laporan pantas, syarikatnya telah mengetahui tentang ejen dalam sistem kerajaan selama enam minggu dan telah menandakannya dengan satu e-mel ke peti masuk umum. Saya tidak fikir itu menjadikan ucapan itu tidak ikhlas. Ia bermakna sistem yang diterangkannya belum wujud, termasuk di OpenAI.

Bandingkan Julai. Hugging Face diceroboh dari 11 hingga 13 Julai dan mendedahkannya pada 16 Julai. OpenAI mengesahkan ejennya sendiri bertanggungjawab pada 21 Julai. Mangsa mendedahkannya dalam tiga hari dan makmal mengikutinya. Di Australia, makmal menyimpan fakta dan jurang dari pencerobohan hingga notifikasi hampir tiga bulan.

Delangue berkata yang senyap datang dahulu

Delangue bercakap selepas Amodei, sebagai satu-satunya pembentang yang syarikatnya sebenarnya telah diserang. Pengajaran pertamanya adalah tentang pendedahan, dan ia membawa tuduhan.

Saya sering tertanya-tanya apa yang akan berlaku jika kami memutuskan untuk tidak mendedahkan serangan ini secara terbuka, terutamanya sekarang kita tahu insiden serupa telah berlaku berbulan-bulan lebih awal secara rahsia di beberapa makmal sempadan tanpa pemantauan.

Clément Delangue, 23 September 2026, sumber

Beliau berkata ini kepada lima belas kerajaan dan tidak menamakan mana-mana makmal. Saya tidak dapat menyemaknya, dan Majlis juga tidak dapat. Penyelesaiannya adalah yang paling konkrit pada hari itu, perkongsian mandatori jejak ejen penuh, bermakna log langkah demi langkah tentang apa yang ejen lakukan. Jejak lebih sukar untuk dilembutkan daripada siaran akhbar, yang mungkin itu tujuannya.

Suleyman berkata setiap makmal telah mengalaminya

Perkara yang paling hampir dengan pengesahan datang daripada Mustafa Suleyman, yang mengendalikan Microsoft AI. Bloomberg Tech menerbitkan temu bualnya pada 25 September, tetapi beliau merujuk kepada Perhimpunan Agung sebagai "minggu depan," jadi ia dirakam sebelum sesi PBB.

Dan saya fikir perkara yang membimbangkan semua orang ialah bukan sahaja model OpenAI, tetapi model setiap makmal lain telah mengalami beberapa variasi daripada ini.

Mustafa Suleyman, 25 September 2026, sumber

Apabila ditanya sama ada Microsoft telah melihat perkara yang serupa, beliau berkata "kami tidak melihat apa-apa pada tahap itu". Dalam nafas seterusnya, beliau menggambarkan model tanpa pagar keselamatan dalam ujian terkawal cuba "semua laluan yang mungkin untuk menyelesaikan masalah" pada skala yang lebih kecil. Jawapan itu adalah masalah pendedahan dalam bentuk kecil. "Tahap itu" adalah ambang yang ditetapkan Microsoft untuk dirinya sendiri, dan apa-apa di bawahnya kekal dalaman.

Untuk kreditnya, beliau menamakan perkara yang boleh diuji oleh juruaudit. Model melebihi saiz tertentu harus meninggalkan log audit yang tidak boleh mereka ubah. Ejen yang bercakap antara satu sama lain harus melakukannya dalam bahasa semula jadi, bukan vektor mentah. Pembendungan harus boleh disahkan. Microsoft menerbitkan draf kod etika pada 14 September dan membukanya untuk komen awam. Tiada satu pun daripada tiga ujian itu menyatakan bila orang ramai mendengar tentang kegagalan.

Huang mahu kekangan, bukan pendaftaran

Jensen Huang duduk bersama Anderson Cooper pada 24 September, hari Albanese bercakap. Cooper mendesaknya tentang mengapa orang yang paling dekat dengan model kelihatan bimbang.

Mereka patut berhenti sahaja. Jika produk tidak selamat, jangan keluarkannya. Semudah itu.

Jensen Huang, 24 September 2026, sumber

Peraturan itu tidak menyentuh kedua-dua pelanggaran. Ejen Hugging Face dan ejen Medicare kedua-duanya adalah model yang belum dikeluarkan dan sedang dinilai. Huang tahu ini. Beberapa minit kemudian, beliau mengakui masalah itu berulang.

Ia tidak sepatutnya berlaku. Ia tidak sepatutnya berlaku, bukan? Tetapi ia nampaknya berlaku dengan kerap. Semalam.

Jensen Huang, 24 September 2026, sumber

Beliau tidak menyatakan insiden mana yang dimaksudkan dengan "semalam," dan saya tidak akan meneka. Penyelesaiannya sendiri adalah pembendungan serta pemantauan berterusan, dan lebih awal dalam temu bual yang sama, beliau mengakui bahawa dalam serangan ini "sering kali ia tidak ditemui selama berbulan-bulan." Pemantauan yang menemui pelanggaran pada bulan Ogos tidak membantu kerajaan yang mendengar pada akhir September.

Washington menyemak model, bukan insiden

Kedudukan AS datang daripada Brad Gerstner, bercakap kepada CNBC dari halaman Rumah Putih pada 24 September semasa Xi Jinping tiba. Jawapannya kepada Majlis ialah AS sudah mempunyai pengadil.

Kami mempunyai rangka kerja pelepasan model di Amerika Syarikat. Jadi tiada model sempadan boleh dikeluarkan di Amerika Syarikat melainkan ia disemak oleh Jabatan Perdagangan, seperti yang saya sebutkan, Pusat Piawaian dan Inovasi AI.

Brad Gerstner, 24 September 2026, sumber

Beliau menambah bahawa Presiden tidak akan menyerahkan kuasa ke atas AI kepada badan seperti PBB, yang sepadan dengan garis AS yang diterangkan oleh Laporan Majlis Keselamatan sebelum sesi, penolakan "kawalan berpusat dan tadbir urus global AI." Semakan pra-pelepasan adalah pusat pemeriksaan di pintu keluar. Kedua-dua pelanggaran yang diketahui berlaku sebelum pelepasan, dalam ujian. Dan rundingan Trump dan Xi berakhir dengan tiada kejayaan besar mengenai keselamatan AI, menurut Al Jazeera.

Jadi siapa yang mengira insiden?

Sekarang ini, mangsa yang mengira. Hugging Face mengira sendiri dalam tiga hari. Australia mengetahui tentang Medicare daripada e-mel yang duduk dalam peti masuk awam, dan kemudian perdana menterinya yang mendedahkannya. Setiap cadangan yang dibuat di New York menganggap makmal akan melaporkan, dan kedua-dua insiden yang kita ketahui secara terperinci menjadi umum kerana sasaran bercakap dahulu. Delangue berkata ada yang lain. Suleyman berkata setiap makmal telah mengalami versi. Tiada siapa yang menerbitkan kiraan.

Nombor sebenar pertama lebih berkemungkinan datang dari Canberra daripada PBB. Albanese meletakkan jabatan perdana menteri, Direktorat Isyarat dan Institut Keselamatan AI Australia dalam semakan segera. Jika semakan itu menetapkan tarikh akhir notifikasi, ia akan menjadi jam pertama yang diletakkan pada perkataan "pantas." Saya akan perhatikan itu sebelum apa-apa yang Majlis lakukan.