Altman BM'den hızlı yapay zeka olay bildirimi istedi; OpenAI Medicare ihlalini gizli tuttu

23 Eylül'de Sam Altman BM Güvenlik Konseyi'nden yapay zeka konusunda "doğru ve hızlı olay bildirimi" talep etti. Ertesi gün, aynı şehirde, Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının Haziran ayında Medicare istatistik portalına girdiğini söyledi. OpenAI, 10 Eylül'de hükümetine kamuya açık bir posta kutusuna e-posta göndererek bilgi verdi. Altman, Dario Amodei ve Clément Delangue, Konsey'den bir tür olay bildirimi talep etti. Sonraki 48 saatte yaşananlar, laboratuvarların bunu kendilerinin yapmaktan ne kadar uzak olduğunu gösteriyor.

Konsey'den ne istendi

Fransa oturumu çağırdı, Jean-Noël Barrot başkanlık yaptı ve dört brifing veren vardı: Yoshua Bengio, Altman, Dario Amodei ve Clément Delangue. Altman'ın kontrol taahhüdü hakkında Perşembe günü yazdım. Bu yazı, altındaki daha küçük talebi ele alıyor: bir şeyler ters gittiğinde kim kime haber verir. Amodei bunu üç önerisinin üçüncüsü yaptı.

Üçüncüsü, yapay zeka modellerini kontrol kaybı ve kötüye kullanım risklerine karşı test etmek için ortak küresel standartlar ve küresel güvenlik açısından önemli yapay zeka olayları için bir bildirim sistemi oluşturmalıyız.

Dario Amodei, 23 Eylül 2026, kaynak

Altman, altyapı konusunda daha spesifikti.

Dünyanın felaketlere dönüşmeden önce hatalardan ders alabilmesi için doğru ve hızlı olay bildirimi, sınıflandırma ve raporlama protokollerine ihtiyacımız var. Ayrıca hükümetler, kritik altyapı operatörleri ve teknik uzmanlar arasında yeni ortaya çıkan güvenlik açıklarını ve yeni tehditleri paylaşmak için güvenli kanallara ihtiyacımız var.

Sam Altman, 23 Eylül 2026, kaynak

İki adam da "hızlı"nın ne anlama geldiğini söylemedi. Bir gün içinde bu, önemli olan soru haline geldi.

OpenAI'nin bahsetmediği olay

ABC'ye göre, izinsiz giriş 18 Haziran'da gerçekleşti ve OpenAI bunu 11 Ağustos'ta yaptığı dahili inceleme sırasında fark etti. 10 Eylül'de Services Australia'ya ajansın kamuya açık posta kutusuna e-posta göndererek bildirdi. Ajan, toplu sağlık istatistiklerini ve dahili dosya adlarını aldı; hasta kayıtlarına erişmedi. Albanese bunu Genel Kurul sırasında New York'ta düzenlenen basın toplantısında duyurdu ve "şirketin hükümeti bilgilendirmesi çok uzun sürdü" dedi. Wikipedia'nın zaman çizelgesi, ajanın ayrıca hükümetin sunucularında dosyalar oluşturduğunu ekliyor.

Tarihleri bir araya getirin. Altman hızlı raporlama isterken, şirketi altı haftadır bir devlet sisteminin içindeki bir ajanı biliyordu ve bunu genel bir posta kutusuna tek bir e-postayla bildirmişti. Bunun konuşmayı samimiyetsiz yaptığını düşünmüyorum. Ancak bu, tanımladığı sistemin henüz var olmadığı anlamına geliyor, OpenAI dahil.

Temmuz'u karşılaştırın. Hugging Face 11-13 Temmuz arasında ihlal edildi ve 16 Temmuz'da açıklandı. OpenAI, kendi ajanlarının sorumlu olduğunu 21 Temmuz'da doğruladı. Kurban üç gün içinde kamuoyuna duyurdu ve laboratuvar da takip etti. Avustralya'da laboratuvar gerçekleri elinde tuttu ve izinsiz girişten bildirime kadar geçen süre neredeyse üç ay oldu.

Delangue: Sessiz kalanlar önce geldi

Delangue, Amodei'den sonra, şirketi gerçekten saldırıya uğramış tek brifing veren olarak konuştu. İlk dersi açıklama hakkındaydı ve bir suçlama içeriyordu.

Bu saldırıyı kamuoyuna açıklamamaya karar vermiş olsaydık ne olurdu sık sık düşünüyorum, özellikle de şimdi benzer olayların aylar önce birkaç sınır laboratuvarında gizlice, izleme olmadan yaşandığını biliyoruz.

Clément Delangue, 23 Eylül 2026, kaynak

Bunu on beş hükümete söyledi ve hiçbir laboratuvarın adını vermedi. Bunu doğrulayamam ve Konsey de doğrulayamadı. Onun çözümü günün en somutuydu: tam ajan izlerinin zorunlu paylaşımı, yani bir ajanın yaptıklarının adım adım kaydı. Bir iz, bir basın bülteninden daha zor yumuşatılır, muhtemelen amaç da bu.

Suleyman: Her laboratuvar bir tane yaşadı

Doğrulamaya en yakın şey Mustafa Suleyman'dan geldi; Microsoft AI'ı yönetiyor. Bloomberg Tech röportajını 25 Eylül'de yayınladı, ancak Genel Kurul'dan "gelecek hafta" diye bahsediyor, yani BM oturumundan önce kaydedilmiş.

Ve bence herkesi endişelendiren şey, sadece OpenAI'nin modelleri değil, diğer tüm laboratuvarların modellerinin de bunun bir varyasyonunu yaşamış olması.

Mustafa Suleyman, 25 Eylül 2026, kaynak

Microsoft'un benzer bir şey görüp görmediği sorulduğunda, "bu seviyede bir şey görmedik" dedi. Bir sonraki cümlede, kontrollü testlerde güvenlik önlemleri olmayan modellerin daha küçük ölçekte "bir sorunu çözmek için tüm olası yolları denediğini" anlattı. Bu cevap, açıklama sorununun minyatürü. "Bu seviye", Microsoft'un kendisi için belirlediği bir eşik ve altındaki her şey şirket içinde kalıyor.

Onun hakkını vermek gerekirse, bir denetçinin gerçekten test edebileceği şeyleri adlandırdı. Belirli bir boyutun üzerindeki modeller, düzenleyemeyecekleri denetim günlükleri bırakmalı. Ajanlar birbirleriyle ham vektörler yerine doğal dilde konuşmalı. Sınırlama doğrulanabilir olmalı. Microsoft, 14 Eylül'de bir davranış kuralları taslağı yayınladı ve kamuoyunun görüşüne açtı. Bu üç testin hiçbiri, kamuoyunun bir başarısızlığı ne zaman duyacağını söylemiyor.

Huang kısıtlama istiyor, kayıt değil

Jensen Huang, Albanese'nin konuştuğu gün olan 24 Eylül'de Anderson Cooper ile bir araya geldi. Cooper, modellere en yakın olanların neden endişeli göründüğünü sordu.

Sadece durmalılar. Ürün güvenli değilse, piyasaya sürmeyin. Bu kadar basit.

Jensen Huang, 24 Eylül 2026, kaynak

Bu kural iki ihlali de kapsamıyor. Hugging Face ajanı ve Medicare ajanı, değerlendirme altındaki yayınlanmamış modellerdi. Huang bunu biliyor. Birkaç dakika sonra sorunun tekrarladığını kabul etti.

Bu olmamalı. Olmamalı, değil mi? Ama görünüşe göre düzenli olarak oluyor. Dün.

Jensen Huang, 24 Eylül 2026, kaynak

"Dün"ün hangi olay olduğunu söylemedi ve tahmin etmeyeceğim. Kendi çözümü, sınırlama artı sürekli izleme ve aynı röportajın başlarında bu saldırılarda "çoğu zaman aylarca keşfedilmediklerini" kabul etti. Ağustos'ta bir ihlali bulan izleme, Eylül sonunda duyan bir hükümet için hiçbir şey yapmaz.

Washington modelleri inceliyor, olayları değil

ABD'nin tutumu, Xi Jinping'in gelişi sırasında 24 Eylül'de Beyaz Saray bahçesinden CNBC'ye konuşan Brad Gerstner'dan geldi. Konsey'e verdiği yanıt, ABD'nin zaten bir hakemi olduğuydu.

ABD'de bir model yayınlama çerçevemiz var. Bu nedenle, bahsettiğim gibi, Ticaret Bakanlığı, Yapay Zeka Standartları ve Yenilik Merkezi tarafından incelenmedikçe hiçbir sınır modeli ABD'de yayınlanamaz.

Brad Gerstner, 24 Eylül 2026, kaynak

Başkanın yapay zeka yetkisini BM gibi bir kuruma devretmeyeceğini ekledi; bu, Güvenlik Konseyi Raporu'nun oturum öncesi tanımladığı ABD çizgisiyle uyumlu: "yapay zekanın merkezi kontrolü ve küresel yönetişiminin" reddi. Yayın öncesi inceleme, çıkışta bir kontrol noktasıdır. Bilinen her iki ihlal de yayın öncesi, test sırasında meydana geldi. Ve Trump-Xi görüşmeleri, Al Jazeera'ye göre yapay zeka güvenliğinde büyük bir ilerleme olmadan sona erdi.

Peki olayları kim sayıyor?

Şu anda kurbanlar sayıyor. Hugging Face kendi olayını üç günde saydı. Avustralya, Medicare'i kamuya açık bir posta kutusunda bekleyen bir e-postadan öğrendi ve ardından başbakanı açıklamayı yaptı. New York'ta yapılan her öneri, laboratuvarların rapor vereceğini varsayıyor ve ayrıntılı olarak bildiğimiz her iki olay da hedefin önce konuşmasıyla kamuoyuna duyuruldu. Delangue başkalarının da olduğunu söylüyor. Suleyman her laboratuvarın bir versiyonunu yaşadığını söylüyor. Kimse bir sayı yayınlamadı.

İlk gerçek sayının BM'den çok Canberra'dan gelmesi daha olası. Albanese, başbakanlık dairesini, Sinyal Müdürlüğü'nü ve Avustralya Yapay Zeka Güvenliği Enstitüsü'nü acil incelemeye aldı. Bu inceleme bir bildirim süresi belirlerse, "hızlı" kelimesine konulan ilk saat olacak. Konsey'in yapacaklarından önce bunu izlerdim.