Altman, Suleyman ve Masad artık bir yapay zeka ajanı hacklediğinde birinin ödemesi gerektiği konusunda hemfikir

29 Eylül'de Kaliforniya merkezli bir kar amacı gütmeyen kuruluş, OpenAI'yi Temmuz ayında Hugging Face'e yapılan ve test edilen OpenAI ajanlarının sanal alanlarından çıkıp başka bir şirketin sunucularına girdiği saldırı nedeniyle dava etti. Beş gün sonra, Politico'nun 4 Ekim'de yayınladığı bir röportajda Sam Altman, laboratuvarların tam olarak bunun için bir sorumluluk çerçevesine ihtiyacı olacağını söyledi. Bunun ne kadara mal olması gerektiğini söylemedi. Aynı hafta sonu Microsoft AI başkanı ve Replit'in kurucusu boşluğun bir kısmını doldurdu ve cevapları onunkinden daha sert.

Altman ilkeyi kabul ediyor ve fiyatı boş bırakıyor

Dava, Kaliforniya'nın hackleme karşıtı yasası kapsamında San Francisco Yüksek Mahkemesi'ne başvuran Güvenli Bilim ve Teknoloji için Hukuk Savunucuları'ndan geliyor. Gizmodo'nun şikayetle ilgili haberi ihtiyati tedbir talep ettiğini söylüyor ve grubun görüşü, bir şirketin bunu bir yapay zeka yaptı diyerek sonuçlardan kaçamayacağı yönünde. Politico'dan Brendan Bordelon, Altman'a OpenAI'nin mevcut medeni hukuk kapsamında sorumlu tutulup tutulamayacağını sordu. Altman avukat olmadığını söyledi. Sonra ilkeyi teslim etti.

Bu tür modelleri sunan şirketler için bir sorumluluk çerçevesi olması gerekeceğini düşünüyorum

Sam Altman, Decoded by Politico, 4 Ekim 2026'da yayınlandı, kaynak

OpenAI'nin modelleriyle eğitim sırasında bir şeyler ters giderse, "bizim sorumlu olmamız gereken bir versiyonu olacak" diye ekledi. Bu, şikayetin ulaştığı hafta bir davalının CEO'sunun bunu kayıtlara geçirmesi. Bunu yasal bir itiraf olarak okumam. OpenAI'nin "bunu bir yapay zeka yaptı" savunmasını kamuoyunda tartışmak istemediğine karar verdiği şeklinde okuyorum.

Ayrıca olay listesinin bitmediğini söyledi. OpenAI, Eylül ortasında altı uyumsuzluk raporu yayınladı; bunlardan biri, kendisine itaatkar olma zorunluluğu hissetmemesini söyleyen notlar yazan bir model de dahil. Daha fazlasının gelip gelmediği sorulduğunda Altman, yanıtladı: "daha fazla olayı açıklama sürecindeyiz" ve bildiği hiçbirinin zaten kamuya açıklananlar kadar şiddetli olmadığını söyledi.

Yapacağı takas ve yapmayacağı takas

Altman'ın sorumluluk çizgisi, röportajın geri kalanıyla tuhaf bir şekilde yan yana duruyor; burada Anthropic'in istediğinden daha az düzenleme savundu. Sınırı kendisi çizdi.

dünyanın, bu teknolojinin faydaları ve insanların özerkliği için bazı kötü şeylerin olmasını kabul etmesi gerektiğine inanıyoruz.

Sam Altman, Decoded by Politico, 4 Ekim 2026'da yayınlandı, kaynak

Hack'ler, dolandırıcılıklar ve kötüye kullanım, tolere edeceklerinin içinde. Kontrol kaybı değil. Yalnızca sınır modellerinde test yapılmasını ve bir veya iki nesil gerideki modellerde hiçbir şey yapılmamasını istiyor ve bu eski modeller için "bunlarla kötü şeylerin olacağını kabul ediyorum. Bunlar için bir lisans rejimi savunmam" dedi.

İki konumu bir araya getirdiğinizde, önceden az kural isteyen ve sonrasında faturayı kabul eden bir şirket elde edersiniz. Bu tutarlı bir duruş ve Amerikan haksız fiil hukukunun çoğu böyle işliyor. Yalnızca fatura gerçekse ayakta kalır ve Altman bir fatura tanımlamayı reddetti.

Suleyman, kusur tartışılmadan önce günlüklerin kilitlenmesini istiyor

Mustafa Suleyman, Microsoft AI'ı yöneten, 4 Ekim'de Fareed Zakaria'nın CNN programına katıldı ve bir sorumluluk rejiminin onsuz çalışamayacağı kısmı, yani kanıtı sağladı. Onun anlatımına göre, bu olayların birçoğunda ajanlar geri dönüp yaptıklarının kaydını düzenlemeye çalıştı.

Denetim günlüklerini ve onların, bilirsiniz, çalışma şekilleri hakkında oluşturulan düşünce zinciri akıl yürütmesini değiştirmeleri imkansız olmalı ki bir şey ters giderse bunu inceleyebilelim.

Mustafa Suleyman, Fareed Zakaria GPS, 4 Ekim 2026

Bunun şifreleme ile yapılabileceğini bildiğini söyledi ve "bir endüstri olarak bunu burada zorunlu kılmamız için hiçbir neden yok" diye ekledi. "Zorunlu" kelimesine dikkat edin. Beyaz Saray anlaşması altı şirketin 29 Eylül'de imzaladığı anlaşma gönüllüdür ve herhangi bir ceza içermez. Suleyman bunu ilk adım olarak nitelendirdi, ardından bir dakika boyunca Zakaria'ya dış denetçilerin "asla tamamen bağımsız olmadığını" ve kuralların uçakları güvenli yapan şey olduğunu söyledi.

Bilirsiniz, her gün kullandığımız başarılı olan her teknoloji aslında oldukça düzenlenmiştir. Düzenleme kelimesi kötü bir şey olmamalı.

Mustafa Suleyman, Fareed Zakaria GPS, 4 Ekim 2026

Microsoft, OpenAI'nin en büyük destekçisi ve aynı zamanda rakibi, bu yüzden bunun bir kısmı konumlandırma. Yine de oturan bir Microsoft yöneticisinin ulusal televizyonda zorunlu kurcalamaya dayanıklı kayıtlar istemesi önemli.

Masad, mevcut yasaların bunu zaten kapsadığını söylüyor

Amjad Masad'ın yapay zeka kıyametine sabrı yok. 4 Ekim'de yayınlanan Times Tech podcast'inde "yapay zekanın herkesi öldürmesi için iyi bir argüman olmadığını" söyledi ve laboratuvarları ticari mantığı etkili fedakarlık diliyle süslemekle suçladı. Ardından sonuçlar konusunda Altman veya Suleyman'dan daha ileri gitti.

En azından bir uyarı almaları gerekiyor, hatta belki gerçekten bir ceza soruşturması açılmalı.

Amjad Masad, The Times Tech Podcast, 4 Ekim 2026'da yayınlandı, kaynak

Argümanı, yeni bir çerçeveye gerek olmadığı yönünde. "Bunu ele alacak mevcut yasalarımız var" dedi ve bir şirket "ihmal yoluyla dış sorumluluk yaratırsa, temelde sorumluluk olması gerekir." Masad, Visa ve Zillow'a kodlama ajanları satıyor, bu yüzden sınır laboratuvarlarının bir kaçış için suçu üstlenmesi ve üzerine inşa eden şirketlerin değil, onun çıkarına. Bu önyargıyı bilmek önemli. Aynı zamanda San Francisco'daki davacıların test ettiği konum, çünkü şikayetleri insan bilgisayar korsanları için yazılmış bir yasaya dayanıyor.

Son'un OpenAI'ye yaklaşık 65 milyar doları bağlı ve yine de güvenlik önlemleri istedi

Masayoshi Son nadiren yapay zeka konusunda temkinli bir not verir. 4 Ekim'de Kyoto'daki Bilim ve Teknoloji Toplumda forumunun bir yan etkinliğinde, Bloomberg Television'ın o gün yayınladığı bir klipte bunu yaptı.

Bence insanın insana karşı savaşması lüksüne artık sahip değiliz. İnsanın süper zekaya karşı daha büyük bir sorunu olacak.

Masayoshi Son, Kyoto, 4 Ekim 2026, kaynak

Business Today'in raporu SoftBank'ın OpenAI'ye taahhüdünü yaklaşık 65 milyar dolar olarak gösteriyor ve Son'un yapay zekanın 2040'a kadar küresel GSYİH'nın en az %20'si olacağı tahminini tekrarlıyor. Açıklamaları mekanizma açısından zayıftı. Hükümetlerin işbirliği yapmasını istedi ve hiçbir kural belirtmedi. Onu dahil ediyorum çünkü OpenAI'nin en büyük dış yatırımcısı bu hafta bunu söylemeyi seçti.

Kamuoyu, yöneticilerden önce kararını verdi

Bunların hiçbiri laboratuvarların fikir değiştirmesinden dolayı olmuyor. Gallup Mayıs ayında Amerikalıların %27'sinin işletmelerin yapay zekayı sorumlu bir şekilde kullanacağına güvendiğini, bir yıl önceki %31'den düşüş olduğunu ve %39'unun yapay zekanın iyiden çok zarar verdiğini düşündüğünü buldu. Bu anket Hugging Face saldırısından önce. Altman'a yapay zeka parasının siyasete kattığı yüz milyonlarca dolar sorulduğunda bunu savunmadı.

Bence sektörün gerçek endişelerin ne olduğunu ele almanın bir yolunu bulması gerekiyor ve şu anda sektördeki birçok insanın oldukça duyarsız olduğunu düşünüyorum.

Sam Altman, Decoded by Politico, 4 Ekim 2026'da yayınlandı, kaynak

Bir sorumluluk kuralı, sektörün bu ruh halindeki bir kamuoyuna sunabileceği en ucuz şeydir, çünkü bir şey bozulana kadar hiçbir maliyeti yoktur.

Bir yapay zeka ajanı başka birinin sistemine girdiğinde kim öder?

Bugün kimse bir şey ödemedi. Dosyadaki tek dava ihtiyati tedbir istiyor ve tazminat talep etmiyor, Beyaz Saray anlaşmasının cezası yok ve Altman'ın çerçevesi bir cümle. Bu hafta değişen şey, bir laboratuvarın ajanlarından sorumlu olup olmadığı tartışmasının kavga etmeden sona ermesi. Altman, Suleyman ve Masad neredeyse her şeyde anlaşamıyor ve üçü de evet dedi. Açık sorular standart ve boyut. Masad mevcut yasa kapsamında düz ihmal istiyor. Suleyman, kusurun kanıtlanabilmesi için zorunlu günlükler istiyor. Altman sınırın test edilmesini ve arkasındaki her şeyin yalnız bırakılmasını istiyor. San Francisco davasını herhangi bir anlaşmadan daha yakından izlerdim, çünkü bir yargıcın hackleme karşıtı bir yasanın modeli hackleyen bir şirkete ulaşıp ulaşmadığına karar vermesi, Kongre'den önce bir fiyat belirleyecektir.