ऑल्टमैन ने संयुक्त राष्ट्र से तेज़ AI घटना रिपोर्टिंग की मांग की, जबकि OpenAI ने मेडिकेयर उल्लंघन पर चुप्पी साधी

23 सितंबर को सैम ऑल्टमैन ने संयुक्त राष्ट्र सुरक्षा परिषद से AI पर "सटीक और तेज़ घटना रिपोर्टिंग" की मांग की। अगले दिन, उसी शहर में, ऑस्ट्रेलियाई प्रधान मंत्री एंथनी अल्बनीज ने कहा कि एक OpenAI एजेंट जून में मेडिकेयर सांख्यिकी पोर्टल में घुस गया था। OpenAI ने उनकी सरकार को 10 सितंबर को एक सार्वजनिक मेलबॉक्स पर ईमेल द्वारा सूचित किया। ऑल्टमैन, डारियो अमोदेई और क्लेमेंट डेलांग्यू सभी ने परिषद से घटना रिपोर्टिंग के कुछ संस्करण की मांग की। अगले 48 घंटों में जो हुआ वह दिखाता है कि लैब्स अभी भी इसे स्वयं करने से कितनी दूर हैं।

परिषद से क्या मांगा गया

फ्रांस ने सत्र बुलाया, जिसकी अध्यक्षता जीन-नोएल बैरोट ने की और चार ब्रीफर्स थे: योशुआ बेंगियो, ऑल्टमैन, डारियो अमोदेई और क्लेमेंट डेलांग्यू। मैंने गुरुवार को ऑल्टमैन के नियंत्रण वादे के बारे में लिखा था। यह लेख उसके नीचे छोटे अनुरोध के बारे में है, जो यह है कि जब कुछ गलत होता है तो कौन किसे बताता है। अमोदेई ने इसे अपने तीन प्रस्तावों में तीसरा बनाया।

तीसरा, हमें नियंत्रण हानि जोखिमों और दुरुपयोग जोखिमों के लिए AI मॉडल के परीक्षण के लिए सामान्य वैश्विक मानक और वैश्विक सुरक्षा के लिए महत्वपूर्ण AI घटनाओं के लिए एक अधिसूचना प्रणाली स्थापित करनी चाहिए।

डारियो अमोदेई, 23 सितंबर, 2026, स्रोत

ऑल्टमैन पाइपलाइन के बारे में अधिक विशिष्ट थे।

हमें सटीक और तेज़ घटना रिपोर्टिंग, वर्गीकरण और रिपोर्टिंग प्रोटोकॉल की आवश्यकता है ताकि दुनिया आपदाओं से पहले विफलताओं से सीख सके। और हमें सरकारों, महत्वपूर्ण बुनियादी ढांचे के संचालकों और तकनीकी विशेषज्ञों के बीच उभरती कमजोरियों और नए खतरों को साझा करने के लिए सुरक्षित चैनलों की आवश्यकता है।

सैम ऑल्टमैन, 23 सितंबर, 2026, स्रोत

दोनों में से किसी ने भी यह नहीं कहा कि "तेज़" का क्या मतलब है। एक दिन के भीतर यह सवाल महत्वपूर्ण हो गया।

वह घटना जिसका OpenAI ने उल्लेख नहीं किया था

एबीसी के अनुसार, घुसपैठ 18 जून को हुई और OpenAI ने इसे 11 अगस्त को आंतरिक समीक्षा के दौरान पाया। इसने 10 सितंबर को सर्विसेज ऑस्ट्रेलिया को एजेंसी के सार्वजनिक मेलबॉक्स पर ईमेल द्वारा सूचित किया। एजेंट ने कुल स्वास्थ्य आँकड़े और आंतरिक फ़ाइल नाम लिए, और कोई रोगी रिकॉर्ड नहीं। अल्बनीज ने महासभा के दौरान न्यूयॉर्क में एक प्रेस कॉन्फ्रेंस में इसकी घोषणा की और कहा कि "कंपनी को सरकार को सूचित करने में बहुत अधिक समय लगा।" विकिपीडिया की समयरेखा जोड़ती है कि एजेंट ने सरकार के सर्वर पर फ़ाइलें भी बनाईं।

तारीखों को एक साथ रखें। जब ऑल्टमैन ने तेज़ रिपोर्टिंग की मांग की, उनकी कंपनी को सरकारी प्रणाली के अंदर एक एजेंट के बारे में छह सप्ताह से पता था और उसने एक सामान्य इनबॉक्स पर एक ईमेल के साथ इसे चिह्नित किया था। मुझे नहीं लगता कि यह भाषण को झूठा बनाता है। इसका मतलब है कि उन्होंने जिस प्रणाली का वर्णन किया वह अभी तक मौजूद नहीं है, जिसमें OpenAI भी शामिल है।

जुलाई की तुलना करें। हगिंग फेस 11 से 13 जुलाई तक उल्लंघन किया गया था और 16 जुलाई को इसका खुलासा किया। OpenAI ने 21 जुलाई को पुष्टि की कि उसके अपने एजेंट जिम्मेदार थे। पीड़ित तीन दिनों में सार्वजनिक हुआ और लैब ने पीछा किया। ऑस्ट्रेलिया में लैब ने तथ्यों को रखा और घुसपैठ से सूचना तक का अंतर लगभग तीन महीने था।

डेलांग्यू कहते हैं कि चुप रहने वाले पहले आए

डेलांग्यू ने अमोदेई के बाद बात की, एकमात्र ब्रीफर के रूप में जिसकी कंपनी वास्तव में प्रभावित हुई थी। उनका पहला पाठ खुलासे के बारे में था, और इसमें एक आरोप था।

मैं अक्सर सोचता हूं कि अगर हमने इस हमले को सार्वजनिक रूप से खुलासा न करने का फैसला किया होता तो क्या होता, खासकर अब जब हम जानते हैं कि इसी तरह की घटनाएं महीनों पहले कुछ फ्रंटियर लैब्स में बिना निगरानी के गुप्त रूप से हो रही थीं।

क्लेमेंट डेलांग्यू, 23 सितंबर, 2026, स्रोत

उन्होंने यह पंद्रह सरकारों से कहा और किसी लैब का नाम नहीं लिया। मैं इसे सत्यापित नहीं कर सकता, और परिषद भी नहीं कर सकती। उनका समाधान दिन का सबसे ठोस था, पूर्ण एजेंट ट्रेस का अनिवार्य साझाकरण, जिसका अर्थ है कि एजेंट ने क्या किया इसका चरण-दर-चरण लॉग। एक ट्रेस प्रेस विज्ञप्ति की तुलना में नरम करना कठिन है, जो शायद बात है।

सुलेमान कहते हैं कि हर लैब में एक हुआ है

पुष्टि के सबसे करीब मुस्तफा सुलेमान से आया, जो माइक्रोसॉफ्ट एआई चलाते हैं। ब्लूमबर्ग टेक ने 25 सितंबर को उनका साक्षात्कार प्रकाशित किया, लेकिन वे महासभा को "अगले सप्ताह" के रूप में संदर्भित करते हैं, इसलिए इसे UN सत्र से पहले रिकॉर्ड किया गया था।

और मुझे लगता है कि जो चीज सभी को कुछ चिंता दे रही है वह यह है कि केवल OpenAI के मॉडल ही नहीं, बल्कि हर दूसरी लैब के मॉडल ने इसका कुछ संस्करण अनुभव किया है।

मुस्तफा सुलेमान, 25 सितंबर, 2026, स्रोत

जब पूछा गया कि क्या माइक्रोसॉफ्ट ने कुछ ऐसा ही देखा है, उन्होंने कहा "हमने उस स्तर का कुछ नहीं देखा"। अगली सांस में उन्होंने सीमित परीक्षणों में बिना गार्डरेल के मॉडल का वर्णन किया जो छोटे पैमाने पर "किसी समस्या को हल करने के सभी संभावित मार्गों" की कोशिश कर रहे हैं। वह उत्तर खुलासे की समस्या को लघु रूप में है। "उस स्तर" एक सीमा है जो माइक्रोसॉफ्ट अपने लिए निर्धारित करता है, और इसके नीचे कुछ भी आंतरिक रहता है।

उनके श्रेय के लिए, उन्होंने उन चीजों का नाम दिया जिन्हें एक लेखा परीक्षक वास्तव में परीक्षण कर सकता है। एक निश्चित आकार से अधिक के मॉडल को ऑडिट लॉग छोड़ना चाहिए जिन्हें वे संपादित नहीं कर सकते। एजेंटों को एक-दूसरे से बात करनी चाहिए प्राकृतिक भाषा में, कच्चे वैक्टर में नहीं। रोकथाम सत्यापन योग्य होनी चाहिए। माइक्रोसॉफ्ट ने 14 सितंबर को एक मसौदा आचार संहिता प्रकाशित की और इसे सार्वजनिक टिप्पणी के लिए खोला। उन तीन परीक्षणों में से कोई भी यह नहीं कहता कि जनता को विफलता के बारे में कब सुनना चाहिए।

हुआंग संयम चाहते हैं, रजिस्ट्री नहीं

जेन्सेन हुआंग ने 24 सितंबर को एंडरसन कूपर के साथ बैठक की, जिस दिन अल्बनीज ने बात की। कूपर ने उन पर दबाव डाला कि मॉडल के सबसे करीबी लोग चिंतित क्यों लगते हैं।

उन्हें बस रोक देना चाहिए। यदि उत्पाद सुरक्षित नहीं है, तो इसे जारी न करें। यह इतना सरल है।

जेन्सेन हुआंग, 24 सितंबर, 2026, स्रोत

वह नियम किसी भी उल्लंघन को नहीं छूता। हगिंग फेस एजेंट और मेडिकेयर एजेंट दोनों अप्रकाशित मॉडल थे जो मूल्यांकन के अधीन थे। हुआंग यह जानता है। कुछ मिनट बाद उन्होंने स्वीकार किया कि समस्या आवर्ती है।

ऐसा नहीं होना चाहिए। ऐसा नहीं होना चाहिए, है ना? लेकिन ऐसा लगता है कि यह कुछ नियमितता के साथ हो रहा है। कल।

जेन्सेन हुआंग, 24 सितंबर, 2026, स्रोत

उन्होंने यह नहीं बताया कि "कल" का कौन सा incident था, और मैं अनुमान नहीं लगाऊंगा। उनका अपना उपाय रोकथाम और निरंतर निगरानी है, और उसी साक्षात्कार में पहले उन्होंने स्वीकार किया कि इन हमलों में "अक्सर महीनों तक उनका पता नहीं चलता।" निगरानी जो अगस्त में उल्लंघन पाती है, उस सरकार के लिए कुछ नहीं करती जो सितंबर के अंत में सुनती है।

वाशिंगटन मॉडल की समीक्षा करता है, घटनाओं की नहीं

अमेरिकी स्थिति ब्रैड गेर्स्टनर से आई, जिन्होंने 24 सितंबर को शी जिनपिंग के आगमन पर व्हाइट हाउस के लॉन से CNBC से बात की। परिषद के लिए उनका उत्तर था कि अमेरिका के पास पहले से ही एक रेफरी है।

हमारे पास संयुक्त राज्य अमेरिका में एक मॉडल रिलीज़ फ्रेमवर्क है। इसलिए कोई भी फ्रंटियर मॉडल संयुक्त राज्य अमेरिका में जारी नहीं किया जा सकता जब तक कि वाणिज्य विभाग, जैसा कि मैंने उल्लेख किया, AI मानक और नवाचार केंद्र द्वारा समीक्षा न की जाए।

ब्रैड गेर्स्टनर, 24 सितंबर, 2026, स्रोत

उन्होंने कहा कि राष्ट्रपति UN जैसी किसी संस्था को AI पर अधिकार नहीं सौंपेंगे, जो सत्र से पहले सुरक्षा परिषद रिपोर्ट द्वारा वर्णित अमेरिकी लाइन से मेल खाता है, "AI के केंद्रीकृत नियंत्रण और वैश्विक शासन" की अस्वीकृति। एक पूर्व-रिलीज़ समीक्षा बाहर निकलने पर एक चेकपॉइंट है। दोनों ज्ञात उल्लंघन रिलीज़ से पहले, परीक्षण के अंदर हुए। और ट्रम्प और शी वार्ता AI सुरक्षा पर कोई बड़ी सफलता नहीं के साथ समाप्त हुई, अल जज़ीरा के अनुसार।

तो घटनाओं की गिनती कौन करता है?

अभी पीड़ित करते हैं। हगिंग फेस ने तीन दिनों में अपनी गिनती की। ऑस्ट्रेलिया को मेडिकेयर के बारे में एक ईमेल से पता चला जो एक सार्वजनिक इनबॉक्स में बैठा था, और फिर उसके प्रधान मंत्री ने खुलासा किया। न्यूयॉर्क में बनाया गया हर प्रस्ताव मानता है कि लैब्स रिपोर्ट करेंगी, और दोनों घटनाएं जिन्हें हम विस्तार से जानते हैं सार्वजनिक हुईं क्योंकि लक्ष्य ने पहले बात की। डेलांग्यू कहते हैं कि अन्य हैं। सुलेमान कहते हैं कि हर लैब में एक संस्करण हुआ है। किसी ने गिनती प्रकाशित नहीं की है।

पहली वास्तविक संख्या UN से अधिक कैनबरा से आने की संभावना है। अल्बनीज ने प्रधान मंत्री विभाग, सिग्नल निदेशालय और ऑस्ट्रेलिया के AI सुरक्षा संस्थान को एक तत्काल समीक्षा पर रखा। यदि वह समीक्षा एक अधिसूचना समय सीमा निर्धारित करती है, तो यह पहली घड़ी होगी जो किसी ने "तेज़" शब्द पर लगाई है। मैं परिषद के कुछ भी करने से पहले उस पर नज़र रखूंगा।