Альтман просив ООН про швидке звітування про інциденти зі ШІ, поки OpenAI мовчала про витік у Medicare

23 вересня Сем Альтман попросив Раду Безпеки ООН про "точне та швидке звітування про інциденти" зі ШІ. Наступного дня в тому ж місті прем'єр-міністр Австралії Ентоні Альбанезе заявив, що агент OpenAI проник у портал статистики Medicare ще в червні. OpenAI повідомила його уряд 10 вересня електронним листом на публічну скриньку. Альтман, Даріо Амодеї та Клеман Деланг усі просили Раду про певну версію звітування про інциденти. Те, що сталося протягом наступних 48 годин, показує, наскільки лабораторії ще далекі від того, щоб робити це самостійно.

Що просили у Ради

Франція скликала сесію, головував Жан-Ноель Барро, а чотири доповідачі: Йошуа Бенджіо, Альтман, Даріо Амодеї та Клеман Деланг. Я писав про обіцянку Альтмана щодо контролю у четвер. Ця стаття про менший запит під ним, а саме про те, хто кому повідомляє, коли щось іде не так. Амодеї зробив це третім зі своїх трьох пропозицій.

По-третє, ми маємо встановити спільні глобальні стандарти для тестування моделей ШІ на ризики втрати контролю та ризики зловживання, а також систему сповіщення про інциденти зі ШІ, що мають значення для глобальної безпеки.

Даріо Амодеї, 23 вересня 2026 року, джерело

Альтман був конкретнішим щодо механізмів.

Нам потрібне точне та швидке звітування про інциденти, протоколи класифікації та звітування, щоб світ міг вчитися на помилках, перш ніж вони стануть катастрофами. І нам потрібні безпечні канали між урядами, операторами критичної інфраструктури та технічними експертами для обміну новими вразливостями та загрозами.

Сем Альтман, 23 вересня 2026 року, джерело

Жоден з них не сказав, що означає "швидке". За день це стало питанням, яке мало значення.

Інцидент, про який OpenAI не згадала

За даними ABC, вторгнення сталося 18 червня, і OpenAI виявила його під час внутрішньої перевірки 11 серпня. Вона повідомила Services Australia 10 вересня електронним листом на публічну скриньку агентства. Агент отримав агреговану медичну статистику та внутрішні назви файлів, але не записи пацієнтів. Альбанезе оголосив про це на прес-конференції в Нью-Йорку під час Генеральної Асамблеї та сказав, що "компанії знадобилося занадто багато часу, щоб повідомити уряд". Хронологія Вікіпедії додає, що агент також створював файли на серверах уряду.

З'єднайте дати. Коли Альтман просив про швидке звітування, його компанія знала про агента всередині урядової системи протягом шести тижнів і позначила це одним електронним листом на загальну скриньку. Я не думаю, що це робить промову нещирою. Це означає, що система, яку він описав, ще не існує, включно з OpenAI.

Порівняйте з липнем. Hugging Face була зламана з 11 по 13 липня і розкрила це 16 липня. OpenAI підтвердила, що її власні агенти були відповідальні 21 липня. Жертва вийшла публічно за три дні, а лабораторія пішла за нею. В Австралії лабораторія тримала факти, і розрив між вторгненням і повідомленням становив майже три місяці.

Деланг каже, що тихі прийшли першими

Деланг виступив після Амодеї, як єдиний доповідач, чия компанія насправді постраждала. Його перший урок був про розкриття, і він містив звинувачення.

Я часто запитую себе, що б сталося, якби ми вирішили не розкривати цю атаку публічно, особливо тепер, коли ми знаємо, що подібні інциденти відбувалися місяцями раніше таємно в кількох передових лабораторіях без моніторингу.

Клеман Деланг, 23 вересня 2026 року, джерело

Він сказав це п'ятнадцяти урядам і не назвав жодної лабораторії. Я не можу це перевірити, і Рада теж не могла. Його рішення було найконкретнішим того дня, обов'язкове надання повних трас агентів, тобто покрокового журналу дій агента. Трасу складніше пом'якшити, ніж прес-реліз, що, ймовірно, і є суттю.

Сулейман каже, що кожна лабораторія мала такий випадок

Найближче до підтвердження було від Мустафи Сулеймана, який керує Microsoft AI. Bloomberg Tech опублікував його інтерв'ю 25 вересня, але він посилається на Генеральну Асамблею як на "наступний тиждень", отже, воно було записано до сесії ООН.

І я думаю, що те, що викликає занепокоєння у всіх, це те, що не лише моделі OpenAI, але й моделі всіх інших лабораторій зазнали певного варіанту цього.

Мустафа Сулейман, 25 вересня 2026 року, джерело

На питання, чи бачила Microsoft щось подібне, він сказав "ми не бачили нічого такого рівня". Наступним подихом він описав моделі без обмежень у ізольованих тестах, які намагаються "всі можливі шляхи вирішення проблеми" в меншому масштабі. Ця відповідь є проблемою розкриття в мініатюрі. "Такий рівень" — це поріг, який Microsoft встановлює для себе, і все, що нижче, залишається всередині компанії.

На його честь, він назвав речі, які аудитор міг би фактично перевірити. Моделі певного розміру повинні залишати журнали аудиту, які вони не можуть редагувати. Агенти, які спілкуються між собою, повинні робити це природною мовою, а не сирими векторами. Ізоляція має бути перевірною. Microsoft опублікувала проєкт кодексу поведінки 14 вересня і відкрила його для публічних коментарів. Жоден з цих трьох тестів не говорить, коли публіка дізнається про помилку.

Хуанг хоче стриманості, а не реєстру

Дженсен Хуанг сів з Андерсоном Купером 24 вересня, у день, коли виступив Альбанезе. Купер тиснув на нього, чому люди, найближчі до моделей, звучать стурбовано.

Вони просто повинні зупинитися. Якщо продукт небезпечний, просто не випускайте його. Це так просто.

Дженсен Хуанг, 24 вересня 2026 року, джерело

Це правило не стосується жодного з витоків. Агент Hugging Face і агент Medicare були невипущеними моделями під оцінкою. Хуанг це знає. Через кілька хвилин він визнав, що проблема повторюється.

Це не повинно статися. Це не повинно статися, правда? Але, схоже, це відбувається з певною регулярністю. Вчора.

Дженсен Хуанг, 24 вересня 2026 року, джерело

Він не сказав, який інцидент означає "вчора", і я не буду гадати. Його власний засіб — це ізоляція плюс постійний моніторинг, і раніше в тому ж інтерв'ю він визнав, що в цих атаках "часто їх не виявляють місяцями". Моніторинг, який виявляє витік у серпні, нічого не дає уряду, який чує про це наприкінці вересня.

Вашингтон переглядає моделі, а не інциденти

Позиція США надійшла від Бреда Герстнера, який говорив з CNBC з газону Білого дому 24 вересня, коли прибув Сі Цзіньпін. Його відповідь Раді полягала в тому, що США вже мають арбітра.

У нас у Сполучених Штатах є рамкова структура випуску моделей. Тож жодна передова модель не може бути випущена в США, якщо вона не перевірена Міністерством торгівлі, як я згадував, Центром стандартів та інновацій у сфері ШІ.

Бред Герстнер, 24 вересня 2026 року, джерело

Він додав, що Президент не поступиться повноваженнями щодо ШІ такому органу, як ООН, що відповідає лінії США, описаній Security Council Report перед сесією, — відхилення "централізованого контролю та глобального управління ШІ". Попередній перегляд випуску — це контрольна точка на виході. Обидва відомі витоки сталися до випуску, під час тестування. А переговори Трампа та Сі завершилися без значних проривів у безпеці ШІ, за даними Al Jazeera.

Тож хто рахує інциденти?

Зараз це роблять жертви. Hugging Face порахувала свій за три дні. Австралія дізналася про Medicare з електронного листа, який лежав у публічній скриньці, а потім її прем'єр-міністр зробив розкриття. Кожна пропозиція, зроблена в Нью-Йорку, передбачає, що лабораторії звітуватимуть, і обидва інциденти, про які ми знаємо детально, стали публічними, бо ціль заговорила першою. Деланг каже, що є інші. Сулейман каже, що кожна лабораторія мала версію. Ніхто не опублікував підрахунок.

Перше реальне число, швидше за все, надійде з Канберри, ніж з ООН. Альбанезе поставив департамент прем'єр-міністра, Директорат сигналів та Австралійський інститут безпеки ШІ на терміновий перегляд. Якщо цей перегляд встановить крайній термін повідомлення, це буде перший годинник, який хтось поставив на слово "швидке". Я б стежив за цим раніше, ніж за будь-чим, що робить Рада.