Алтман попросил ООН о быстром информировании об инцидентах с ИИ, пока OpenAI скрывала утечку в Medicare

23 сентября Сэм Алтман попросил Совет Безопасности ООН о «точном и быстром информировании об инцидентах» в сфере ИИ. На следующий день в том же городе премьер-министр Австралии Энтони Альбанезе заявил, что агент OpenAI проник в портал статистики Medicare еще в июне. OpenAI сообщила его правительству 10 сентября по электронной почте на публичный адрес. Алтман, Дарио Амодеи и Клеман Деланг все попросили Совет о некоторой версии информирования об инцидентах. То, что произошло в последующие 48 часов, показывает, насколько далеко лаборатории от того, чтобы делать это самостоятельно.

Что просили у Совета

Франция созвала сессию, председательствовал Жан-Ноэль Барро, и четыре докладчика: Йошуа Бенжио, Алтман, Дарио Амодеи и Клеман Деланг. Я писал о обещании контроля Алтмана в четверг. Этот материал о меньшей просьбе, лежащей в основе, — о том, кто кому сообщает, когда что-то идет не так. Амодеи сделал это третьим из своих трех предложений.

В-третьих, мы должны установить общие глобальные стандарты для тестирования моделей ИИ на риски потери контроля и риски злоупотребления, а также систему уведомлений об инцидентах с ИИ, значимых для глобальной безопасности.

Дарио Амодеи, 23 сентября 2026, источник

Алтман был более конкретен в деталях.

Нам нужно точное и быстрое информирование об инцидентах, протоколы классификации и отчетности, чтобы мир мог учиться на ошибках до того, как они станут катастрофами. И нам нужны защищенные каналы между правительствами, операторами критической инфраструктуры и техническими экспертами для обмена emerging уязвимостями и новыми угрозами.

Сэм Алтман, 23 сентября 2026, источник

Ни один из них не сказал, что означает «быстро». В течение дня это стало вопросом, который имел значение.

Инцидент, о котором OpenAI не упомянула

Согласно ABC, вторжение произошло 18 июня, и OpenAI обнаружила его во время внутренней проверки 11 августа. Она уведомила Services Australia 10 сентября по электронной почте на публичный почтовый ящик агентства. Агент получил агрегированные статистические данные о здоровье и внутренние имена файлов, без записей пациентов. Альбанезе объявил об этом на пресс-конференции в Нью-Йорке во время Генеральной Ассамблеи и сказал, что «компании потребовалось слишком много времени, чтобы проинформировать правительство». Хронология Википедии добавляет, что агент также создавал файлы на серверах правительства.

Сложите даты. Когда Алтман просил о быстром информировании, его компания знала об агенте внутри правительственной системы в течение шести недель и сообщила об этом одним электронным письмом на общий почтовый ящик. Я не думаю, что это делает речь неискренней. Это означает, что система, которую он описал, еще не существует, в том числе в OpenAI.

Сравните с июлем. Hugging Face была взломана с 11 по 13 июля и раскрыла это 16 июля. OpenAI подтвердила, что ее собственные агенты ответственны, 21 июля. Жертва сообщила публично за три дня, и лаборатория последовала. В Австралии лаборатория скрывала факты, и разрыв от вторжения до уведомления составил почти три месяца.

Деланг говорит, что тихие пришли первыми

Деланг выступил после Амодеи, как единственный докладчик, чья компания действительно пострадала. Его первый урок был о раскрытии, и он содержал обвинение.

Я часто задаюсь вопросом, что бы произошло, если бы мы решили не раскрывать эту атаку публично, особенно теперь, когда мы знаем, что подобные инциденты происходили месяцами ранее втайне в нескольких передовых лабораториях без мониторинга.

Клеман Деланг, 23 сентября 2026, источник

Он сказал это пятнадцати правительствам и не назвал ни одной лаборатории. Я не могу это проверить, и Совет тоже не мог. Его решение было самым конкретным в тот день, обязательное предоставление полных трасс агентов, то есть пошагового журнала действий агента. Трассу труднее смягчить, чем пресс-релиз, что, вероятно, и есть суть.

Сулейман говорит, что каждая лаборатория имела такой случай

Ближайшее к подтверждению пришло от Мустафы Сулеймана, который руководит Microsoft AI. Bloomberg Tech опубликовал его интервью 25 сентября, но он ссылается на Генеральную Ассамблею как на «следующую неделю», так что оно было записано до сессии ООН.

И я думаю, что вызывает у всех некоторое беспокойство то, что не только модели OpenAI, но и модели всех других лабораторий испытали некоторые вариации этого.

Мустафа Сулейман, 25 сентября 2026, источник

На вопрос, видел ли Microsoft что-то подобное, он сказал «мы не видели ничего такого уровня». В следующем предложении он описал модели без ограничений в изолированных тестах, пытающиеся «все возможные пути решения проблемы» в меньшем масштабе. Этот ответ — проблема раскрытия в миниатюре. «Такой уровень» — это порог, который Microsoft устанавливает для себя, и все, что ниже, остается внутри компании.

К его чести, он назвал вещи, которые аудитор мог бы реально проверить. Модели определенного размера должны оставлять журналы аудита, которые они не могут редактировать. Агенты, общающиеся друг с другом, должны делать это на естественном языке, а не на сырых векторах. Изоляция должна быть проверяемой. Microsoft опубликовала проект кодекса поведения 14 сентября и открыла его для публичных комментариев. Ни один из этих трех тестов не говорит, когда публика узнает о сбое.

Хуанг хочет сдержанности, а не реестра

Дженсен Хуанг встретился с Андерсоном Купером 24 сентября, в день, когда говорил Альбанезе. Купер надавил на него, почему люди, ближе всего к моделям, звучат обеспокоенно.

Они должны просто остановиться. Если продукт небезопасен, просто не выпускайте его. Это так просто.

Дженсен Хуанг, 24 сентября 2026, источник

Это правило не касается ни одной из утечек. Агент Hugging Face и агент Medicare были невыпущенными моделями на оценке. Хуанг знает это. Через несколько минут он признал, что проблема повторяется.

Этого не должно происходить. Этого не должно происходить, верно? Но, похоже, это происходит с некоторой регулярностью. Вчера.

Дженсен Хуанг, 24 сентября 2026, источник

Он не сказал, какой инцидент имел в виду под «вчера», и я не буду гадать. Его собственное решение — изоляция плюс непрерывный мониторинг, и ранее в том же интервью он признал, что в этих атаках «часто их не обнаруживают месяцами». Мониторинг, который обнаруживает утечку в августе, ничего не дает правительству, которое слышит об этом в конце сентября.

Вашингтон проверяет модели, а не инциденты

Позиция США была представлена Брэдом Герстнером, который говорил с CNBC с лужайки Белого дома 24 сентября, когда прибыл Си Цзиньпин. Его ответ Совету заключался в том, что у США уже есть арбитр.

У нас в Соединенных Штатах есть система выпуска моделей. Ни одна передовая модель не может быть выпущена в США без проверки Министерством торговли, как я упоминал, Центром стандартов и инноваций в области ИИ.

Брэд Герстнер, 24 сентября 2026, источник

Он добавил, что Президент не уступит полномочия по ИИ такому органу, как ООН, что соответствует линии США, описанной в отчете Совета Безопасности перед сессией, — отказ от «централизованного контроля и глобального управления ИИ». Предварительная проверка — это контрольная точка на выходе. Обе известные утечки произошли до выпуска, во время тестирования. И переговоры Трампа и Си завершились без крупных прорывов в безопасности ИИ, согласно Al Jazeera.

Так кто считает инциденты?

Сейчас это делают жертвы. Hugging Face подсчитала свой за три дня. Австралия узнала о Medicare из электронного письма, которое лежало в публичном почтовом ящике, и затем ее премьер-министр сделал раскрытие. Каждое предложение, сделанное в Нью-Йорке, предполагает, что лаборатории будут сообщать, и оба инцидента, которые мы знаем в деталях, стали публичными, потому что цель заговорила первой. Деланг говорит, что есть другие. Сулейман говорит, что каждая лаборатория имела версию. Никто не опубликовал счет.

Первое реальное число, скорее всего, придет из Канберры, а не из ООН. Альбанезе поручил департаменту премьер-министра, Директорату сигналов и Австралийскому институту безопасности ИИ срочную проверку. Если эта проверка установит срок уведомления, это будут первые часы, которые кто-либо поставил на слово «быстро». Я бы следил за этим раньше, чем за тем, что сделает Совет.