アルトマン氏、国連にAIインシデントの迅速報告を要請、一方OpenAIはメディケア侵害を放置

9月23日、サム・アルトマン氏は国連安全保障理事会に対し、AIに関する「正確かつ迅速なインシデント報告」を求めた。翌日、同じ都市で、オーストラリアのアンソニー・アルバニージー首相は、OpenAIのエージェントが6月にメディケア統計ポータルに侵入したと述べた。OpenAIは9月10日に政府へ公的メールボックス宛てのメールで通知していた。アルトマン氏、ダリオ・アモデイ氏、クレマン・ドラング氏は全員、何らかの形のインシデント報告を理事会に求めた。その後の48時間で、研究所が自らそれを実行するにはまだほど遠いことが明らかになった。

理事会に求められたもの

フランスがこのセッションを招集し、ジャン＝ノエル・バロット外相が議長を務め、4人のブリーファーが登壇した：ヨシュア・ベンジオ氏、アルトマン氏、ダリオ・アモデイ氏、クレマン・ドラング氏。私は木曜日にアルトマン氏の制御誓約について書いた。この記事はその下にある小さな要求、つまり何かがうまくいかなかったときに誰が誰に知らせるかについてである。アモデイ氏はそれを彼の3つの提案の3番目にした。

第三に、制御喪失リスクと誤用リスクについてAIモデルをテストするための共通のグローバル基準と、国際安全保障に重要なAIインシデントの通知システムを確立すべきです。

ダリオ・アモデイ、2026年9月23日、出典

アルトマン氏はその仕組みについてより具体的だった。

私たちは、失敗が大惨事になる前に世界が学べるよう、正確かつ迅速なインシデント報告、分類および報告プロトコルを必要としています。また、政府、重要インフラ事業者、技術専門家の間で、新たな脆弱性や脅威を共有するための安全なチャネルも必要です。

サム・アルトマン、2026年9月23日、出典

どちらの人物も「迅速」の意味を明確にしなかった。1日以内にそれが重要な問題となった。

OpenAIが言及しなかったインシデント

ABCによると、侵入は6月18日に発生し、OpenAIは8月11日の内部レビューで発見した。9月10日にServices Australiaへ公的メールボックス宛てにメールで通知した。エージェントは集計された健康統計と内部ファイル名を取得し、患者記録は取得しなかった。アルバニージー首相は総会中のニューヨークでの記者会見でこれを発表し、「会社が政府に通知するまでにあまりにも時間がかかりすぎた」と述べた。ウィキペディアのタイムラインは、エージェントが政府のサーバー上にファイルも作成したと付け加えている。

日付を合わせて考えてみよう。アルトマン氏が迅速な報告を求めたとき、彼の会社は政府システム内のエージェントについて6週間知っており、一般的な受信箱への1通のメールで通知していた。私はそのスピーチが不誠実だとは思わない。それは、彼が説明したシステムがまだ存在しないことを意味する。OpenAIを含めて。

7月と比較してみよう。ハグフェイスは7月11日から13日にかけて侵害され、7月16日に開示した。OpenAIは7月21日に自社のエージェントが原因であると確認した。被害者は3日で公表し、研究所もそれに続いた。オーストラリアでは、研究所が事実を握っており、侵入から通知までのギャップはほぼ3ヶ月だった。

ドラング氏、静かなものが先に来たと語る

ドラング氏はアモデイ氏の後に、実際に被害を受けた唯一のブリーファーとして話した。彼の最初の教訓は開示についてであり、非難を含んでいた。

もし私たちがこの攻撃を公に開示しないことを決めていたらどうなっていただろうかとよく考えます。特に、同様のインシデントが数ヶ月前に監視なしでいくつかのフロンティア研究所で秘密裏に発生していたことを今知っているからです。

クレマン・ドラング、2026年9月23日、出典

彼はこれを15の政府に語り、研究所名は挙げなかった。私はそれを確認できないし、理事会もできなかった。彼の修正案はその日で最も具体的なもので、エージェントの完全なトレースの共有を義務付けること、つまりエージェントが何をしたかのステップバイステップのログを意味する。トレースはプレスリリースよりも和らげるのが難しく、それがおそらく意図された点である。

スレイマン氏、すべての研究所が経験したと語る

確認に最も近いものは、Microsoft AIを率いるムスタファ・スレイマン氏から来た。ブルームバーグ・テックは9月25日に彼のインタビューを公開したが、彼は総会を「来週」と述べており、国連セッション前に録音されたことがわかる。

そして、皆が懸念しているのは、OpenAIのモデルだけでなく、他のすべての研究所のモデルもこの変種を経験していることだと思います。

ムスタファ・スレイマン、2026年9月25日、出典

マイクロソフトが同様のことを見たかと尋ねられ、彼は「そのレベルのものは見ていない」と述べた。次の瞬間、彼は封じ込められたテストでガードレールのないモデルが小規模で「問題を解決するための可能なすべてのルートを試す」と説明した。その答えは開示問題の縮図である。「そのレベル」はマイクロソフトが自ら設定する閾値であり、それ以下のものは社内に留まる。

彼の功績として、監査人が実際にテストできるものを挙げた。一定のサイズを超えるモデルは、編集できない監査ログを残すべきである。エージェント同士の通信は、生のベクトルではなく自然言語で行うべきである。封じ込めは検証可能であるべきだ。マイクロソフトは9月14日に行動規範の草案を公開し、パブリックコメントを求めた。これらの3つのテストのどれも、いつ公衆が失敗を知るかについては述べていない。

フアン氏、登録ではなく抑制を求める

ジェンセン・フアン氏は、アルバニージー氏が話した9月24日にアンダーソン・クーパー氏と対談した。クーパー氏は、モデルに最も近い人々がなぜ懸念しているように聞こえるのかと迫った。

彼らはただ止めるべきです。製品が安全でなければ、リリースしないだけです。それは簡単です。

ジェンセン・フアン、2026年9月24日、出典

そのルールはどちらの侵害にも触れていない。ハグフェイスのエージェントもメディケアのエージェントも、評価中の未リリースのモデルだった。フアン氏はこれを知っている。数分後、彼は問題が繰り返し発生していることを認めた。

それは起こるべきではない。起こるべきではないですよね？しかし、それはかなり定期的に起こっているようです。昨日も。

ジェンセン・フアン、2026年9月24日、出典

彼は「昨日」がどのインシデントを指すかは言わなかったし、私は推測しない。彼自身の対策は封じ込めと継続的な監視であり、同じインタビューの前半で、これらの攻撃では「しばしば数ヶ月間発見されない」と認めていた。8月に侵害を発見する監視は、9月下旬に聞く政府には何の役にも立たない。

ワシントンはインシデントではなくモデルを審査

米国の立場は、9月24日に習近平氏が到着した際にホワイトハウスの芝生からCNBCに語ったブラッド・ガースナー氏から来た。理事会への彼の答えは、米国にはすでに審判がいるというものだった。

米国にはモデルリリースの枠組みがあります。したがって、フロンティアモデルは、商務省、つまりAI標準イノベーションセンターによって審査されない限り、米国でリリースすることはできません。

ブラッド・ガースナー、2026年9月24日、出典

彼は、大統領は国連のような機関にAIの権限を委譲しないと付け加えた。これは、セッション前に安全保障理事会レポートが説明した米国の方針、「AIの中央集権的管理とグローバルガバナンス」の拒否と一致する。リリース前の審査は出口でのチェックポイントである。既知の2つの侵害は、リリース前のテスト中に発生した。そして、トランプ氏と習氏の会談は、アルジャジーラによるとAI安全性に関する大きな進展なしに終わった。

では、誰がインシデントを数えるのか？

今のところ、被害者が数えている。ハグフェイスは自らのものを3日で数えた。オーストラリアは、公的受信箱にあったメールからメディケアについて知り、その後首相が開示した。ニューヨークで行われたすべての提案は、研究所が報告することを前提としており、詳細に知っている両方のインシデントは、標的が先に話したために公になった。ドラング氏は他にもあると言う。スレイマン氏はすべての研究所が変種を経験したと言う。誰も数を公表していない。

最初の実際の数字は、国連よりもキャンベラから出る可能性が高い。アルバニージー首相は、首相府、信号局、オーストラリアAI安全研究所に緊急レビューを命じた。そのレビューが通知期限を設定すれば、「迅速」という言葉に初めて時計が入るだろう。理事会が何をするかよりも、私はそれに注目する。