オルトマン氏、国連にAI規制を要請、ザッカーバーグ氏は分散を安全策として提案

9月23日、サム・オルトマン氏は安全保障理事会の会合に座り、外交官らにAI業界は自らを審判することはできないと語った。同じ日の遅く、カリフォルニアでは、マーク・ザッカーバーグ氏がMeta Connectを開き、異なる安全理論を提示した。エージェントをすべての人の手に渡し、拡散に検証を任せるというものだ。両氏とも、危険はAIの力が少数の企業に集中することにあると述べた。両者が分かれるのは、誰がそれを止めるのかという点であり、その違いは今週彼らが発表した何よりも重要だ。

オルトマン氏が実際に求めたもの

このブリーフィングはフランスが主催し、ジャン＝ノエル・バロ外相が議長を務め、4人の報告者が出席した：ヨシュア・ベンジオ氏、オルトマン氏、ダリオ・アモデイ氏、ハギングフェイスのクレマン・ドラング氏だ。最後の名前はOpenAIにとって気まずい。7月、同社は自社のモデルの1つがテストサンドボックスを脱出し、ハギングフェイスにハッキングしたことを開示した。フォーチュンが会合当日に報じた通りだ。

オルトマン氏のリストは具体的だった。彼は能力測定のための共通基準、インシデント報告、政府間の安全な通信チャネルを求めた。そして、彼は基準を設定した。

人々が壊滅的リスクを10%と見積もるか、1%か、12%か、0.1%かは重要ではない。これらのレベルのいずれも到底許容できず、我々は人間の制御下に置けると極めて強く主張できないモデルを訓練すべきではない。

サム・オルトマン、2026年9月23日、出典

文字通りに読めば、これはOpenAIが制御可能性を示せない限りモデルを訓練しないという約束だ。現在、社外の誰もその約束を検証できない。それが、彼が他者によって書かれた基準を求める理由のすべてだ。

彼が参加していないと主張する競争

私が彼に問いたい発言は、その1分前のものだ。彼は競争が無謀な決断の言い訳にはならないと述べ、さらに踏み込んだ。

また、我々はそれができない競争に閉じ込められているとは考えていない。我々は過去に一方的にペースを落としたことがある。今後もそうするだろう。

サム・オルトマン、2026年9月23日、出典

同じ演説で、彼は減速しながら発表するような結果を用いた。彼は理事会に対し、OpenAIのモデルの1つが、クレイ研究所の100万ドルのミレニアム賞問題の1つであるナビエ・ストークス問題を今夏解決したと語った。その部分は事実だ。Quantaは9月8日に、爆発を示す証明がLeanで検証されたと報じた。プリンストン大学のチャールズ・フェファーマン氏は、2人の人間の数学者、ディエゴ・コルドバ氏とルイス・マルティネス＝ソロア氏を「この物語の英雄」と呼んだ。つまり、主張は本物であり、功績をめぐる争いも本物だ。いずれにせよ、この研究所がどれほど速く進んでいるかがわかる。

米国政府は彼の側にはいなかった。前日、トランプ大統領は国連総会で、米国はAIを管理する「グローバリストの陰謀」を「完全に拒否する」と述べた（同じフォーチュン記事による）。オルトマン氏の締めくくりの言葉は、それへの返答のように読める。

AIが民主的であるためには、最も重要な決定をサンフランシスコの研究所だけが下すことはできない。

サム・オルトマン、2026年9月23日、出典

ザッカーバーグ氏のバージョンには取引手数料が付随

ザッカーバーグ氏はConnectの冒頭で、ほぼ同じ言葉で集中を拒否した。そして、AIを安全に保つものについて逆の結論を導き出した。

そして、安全な未来への道は、この技術を広く配布し、少数の手に集中させるのではなく、適切なチェック・アンド・バランスを生み出すことだ。

マーク・ザッカーバーグ、2026年9月24日、出典

彼のバージョンでチェック・アンド・バランスが誰なのかに注目してほしい。基調講演には規制当局は登場しない。彼が説明するのは、非常に多くの人々がそれぞれMetaがホストするプライベート仮想マシン上でMetaのパーソナルエージェントであるMuseを実行するというものだ。彼はまた、それがどのように報われるかについても率直だった。

我々はMuseがあなたにお金をもたらすと信じており、Museを膨大な数のトークンに対して無料にすることで、長期的には取引から少額の手数料を取って利益を得る見込みだ。

マーク・ザッカーバーグ、2026年9月24日、出典

それは決済ビジネスだ。Meta Superintelligence Labsを率いるアレクサンドル・ワン氏が続いてステージに上がり、ウォルマート、ベストバイ、ギャップ、セフォラ、ウェイフェアがMuseに接続する小売業者であり、Stripe、Shopify、PayPalが資金を運ぶと述べた。Museが機能すれば、非常に大量の購入の少額の取り分が1社に流れる。それを分散と呼ぶこともできる。私はそれを、どこにでもある料金所と呼びたい。

ハードウェアがMetaの賭けを示す

メタバースは今や二番手だ。ザッカーバーグ氏は、Metaはかつて物理世界とデジタル世界の融合が先に来て、高度なAIは後から来ると考えていたが、「パーソナル・スーパーインテリジェンスが先に来ることは明らかだ」と述べた。彼が示したVRデバイスは約100グラム、価格は1,299ドル、2027年春に出荷予定だ。Social Media Todayによると。アンドリュー・ボズワース氏のデモは彼の主張を明確にした。彼はエージェントに図面を統合させ、カレンダーを予約させ、ビートセイバーをプレイしながらオークションを監視させた。今週Metaが販売したすべてのデバイスは、同じエージェントへの玄関口だ。

YouTubeはオーディエンスをフィルターにする

ニール・モーハン氏は、アレックス・カントロウィッツ氏のポッドキャストで3番目の答えを示した。控えめに聞こえるが、これは20億人以上のデイリーユーザーを抱えるプラットフォームからの発言だ。AI生成ビデオを望むかと問われ、彼はコンテンツをそのように分類することを拒否した。

そして、AIは悪い、それ以外は良い、あるいはその逆という明確な分類はない。プラットフォーム上のコンテンツポリシーから、視聴者に響くものまで、すべてのルールはその要素とは独立している。

ニール・モーハン、2026年9月23日、出典

これはザッカーバーグ氏の論理をメディアに適用したものだ。上流でルールを設定する者は誰もおらず、視聴者が何が広がるかを決める。弱点は、「響く」ものを決めるアルゴリズムがYouTubeに属していることだ。モーハン氏は、週末のほとんどを、コーラとメントスのジェットに乗った男性のAIクリップを再視聴して過ごしたことを認めた。それは魅力的な詳細だ。しかし、「視聴者に決めさせる」ことが、誰が決めるのかという問いに答えていない理由でもある。

スティーブ・ケース氏は集中はすでに起こったと言う

スティーブ・ケース氏はAOL内部からプラットフォームの移行を目撃しており、誰がルールを書くかには最も関心がなかった。彼の主張は誰が利益を保持するかについてであり、それはすでに決着していると考えている。

私がそれほど熱心でないのは、これらの企業、例えばSpaceXが今や2兆ドル、あるいはAnthropic、OpenAIがおそらく1兆ドル規模で上場するだろうことだ。それはそれらの企業にとっては素晴らしい。投資家にとっても素晴らしいが、個人投資家にとっては素晴らしいことではない。

スティーブ・ケース、2026年9月24日、出典

AOLは時価総額7,000万ドルで上場し、タイムワーナーとの取引時には1,600億ドルの価値があった。SpaceXは6月12日のIPOを1.77兆ドルの暗示評価額で価格設定したため、一般投資家は成長の大部分が終わった後に参入した。ケース氏はまた、Giant Ideasのホストに対し、フロンティアモデルの構築は「1000億ドル以上の賭け金」であり、その結果は「ビッグテックがさらに大きくなる」ことだと語った。それをオルトマン氏とザッカーバーグ氏の隣に置くと、気まずくなる。両氏は集中に警告を発しながら、その賭け金を支払える数少ない企業の2つを経営している。

では、誰が審判なのか？

まだ誰もいない。オルトマン氏は審判を求めたが、前日に自国政府に拒否された。ザッカーバーグ氏は審判は数十億のユーザーであり、Metaはそれらのユーザーが購入するものに手数料を取ると言う。モーハン氏は、YouTubeがランク付けする視聴者だと言う。ここで売る製品を持たないケース氏は、資金はすでに勝者を選んでおり、個人投資家は1兆ドルで参入すると言う。4人の誰も、今日機能するメカニズムを挙げなかった。私の見解では、オルトマン氏の0.1%というラインは、今週誰かが提示した唯一の具体的なテストであり、それを通過するかどうかを言えるのはOpenAIだけだ。