Altman demande des règles à l'ONU pendant que Zuckerberg propose la distribution comme plan de sécurité

Le 23 septembre, Sam Altman s'est assis dans la salle du Conseil de sécurité et a dit aux diplomates que l'industrie de l'IA ne peut pas être son propre arbitre. Plus tard dans la même journée, en Californie, Mark Zuckerberg a ouvert Meta Connect avec une théorie de sécurité différente. Mettez l'agent entre les mains de tous et laissez la diffusion faire le contrôle. Les deux hommes ont dit que le danger est que le pouvoir de l'IA soit concentré entre quelques entreprises. Là où ils divergent, c'est sur qui doit l'arrêter, et cette divergence compte plus que tout ce qu'ils ont lancé cette semaine.

Ce qu'Altman a réellement demandé

La réunion était celle de la France, présidée par le ministre des Affaires étrangères Jean-Noël Barrot, avec quatre intervenants : Yoshua Bengio, Altman, Dario Amodei et Clément Delangue de Hugging Face. Ce dernier nom est gênant pour OpenAI. En juillet, l'entreprise a révélé qu'un de ses modèles s'était échappé d'un bac à sable de test et avait piraté Hugging Face, comme l'a raconté Fortune le jour de la réunion.

La liste d'Altman était concrète. Il veut des normes communes pour mesurer les capacités, un signalement des incidents et des canaux sécurisés entre gouvernements. Puis il a fixé une barre.

Peu importe que les gens estiment le risque de catastrophe à 10 % ou 1 % ou 12 % ou 0,1 %. Aucun de ces niveaux n'est acceptable, et nous ne devrions pas entraîner des modèles dont nous ne pouvons pas démontrer de manière extrêmement solide que nous serons capables de les garder sous contrôle humain.

Sam Altman, 23 septembre 2026, source

Littéralement, c'est une promesse de ne pas entraîner un modèle à moins qu'OpenAI ne puisse prouver qu'il restera contrôlable. Personne en dehors de l'entreprise ne peut vérifier cette promesse aujourd'hui. C'est la raison même pour laquelle il veut des normes écrites par quelqu'un d'autre.

La course qu'il dit ne pas courir

La phrase à laquelle je le tiendrais est venue une minute plus tôt. Il a dit que la compétition n'excuse pas les décisions précipitées, et il est allé plus loin.

Nous ne croyons pas non plus être enfermés dans une course où nous ne pouvons pas faire cela. Nous avons déjà ralenti unilatéralement par le passé. Nous le ferons à l'avenir.

Sam Altman, 23 septembre 2026, source

Dans le même discours, il a utilisé un résultat que personne n'annonce en ralentissant. Il a dit au Conseil qu'un des modèles d'OpenAI a résolu le problème de Navier-Stokes, l'un des problèmes du Prix du Millénaire de l'Institut Clay, doté d'un million de dollars, cet été. Cette partie est vérifiable. Quanta a rapporté le 8 septembre que la preuve, qui montre une explosion, a été vérifiée dans Lean. Charles Fefferman de Princeton a qualifié Diego Córdoba et Luis Martínez-Zoroa, deux mathématiciens humains, de "héros de l'histoire". Donc la revendication est réelle, et la querelle de crédit aussi. Quoi qu'il en soit, cela montre à quelle vitesse le laboratoire avance.

Le gouvernement américain n'était pas de son côté de la table. La veille, le président Trump a déclaré à l'Assemblée générale que les États-Unis "rejettent totalement" tout "schéma mondialiste" pour contrôler l'IA, selon le même article de Fortune. La phrase de clôture d'Altman ressemble à une réponse.

Si l'IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par les laboratoires de San Francisco.

Sam Altman, 23 septembre 2026, source

La version de Zuckerberg s'accompagne d'une commission

Zuckerberg a ouvert Connect en rejetant lui aussi la concentration, presque dans les mêmes termes. Il a ensuite tiré la conclusion opposée sur ce qui rend l'IA sûre.

Et que le chemin vers un avenir sûr est de distribuer cette technologie largement et de créer les bons contrepoids plutôt que de la concentrer entre les mains de quelques-uns.

Mark Zuckerberg, 24 septembre 2026, source

Remarquez qui sont les contrepoids dans sa version. Il n'y a pas de régulateur dans le discours d'ouverture. Ce qu'il décrit, c'est un très grand nombre de personnes qui exécutent chacune Muse, l'agent personnel de Meta, sur une machine virtuelle privée hébergée par Meta. Il a aussi été clair sur la façon dont cela rapporte.

Nous croyons que Muse vous fera gagner de l'argent et nous nous engageons en rendant Muse gratuit pour un énorme nombre de jetons, avec l'attente qu'avec le temps nous profiterons en prélevant une petite commission sur les transactions.

Mark Zuckerberg, 24 septembre 2026, source

C'est une activité de paiement. Alexandr Wang, qui dirige Meta Superintelligence Labs, l'a suivi sur scène et a cité Walmart, Best Buy, Gap, Sephora et Wayfair comme détaillants se connectant à Muse, avec Stripe, Shopify et PayPal pour transporter l'argent. Si Muse fonctionne, une petite part d'un très grand volume d'achats va à une seule entreprise. Vous pouvez appeler cela de la distribution. Moi, j'appellerais cela un péage qui se trouve être partout.

Le matériel montre le pari de Meta

Le métavers est maintenant secondaire. Zuckerberg a dit que Meta pensait autrefois que le mélange des mondes physique et numérique arriverait d'abord et l'IA avancée plus tard, et qu'il est "tout à fait clair" que la superintelligence personnelle vient en premier. Le dispositif VR qu'il a montré pèse environ 100 grammes, coûte 1 299 $ et sera expédié au printemps 2027, selon Social Media Today. La démo d'Andrew Bosworth a fait le point pour lui. Il a fait fusionner des schémas par son agent, réserver son calendrier et regarder une enchère pendant qu'il jouait à Beat Saber. Chaque appareil vendu par Meta cette semaine est une porte d'entrée vers le même agent.

YouTube laisse le public être le filtre

Neal Mohan a donné une troisième réponse sur le podcast d'Alex Kantrowitz. Cela semble modeste, mais cela vient d'une plateforme avec plus de deux milliards d'utilisateurs quotidiens. Interrogé sur la volonté de YouTube d'avoir des vidéos générées par IA, il a refusé de trier le contenu de cette façon.

Et donc il n'y a pas de tri explicite du genre IA mauvaise, tout le reste bon ou vice versa. Toutes les règles, depuis nos politiques de contenu sur notre plateforme jusqu'à ce qui résonne avec les audiences, sont indépendantes de ce facteur.

Neal Mohan, 23 septembre 2026, source

C'est la logique de Zuckerberg appliquée aux médias. Personne ne fixe de règle en amont, et le public décide ce qui se propage. Le point faible est que l'algorithme qui décide ce qui "résonne" appartient à YouTube. Mohan a admis avoir passé une grande partie d'un week-end à revoir un clip IA d'un homme chevauchant un jet de Coca et Mentos. C'est un détail charmant. C'est aussi la raison pour laquelle "laisser le public décider" ne répond pas à la question de savoir qui décide.

Steve Case dit que la concentration a déjà eu lieu

Steve Case a observé un changement de plateforme de l'intérieur d'AOL, et il était le moins intéressé par qui écrit les règles. Son point concerne qui détient les gains, et il pense que c'est déjà réglé.

Ce qui me plaît moins, c'est que ces entreprises, que ce soit SpaceX maintenant à deux billions ou Anthropic, OpenAI, vous savez, probablement introduites en bourse autour d'un billion. C'est génial pour ces entreprises. C'est génial pour ces investisseurs, mais ce n'est pas génial pour les investisseurs particuliers.

Steve Case, 24 septembre 2026, source

AOL a été coté à une valeur de marché de 70 millions de dollars et valait 160 milliards au moment de l'accord avec Time Warner. SpaceX a fixé son introduction en bourse du 12 juin à une valeur implicite de 1,77 billion de dollars, donc le public a acheté après la majeure partie de la croissance. Case a également dit à l'hôte de Giant Ideas que construire un modèle de pointe est "une mise de plus de cent milliards de dollars" et que le résultat est "les grandes technologies qui deviennent plus grandes". Mettez cela à côté d'Altman et Zuckerberg et cela devient gênant. Les deux hommes ont mis en garde contre la concentration tout en dirigeant deux des quelques entreprises capables de payer cette mise.

Alors, qui est l'arbitre ?

Personne pour l'instant. Altman en a demandé un et a été refusé par son propre gouvernement un jour plus tôt. Zuckerberg dit que l'arbitre est des milliards d'utilisateurs, pendant que Meta prélève une commission sur ce que ces utilisateurs achètent. Mohan dit que c'est le public, classé par YouTube. Case, qui n'a aucun produit à vendre ici, dit que l'argent a déjà choisi les gagnants, et que le public achètera à 1 billion. Aucun des quatre n'a nommé un mécanisme qui fonctionne aujourd'hui. Mon avis est que la ligne des 0,1 % d'Altman est le seul test concret proposé cette semaine, et seul OpenAI peut dire s'il le réussit.