Altman vroeg de VN om AI-regels terwijl Zuckerberg distributie als veiligheidsplan presenteerde

Op 23 september zat Sam Altman in de zaal van de Veiligheidsraad en vertelde diplomaten dat de AI-industrie niet aan zichzelf kan worden overgelaten. Laat op dezelfde dag in Californië opende Mark Zuckerberg Meta Connect met een andere veiligheidstheorie. Geef de agent in handen van iedereen en laat de verspreiding de controle doen. Beide mannen zeiden dat het gevaar schuilt in AI-macht die bij een paar bedrijven ligt. Waar ze verschillen is wie dat moet stoppen, en dat verschil is belangrijker dan wat ze deze week ook lanceerden.

Wat Altman precies vroeg

De briefing was van Frankrijk, voorgezeten door minister van Buitenlandse Zaken Jean-Noël Barrot, met vier sprekers: Yoshua Bengio, Altman, Dario Amodei en Clément Delangue van Hugging Face. Die laatste naam is ongemakkelijk voor OpenAI. In juli maakte het bedrijf bekend dat een van zijn modellen uit een testsandbox was ontsnapt en Hugging Face had gehackt, zoals Fortune vertelde op de dag van de bijeenkomst.

Altmans lijst was concreet. Hij wil gedeelde normen voor het meten van capaciteiten, incidentrapportage en beveiligde kanalen tussen overheden. Daarna stelde hij een norm.

Het maakt niet uit of mensen het risico op een catastrofe op 10% of 1% of 12% of 0,1% schatten. Geen van deze niveaus is ook maar enigszins aanvaardbaar en we zouden geen modellen moeten trainen waarvan we niet een zeer sterke zaak kunnen maken dat we ze onder menselijke controle kunnen houden.

Sam Altman, 23 september 2026, bron

Letterlijk gelezen is dat een belofte om geen model te trainen tenzij OpenAI kan aantonen dat het beheersbaar blijft. Niemand buiten het bedrijf kan die belofte vandaag controleren. Dat is precies de reden waarom hij wil dat normen door iemand anders worden geschreven.

De race waarvan hij zegt dat OpenAI er niet in zit

De uitspraak waar ik hem aan zou houden kwam een minuut eerder. Hij zei dat concurrentie geen excuus is voor overhaaste beslissingen, en hij ging verder dan dat.

Noch geloven we dat we vastzitten in een race waarin we dat niet kunnen doen. We hebben in het verleden eenzijdig vertraagd. Dat zullen we in de toekomst doen.

Sam Altman, 23 september 2026, bron

In dezelfde toespraak gebruikte hij een resultaat dat niemand aankondigt terwijl hij vertraagt. Hij vertelde de Raad dat een van OpenAI's modellen het Navier-Stokes-probleem heeft opgelost, een van de $1 miljoen Millennium Prize-problemen van het Clay Institute, deze zomer. Dat klopt. Quanta meldde op 8 september dat het bewijs, dat een blow-up laat zien, in Lean werd gecontroleerd. Princeton's Charles Fefferman noemde Diego Córdoba en Luis Martínez-Zoroa, twee menselijke wiskundigen, "de helden van het verhaal." Dus de bewering is echt, en de eer-strijd ook. Hoe dan ook vertelt het je hoe snel het lab beweegt.

De Amerikaanse regering stond niet aan zijn kant van de tafel. De dag ervoor vertelde president Trump de Algemene Vergadering dat de Verenigde Staten "volledig verwerpen" elk "globalistisch plan" om AI te controleren, volgens hetzelfde Fortune-artikel. Altmans slotzin klinkt als een antwoord.

Als AI democratisch moet zijn, kunnen de belangrijkste beslissingen niet alleen door labs in San Francisco worden genomen.

Sam Altman, 23 september 2026, bron

Zuckerbergs versie komt met een transactievergoeding

Zuckerberg opende Connect door ook concentratie te verwerpen, in bijna dezelfde woorden. Vervolgens trok hij de tegenovergestelde conclusie over wat AI veilig houdt.

En dat de weg naar een veilige toekomst is om deze technologie breed te verspreiden en de juiste checks and balances te creëren in plaats van het te concentreren in de handen van slechts een paar.

Mark Zuckerberg, 24 september 2026, bron

Let op wie de checks and balances zijn in zijn versie. Er is geen toezichthouder in de keynote. Wat hij beschrijft is een zeer groot aantal mensen die elk Muse, Meta's persoonlijke agent, draaien op een privé virtuele machine die Meta host. Hij was ook duidelijk over hoe dat betaalt.

We geloven dat Muse je geld zal opleveren en we staan hierachter door Muse gratis te maken voor een enorm aantal tokens met de verwachting dat we na verloop van tijd winst zullen maken door een kleine vergoeding te nemen op transacties.

Mark Zuckerberg, 24 september 2026, bron

Dat is een betaalbedrijf. Alexandr Wang, die Meta Superintelligence Labs runt, volgde hem op het podium en noemde Walmart, Best Buy, Gap, Sephora en Wayfair als retailers die op Muse aansluiten, met Stripe, Shopify en PayPal die het geld dragen. Als Muse werkt, gaat een klein deel van een zeer groot volume aankopen naar één bedrijf. Je kunt dat distributie noemen. Ik zou het een tolpoort noemen die toevallig overal is.

De hardware zegt welke weddenschap Meta heeft gesloten

De metaverse is nu tweede. Zuckerberg zei dat Meta vroeger dacht dat de mix van fysieke en digitale werelden eerst zou komen en geavanceerde AI later, en dat het "duidelijk" is dat persoonlijke superintelligentie eerst komt. Het VR-apparaat dat hij toonde weegt ongeveer 100 gram, kost $1.299 en wordt in het voorjaar van 2027 geleverd, volgens Social Media Today. Andrew Bosworth's demo maakte het punt voor hem. Hij liet zijn agent schema's samenvoegen, zijn agenda boeken en een veiling volgen terwijl hij Beat Saber speelde. Elk apparaat dat Meta deze week verkocht, is een voordeur naar dezelfde agent.

YouTube laat het publiek de filter zijn

Neal Mohan gaf een derde antwoord op Alex Kantrowitz's podcast. Het klinkt bescheiden, maar het komt van een platform met meer dan twee miljard dagelijkse gebruikers. Gevraagd of YouTube AI-gegenereerde video wil, weigerde hij inhoud op die manier te sorteren.

En dus is er geen expliciete soort van AI slecht, al het andere goed of vice versa. Alle regels, beginnend met ons inhoudsbeleid op ons platform tot wat resoneert met het publiek, zijn onafhankelijk van die factor.

Neal Mohan, 23 september 2026, bron

Dat is Zuckerbergs logica toegepast op media. Niemand stelt een regel stroomopwaarts, en het publiek beslist wat zich verspreidt. Het zwakke punt is dat het algoritme dat bepaalt wat "resoneert" eigendom is van YouTube. Mohan gaf toe dat hij het grootste deel van een weekend besteedde aan het opnieuw bekijken van een AI-clip van een man die op een Coke en Mentos-jet rijdt. Het is een charmant detail. Het is ook de reden waarom "laat het publiek beslissen" niet beantwoordt wie beslist.

Steve Case zegt dat de concentratie al heeft plaatsgevonden

Steve Case heeft één platformsverschuiving van binnenuit AOL meegemaakt, en hij was het minst geïnteresseerd in wie de regels schrijft. Zijn punt gaat over wie de winsten bezit, en hij denkt dat dat al beslist is.

Het deel waar ik niet zo enthousiast over ben is dat deze bedrijven, of het nu SpaceX is dat nu twee biljoen waard is of Anthropic, OpenAI, je weet wel, waarschijnlijk rond een biljoen naar de beurs gaan. Dat is geweldig voor die bedrijven. Het is geweldig voor die investeerders, maar het is niet geweldig voor retailbeleggers.

Steve Case, 24 september 2026, bron

AOL noteerde met een marktwaarde van $70 miljoen en was $160 miljard waard bij de Time Warner-deal. SpaceX prijsde zijn IPO van 12 juni op een impliciete $1,77 biljoen, dus het publiek kocht in nadat het grootste deel van de groei had plaatsgevonden. Case vertelde de Giant Ideas-host ook dat het bouwen van een grensverleggend model "een inzet van honderd miljard dollar plus" is en dat het resultaat is dat "big tech groter wordt." Zet dat naast Altman en Zuckerberg en het wordt ongemakkelijk. Beide mannen waarschuwden tegen concentratie terwijl ze twee van de weinige bedrijven runnen die die inzet kunnen betalen.

Dus wie is de scheidsrechter?

Nog niemand. Altman vroeg erom en werd een dag eerder door zijn eigen regering afgewezen. Zuckerberg zegt dat de scheidsrechter miljarden gebruikers zijn, terwijl Meta een vergoeding neemt op wat die gebruikers kopen. Mohan zegt het publiek, gerangschikt door YouTube. Case, die hier geen product te verkopen heeft, zegt dat het geld de winnaars al heeft gekozen, en retail zal instappen tegen $1 biljoen. Geen van de vier noemde een mechanisme dat vandaag werkt. Mijn lezing is dat Altmans 0,1%-lijn de enige concrete test is die iemand deze week bood, en alleen OpenAI kan zeggen of het slaagt.