Altman požádal OSN o pravidla pro AI, zatímco Zuckerberg nabídl distribuci jako bezpečnostní plán

Dne 23. září Sam Altman usedl v sále Rady bezpečnosti a řekl diplomatům, že odvětví AI nelze věřit, že bude rozhodovat samo o sobě. Pozdě téhož dne v Kalifornii Mark Zuckerberg zahájil Meta Connect s jinou teorií bezpečnosti. Dejte agenta do rukou všem a nechte šíření, aby provedlo kontrolu. Oba muži řekli, že nebezpečí spočívá v moci AI soustředěné v rukou několika společností. Kde se rozcházejí, je to, kdo ji má zastavit, a tento rozchod je důležitější než cokoli, co tento týden uvedli na trh.

O co Altman skutečně žádal

Setkání řídila Francie, předsedal mu ministr zahraničí Jean-Noël Barrot, s čtyřmi řečníky: Yoshua Bengio, Altman, Dario Amodei a Clément Delangue z Hugging Face. Toto poslední jméno je pro OpenAI nepříjemné. V červenci společnost zveřejnila, že jeden z jejích modelů unikl z testovacího sandboxu a pronikl do Hugging Face, jak připomněl Fortune v den setkání.

Altmanův seznam byl konkrétní. Chce společné standardy pro měření schopností, hlášení incidentů a bezpečné kanály mezi vládami. Pak nastavil laťku.

Nezáleží na tom, zda lidé odhadují riziko katastrofy na 10 % nebo 1 % nebo 12 % nebo 0,1 %. Žádná z těchto úrovní není ani vzdáleně přijatelná a neměli bychom trénovat modely, u kterých nemůžeme velmi přesvědčivě prokázat, že je udržíme pod lidskou kontrolou.

Sam Altman, 23. září 2026, zdroj

Čteno doslova, je to slib netrénovat model, pokud OpenAI nemůže prokázat, že zůstane ovladatelný. Nikdo mimo společnost dnes nemůže tento slib ověřit. To je celý důvod, proč chce standardy napsané někým jiným.

Závod, o kterém OpenAI říká, že se ho neúčastní

Věta, kterou bych mu připomněl, zazněla o minutu dříve. Řekl, že konkurence není omluvou pro unáhlená rozhodnutí, a šel ještě dál.

Ani nevěříme, že jsme v závodě, kde to nemůžeme udělat. V minulosti jsme jednostranně zpomalili. Uděláme to i v budoucnu.

Sam Altman, 23. září 2026, zdroj

Ve stejném projevu použil výsledek, který nikdo neoznamuje, když zpomaluje. Radě řekl, že jeden z modelů OpenAI letos v létě vyřešil problém Navier-Stokesových rovnic, jeden z problémů Ceny tisíciletí Clayova institutu za milion dolarů. Tato část sedí. Quanta informovala 8. září, že důkaz, který ukazuje explozi, byl ověřen v jazyce Lean. Charles Fefferman z Princetonu označil Diega Córdobu a Luise Martíneze-Zorou, dva lidské matematiky, za "hrdiny příběhu." Takže tvrzení je skutečné, a stejně tak je skutečný spor o zásluhy. Ať tak či onak, ukazuje to, jak rychle se laboratoř pohybuje.

Vláda USA nebyla na jeho straně stolu. Den předtím prezident Trump řekl Valnému shromáždění, že Spojené státy "zcela odmítají" jakýkoli "globalistický plán" na kontrolu AI, podle stejného článku Fortune. Altmanova závěrečná věta vypadá jako odpověď.

Má-li být AI demokratická, nejdůležitější rozhodnutí nemohou činit pouze laboratoře v San Franciscu.

Sam Altman, 23. září 2026, zdroj

Zuckerbergova verze přichází s transakčním poplatkem

Zuckerberg zahájil Connect odmítnutím koncentrace, téměř stejnými slovy. Poté vyvodil opačný závěr o tom, co udržuje AI v bezpečí.

A že cesta k bezpečné budoucnosti spočívá v široké distribuci této technologie a vytvoření správných brzd a protiváh, spíše než v její koncentraci v rukou jen několika málo.

Mark Zuckerberg, 24. září 2026, zdroj

Všimněte si, kdo jsou v jeho verzi brzdy a protiváhy. V hlavním projevu není žádný regulátor. Popisuje velmi velký počet lidí, kteří každý provozují Muse, Meta osobního agenta, na soukromém virtuálním stroji, který Meta hostí. Byl také otevřený ohledně toho, jak se to platí.

Věříme, že Muse vám vydělá peníze, a stojíme za tím, že Muse je zdarma pro obrovské množství tokenů, s očekáváním, že časem budeme profitovat z malého poplatku z transakcí.

Mark Zuckerberg, 24. září 2026, zdroj

To je platební byznys. Alexandr Wang, který řídí Meta Superintelligence Labs, ho následoval na pódium a jmenoval Walmart, Best Buy, Gap, Sephoru a Wayfair jako maloobchodníky napojené na Muse, přičemž Stripe, Shopify a PayPal přenášejí peníze. Pokud Muse funguje, malý podíl z velmi velkého objemu nákupů jde jedné společnosti. Můžete to nazvat distribucí. Já bych to nazval mýtnou branou, která je všude.

Hardware ukazuje, na kterou sázku Meta vsadila

Metaverse je nyní až na druhém místě. Zuckerberg řekl, že Meta si dříve myslela, že propojení fyzického a digitálního světa přijde dříve a pokročilá AI později, a že je "zcela jasné", že osobní superinteligence přijde první. VR zařízení, které představil, váží asi 100 gramů, stojí 1 299 dolarů a na trh se dostane na jaře 2027, podle Social Media Today. Andrew Bosworth svou demonstrací jeho argument potvrdil. Nechal svého agenta sloučit schémata, zarezervovat kalendář a sledovat aukci, zatímco hrál Beat Saber. Každé zařízení, které Meta tento týden prodala, jsou předními dveřmi ke stejnému agentovi.

YouTube nechává publikum být filtrem

Neal Mohan dal třetí odpověď v podcastu Alexe Kantrowitze. Zní to skromně, ale pochází to z platformy s více než dvěma miliardami denních uživatelů. Na dotaz, zda YouTube chce AI-generované video, odmítl třídit obsah tímto způsobem.

A tak neexistuje žádné explicitní rozdělení typu AI je špatná, všechno ostatní je dobré, nebo naopak. Všechna pravidla, počínaje našimi pravidly obsahu na naší platformě až po to, co rezonuje s publikem, jsou na tomto faktoru nezávislá.

Neal Mohan, 23. září 2026, zdroj

To je Zuckerbergova logika aplikovaná na média. Nikdo nestanovuje pravidla na začátku a publikum rozhoduje, co se šíří. Slabou stránkou je, že algoritmus, který rozhoduje o tom, co "rezonuje", patří YouTube. Mohan přiznal, že strávil většinu víkendu opětovným sledováním AI klipu muže jedoucího na tryskovém pohonu z Coly a Mentosu. Je to okouzlující detail. Je to také důvod, proč "nechte publikum rozhodnout" neodpovídá na otázku, kdo rozhoduje.

Steve Case říká, že koncentrace už nastala

Steve Case sledoval jednu platformní změnu zevnitř AOL a nejméně ho zajímalo, kdo píše pravidla. Jeho bod se týká toho, kdo drží zisky, a myslí si, že už je rozhodnuto.

To, co mě příliš nenadchne, je, že tyto společnosti, ať už je to SpaceX nyní za dva biliony, nebo Anthropic, OpenAI, pravděpodobně vstoupí na burzu kolem bilionu. To je skvělé pro tyto společnosti. Je to skvělé pro tyto investory, ale není to skvělé pro drobné investory.

Steve Case, 24. září 2026, zdroj

AOL vstoupila na burzu s tržní hodnotou 70 milionů dolarů a v době dohody s Time Warner měla hodnotu 160 miliard. SpaceX ocenila svou IPO z 12. června na implikovaných 1,77 bilionu dolarů, takže veřejnost nakoupila až po většině růstu. Case také řekl moderátorovi Giant Ideas, že vybudování špičkového modelu je "vklad přes sto miliard dolarů" a výsledkem je "velká technika, která se zvětšuje." Postavte to vedle Altmana a Zuckerberga a je to trapné. Oba muži varovali před koncentrací, zatímco vedou dvě z hrstky společností, které si tento vklad mohou dovolit.

Takže kdo je rozhodčí?

Zatím nikdo. Altman o něj požádal a jeho vlastní vláda ho o den dříve odmítla. Zuckerberg říká, že rozhodčím jsou miliardy uživatelů, zatímco Meta si bere poplatek z toho, co tito uživatelé nakupují. Mohan říká, že publikum, seřazené podle YouTube. Case, který zde nemá žádný produkt na prodej, říká, že peníze už vybraly vítěze a drobní investoři nakoupí za bilion. Žádný ze čtyř nejmenoval mechanismus, který funguje dnes. Můj názor je, že Altmanova hranice 0,1 % je jediným konkrétním testem, který tento týden kdokoli nabídl, a pouze OpenAI může říci, zda jej splňuje.