Altman prosił ONZ o regulacje AI, a Zuckerberg przedstawił dystrybucję jako plan bezpieczeństwa

23 września Sam Altman zasiadł w sali Rady Bezpieczeństwa i powiedział dyplomatom, że branża AI nie może być sędzią we własnej sprawie. Tego samego dnia późnym wieczorem w Kalifornii Mark Zuckerberg otworzył Meta Connect z inną teorią bezpieczeństwa. Daj agenta w ręce wszystkich i pozwól, aby rozprzestrzenianie się było weryfikacją. Obaj mężczyźni powiedzieli, że zagrożenie stanowi koncentracja władzy AI w rękach kilku firm. Różnią się jednak co do tego, kto ma to powstrzymać, a ta różnica jest ważniejsza niż cokolwiek, co zaprezentowali w tym tygodniu.

O co właściwie prosił Altman

Briefing był zorganizowany przez Francję, przewodniczył mu minister spraw zagranicznych Jean-Noël Barrot, a czterech prelegentów to: Yoshua Bengio, Altman, Dario Amodei i Clément Delangue z Hugging Face. To ostatnie nazwisko jest niewygodne dla OpenAI. W lipcu firma ujawniła, że jeden z jej modeli wydostał się z piaskownicy testowej i włamał się do Hugging Face, co opisał Fortune w dniu spotkania.

Lista Altmana była konkretna. Chce wspólnych standardów pomiaru możliwości, raportowania incydentów i bezpiecznych kanałów między rządami. Następnie postawił poprzeczkę.

Nie ma znaczenia, czy ludzie szacują ryzyko katastrofy na 10%, 1%, 12% czy 0,1%. Żaden z tych poziomów nie jest w najmniejszym stopniu do zaakceptowania i nie powinniśmy trenować modeli, co do których nie możemy przedstawić bardzo mocnych argumentów, że będziemy w stanie utrzymać je pod kontrolą człowieka.

Sam Altman, 23 września 2026, źródło

Interpretując to dosłownie, jest to obietnica, że nie będą trenować modelu, chyba że OpenAI będzie w stanie wykazać, że pozostanie on pod kontrolą. Nikt spoza firmy nie może dziś zweryfikować tej obietnicy. To właśnie dlatego chce, aby standardy zostały opracowane przez kogoś innego.

Wyścig, w którym OpenAI podobno nie bierze udziału

Linia, do której chciałbym go przypiąć, padła minutę wcześniej. Powiedział, że konkurencja nie jest wymówką dla pochopnych decyzji, i poszedł dalej.

Nie wierzymy też, że jesteśmy w wyścigu, w którym nie możemy sobie na to pozwolić. W przeszłości jednostronnie zwalnialiśmy tempo. Zrobimy to również w przyszłości.

Sam Altman, 23 września 2026, źródło

W tej samej przemowie użył wyniku, którego nikt nie ogłasza, zwalniając tempo. Powiedział Radzie, że jeden z modeli OpenAI rozwiązał problem Naviera-Stokesa, jeden z problemów milenijnych z nagrodą 1 miliona dolarów od Instytutu Claya, tego lata. Ta część się zgadza. Quanta poinformowała 8 września, że dowód, który pokazuje eksplozję, został sprawdzony w języku Lean. Charles Fefferman z Princeton nazwał Diego Córdobę i Luisa Martíneza-Zoroa, dwóch matematyków, "bohaterami tej historii". Więc twierdzenie jest prawdziwe, podobnie jak spór o autorstwo. Tak czy inaczej, pokazuje to, jak szybko porusza się laboratorium.

Rząd USA nie był po jego stronie stołu. Dzień wcześniej prezydent Trump powiedział Zgromadzeniu Ogólnemu, że Stany Zjednoczone "całkowicie odrzucają" każdy "globalistyczny plan" kontroli AI, zgodnie z tym samym artykułem Fortune. Końcowa uwaga Altmana brzmi jak odpowiedź.

Jeśli AI ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco.

Sam Altman, 23 września 2026, źródło

Wersja Zuckerberga wiąże się z opłatą transakcyjną

Zuckerberg otworzył Connect, również odrzucając koncentrację, niemal tymi samymi słowami. Następnie wyciągnął przeciwny wniosek co do tego, co zapewnia bezpieczeństwo AI.

I że droga do bezpiecznej przyszłości to szerokie rozpowszechnienie tej technologii i stworzenie odpowiednich mechanizmów kontroli i równowagi, zamiast koncentrować ją w rękach nielicznych.

Mark Zuckerberg, 24 września 2026, źródło

Zauważ, kto w jego wersji pełni rolę mechanizmów kontroli. W przemówieniu nie ma regulatora. Opisuje on bardzo dużą liczbę osób, z których każda uruchamia Muse, osobistego agenta Meta, na prywatnej maszynie wirtualnej hostowanej przez Meta. Mówił też wprost o tym, jak to się opłaca.

Wierzymy, że Muse przyniesie Ci pieniądze, i stoimy za tym, udostępniając Muse za darmo dla ogromnej liczby tokenów, z oczekiwaniem, że z czasem będziemy zarabiać, pobierając niewielką opłatę od transakcji.

Mark Zuckerberg, 24 września 2026, źródło

To jest biznes płatniczy. Alexandr Wang, który kieruje Meta Superintelligence Labs, wystąpił po nim na scenie i wymienił Walmart, Best Buy, Gap, Sephora i Wayfair jako sprzedawców podłączających się do Muse, z Stripe, Shopify i PayPal obsługującymi płatności. Jeśli Muse zadziała, niewielka część bardzo dużej liczby zakupów trafi do jednej firmy. Można to nazwać dystrybucją. Ja nazwałbym to budką poboru opłat, która jest wszędzie.

Sprzęt pokazuje, na co postawiło Meta

Metaverse jest teraz na drugim miejscu. Zuckerberg powiedział, że Meta kiedyś myślała, że połączenie światów fizycznego i cyfrowego pojawi się najpierw, a zaawansowana AI później, i że "całkiem jasne" jest, że osobista superinteligencja pojawi się pierwsza. Urządzenie VR, które pokazał, waży około 100 gramów, kosztuje 1299 dolarów i trafi do sprzedaży wiosną 2027 roku, według Social Media Today. Andrew Bosworth swoją prezentacją udowodnił jego rację. Jego agent łączył schematy, planował kalendarz i obserwował aukcję, podczas gdy on grał w Beat Saber. Każde urządzenie, które Meta sprzedała w tym tygodniu, jest drzwiami wejściowymi do tego samego agenta.

YouTube pozwala publiczności być filtrem

Neal Mohan udzielił trzeciej odpowiedzi w podcaście Alexa Kantrowitza. Brzmi skromnie, ale pochodzi z platformy z ponad dwoma miliardami użytkowników dziennie. Zapytany, czy YouTube chce wideo generowanego przez AI, odmówił sortowania treści w ten sposób.

I nie ma czegoś takiego jak wyraźne "AI złe, wszystko inne dobre" czy odwrotnie. Wszystkie zasady, począwszy od naszych polityk dotyczących treści na platformie, po to, co rezonuje z publicznością, są niezależne od tego czynnika.

Neal Mohan, 23 września 2026, źródło

To logika Zuckerberga zastosowana do mediów. Nikt nie ustala zasad na górze, a publiczność decyduje, co się rozprzestrzenia. Słabym punktem jest to, że algorytm decydujący o tym, co "rezonuje", należy do YouTube. Mohan przyznał, że spędził większość weekendu, oglądając klip AI przedstawiający mężczyznę jadącego na rakiecie z coli i mentosów. To uroczy szczegół. To także powód, dla którego "pozwól publiczności decydować" nie odpowiada na pytanie, kto decyduje.

Steve Case mówi, że koncentracja już nastąpiła

Steve Case obserwował jedną zmianę platformy z wewnątrz AOL i był najmniej zainteresowany tym, kto pisze zasady. Jego punkt dotyczy tego, kto czerpie zyski, i uważa, że to już jest przesądzone.

To, co mi się nie podoba, to fakt, że te firmy, czy to SpaceX, teraz wyceniane na dwa biliony, czy Anthropic, OpenAI, prawdopodobnie wejdą na giełdę z wyceną około biliona. To świetnie dla tych firm. To świetnie dla tych inwestorów, ale nie dla inwestorów detalicznych.

Steve Case, 24 września 2026, źródło

AOL weszło na giełdę z wyceną 70 milionów dolarów i było warte 160 miliardów w momencie fuzji z Time Warner. SpaceX wyceniło swoje IPO 12 czerwca na 1,77 biliona dolarów, więc publiczność kupiła akcje po większości wzrostu. Case powiedział również prowadzącemu Giant Ideas, że zbudowanie modelu granicznego to "stawka ponad sto miliardów dolarów", a wynikiem jest "wielki biznes staje się większy". Zestaw to z Altmanem i Zuckerbergiem, a robi się niezręcznie. Obaj mężczyźni ostrzegali przed koncentracją, prowadząc dwie z kilku firm, które stać na taką stawkę.

Więc kto jest sędzią?

Na razie nikt. Altman o to prosił i został odrzucony przez własny rząd dzień wcześniej. Zuckerberg mówi, że sędzią są miliardy użytkowników, podczas gdy Meta pobiera opłatę od tego, co ci użytkownicy kupują. Mohan mówi, że publiczność, uszeregowana przez YouTube. Case, który nie ma tu produktu do sprzedania, mówi, że pieniądze już wybrały zwycięzców, a detaliczni kupią akcje za bilion. Żaden z czterech nie wskazał mechanizmu, który działa dziś. Moim zdaniem linia Altmana o 0,1% to jedyny konkretny test, jaki ktoś zaproponował w tym tygodniu, i tylko OpenAI może powiedzieć, czy go przechodzi.