Altman fordert UN-Regeln für KI, während Zuckerberg Verteilung als Sicherheitsplan vorschlägt

Am 23. September saß Sam Altman im Saal des Sicherheitsrats und sagte den Diplomaten, dass die KI-Industrie sich nicht selbst als Schiedsrichter vertrauen könne. Spät am selben Tag in Kalifornien eröffnete Mark Zuckerberg die Meta Connect mit einer anderen Theorie der Sicherheit. Gib den Agenten in die Hände aller und lass die Verbreitung die Prüfung übernehmen. Beide Männer sagten, die Gefahr sei KI-Macht, die bei wenigen Unternehmen liege. Wo sie sich unterscheiden, ist, wer sie stoppen darf, und dieser Unterschied ist wichtiger als alles, was einer von ihnen diese Woche auf den Markt gebracht hat.

Was Altman tatsächlich forderte

Das Briefing war von Frankreich, geleitet von Außenminister Jean-Noël Barrot, mit vier Briefenden: Yoshua Bengio, Altman, Dario Amodei und Hugging Faces Clément Delangue. Dieser letzte Name ist unangenehm für OpenAI. Im Juli gab das Unternehmen bekannt, dass eines seiner Modelle aus einer Test-Sandbox ausgebrochen war und in Hugging Face eingedrungen war, wie Fortune am Tag des Treffens berichtete.

Altmans Liste war konkret. Er will gemeinsame Standards zur Messung von Fähigkeiten, Meldung von Vorfällen und sichere Kanäle zwischen Regierungen. Dann setzte er eine Messlatte.

Es spielt keine Rolle, ob die Leute das Katastrophenrisiko auf 10 % oder 1 % oder 12 % oder 0,1 % schätzen. Keine dieser Stufen ist im Entferntesten akzeptabel, und wir sollten keine Modelle trainieren, bei denen wir nicht äußerst überzeugend darlegen können, dass wir sie unter menschlicher Kontrolle halten können.

Sam Altman, 23. September 2026, Quelle

Wörtlich genommen ist das ein Versprechen, kein Modell zu trainieren, es sei denn, OpenAI kann zeigen, dass es kontrollierbar bleibt. Niemand außerhalb des Unternehmens kann dieses Versprechen heute überprüfen. Das ist der eigentliche Grund, warum er Standards will, die von anderen geschrieben werden.

Das Rennen, von dem er sagt, dass OpenAI nicht daran teilnimmt

Die Aussage, an die ich ihn halten würde, kam eine Minute früher. Er sagte, Wettbewerb sei keine Entschuldigung für überstürzte Entscheidungen, und er ging noch weiter.

Wir glauben auch nicht, dass wir in einem Rennen gefangen sind, in dem wir das nicht tun können. Wir haben in der Vergangenheit einseitig verlangsamt. Wir werden das in Zukunft tun.

Sam Altman, 23. September 2026, Quelle

In derselben Rede verwendete er ein Ergebnis, das niemand ankündigt, während er verlangsamt. Er sagte dem Rat, dass eines von OpenAIs Modellen das Navier-Stokes-Problem gelöst habe, eines der 1-Millionen-Dollar-Millennium-Probleme des Clay Institute, diesen Sommer. Dieser Teil stimmt. Quanta berichtete am 8. September, dass der Beweis, der eine Explosion zeigt, in Lean überprüft wurde. Princeton's Charles Fefferman nannte Diego Córdoba und Luis Martínez-Zoroa, zwei menschliche Mathematiker, "die Helden der Geschichte." Die Behauptung ist also real, und der Anerkennungsstreit auch. So oder so zeigt es, wie schnell das Labor voranschreitet.

Die US-Regierung war nicht auf seiner Seite des Tisches. Am Tag zuvor sagte Präsident Trump vor der Generalversammlung, dass die Vereinigten Staaten jeden "globalistischen Plan" zur Kontrolle von KI "völlig ablehnen", so derselbe Fortune-Artikel. Altmans Schlussbemerkung liest sich wie eine Antwort.

Wenn KI demokratisch sein soll, können die wichtigsten Entscheidungen nicht allein von Labors in San Francisco getroffen werden.

Sam Altman, 23. September 2026, Quelle

Zuckerbergs Version kommt mit einer Transaktionsgebühr

Zuckerberg eröffnete Connect, indem er ebenfalls die Konzentration ablehnte, fast mit denselben Worten. Dann zog er die gegenteilige Schlussfolgerung darüber, was KI sicher hält.

Und dass der Weg in eine sichere Zukunft darin besteht, diese Technologie weit zu verbreiten und die richtigen Checks and Balances zu schaffen, anstatt sie in den Händen weniger zu konzentrieren.

Mark Zuckerberg, 24. September 2026, Quelle

Beachten Sie, wer in seiner Version die Checks and Balances sind. Es gibt keinen Regulierer in der Keynote. Was er beschreibt, ist eine sehr große Anzahl von Menschen, die jeweils Muse, Metas persönlichen Agenten, auf einer privaten virtuellen Maschine ausführen, die Meta hostet. Er war auch deutlich, wie sich das bezahlt macht.

Wir glauben, dass Muse Ihnen Geld einbringen wird, und wir stehen dahinter, indem wir Muse für eine große Anzahl von Tokens kostenlos machen, mit der Erwartung, dass wir im Laufe der Zeit Gewinne erzielen, indem wir eine kleine Gebühr von Transaktionen nehmen.

Mark Zuckerberg, 24. September 2026, Quelle

Das ist ein Zahlungsgeschäft. Alexandr Wang, der Meta Superintelligence Labs leitet, folgte ihm auf der Bühne und nannte Walmart, Best Buy, Gap, Sephora und Wayfair als Einzelhändler, die sich an Muse anschließen, mit Stripe, Shopify und PayPal für das Geld. Wenn Muse funktioniert, geht ein kleiner Anteil eines sehr großen Kaufvolumens an ein Unternehmen. Sie können das Verteilung nennen. Ich würde es eine Mautstelle nennen, die zufällig überall ist.

Die Hardware zeigt, auf welche Wette Meta gesetzt hat

Das Metaversum ist jetzt zweitrangig. Zuckerberg sagte, Meta habe früher gedacht, dass die Verschmelzung von physischer und digitaler Welt zuerst kommen würde und fortgeschrittene KI später, und dass es "ziemlich klar" sei, dass persönliche Superintelligenz zuerst kommt. Das VR-Gerät, das er zeigte, wiegt etwa 100 Gramm, kostet 1.299 US-Dollar und wird im Frühjahr 2027 ausgeliefert, laut Social Media Today. Andrew Bosworths Demo machte den Punkt für ihn. Er ließ seinen Agenten Schaltpläne zusammenführen, seinen Kalender buchen und eine Auktion beobachten, während er Beat Saber spielte. Jedes Gerät, das Meta diese Woche verkaufte, ist eine Eingangstür zu demselben Agenten.

YouTube lässt das Publikum der Filter sein

Neal Mohan gab eine dritte Antwort in Alex Kantrowitz' Podcast. Es klingt bescheiden, aber es kommt von einer Plattform mit mehr als zwei Milliarden täglichen Nutzern. Auf die Frage, ob YouTube KI-generierte Videos will, lehnte er es ab, Inhalte so zu sortieren.

Und so gibt es keine explizite Art von KI schlecht, alles andere gut oder umgekehrt. Alle Regeln, angefangen bei unseren Inhaltsrichtlinien auf unserer Plattform bis hin zu dem, was beim Publikum ankommt, sind unabhängig von diesem Faktor.

Neal Mohan, 23. September 2026, Quelle

Das ist Zuckerbergs Logik auf Medien angewendet. Niemand setzt eine Regel vorgelagert, und das Publikum entscheidet, was sich verbreitet. Die Schwachstelle ist, dass der Algorithmus, der entscheidet, was "ankommt", YouTube gehört. Mohan gab zu, dass er den Großteil eines Wochenendes damit verbrachte, einen KI-Clip eines Mannes auf einem Cola-und-Mentos-Jet erneut anzusehen. Es ist ein charmantes Detail. Es ist auch der Grund, warum "das Publikum entscheiden lassen" nicht beantwortet, wer entscheidet.

Steve Case sagt, die Konzentration ist bereits passiert

Steve Case hat einen Plattformwechsel von innen bei AOL miterlebt, und er war am wenigsten daran interessiert, wer die Regeln schreibt. Sein Punkt betrifft, wer die Gewinne hält, und er denkt, das ist bereits entschieden.

Der Teil, den ich nicht so toll finde, ist, dass diese Unternehmen, ob es jetzt SpaceX mit zwei Billionen ist oder Anthropic, OpenAI, die wahrscheinlich mit etwa einer Billion an die Börse gehen. Das ist großartig für diese Unternehmen. Es ist großartig für diese Investoren, aber es ist nicht großartig für Privatanleger.

Steve Case, 24. September 2026, Quelle

AOL wurde mit einem Marktwert von 70 Millionen US-Dollar gelistet und war zum Zeitpunkt des Time-Warner-Deals 160 Milliarden US-Dollar wert. SpaceX bewertete seinen Börsengang am 12. Juni mit einem impliziten Wert von 1,77 Billionen US-Dollar, sodass die Öffentlichkeit nach dem Großteil des Wachstums einstieg. Case sagte dem Giant-Ideas-Moderator auch, dass der Bau eines Spitzenmodells "ein Einsatz von über hundert Milliarden Dollar" sei und das Ergebnis "Big Tech wird größer" sei. Stellen Sie das neben Altman und Zuckerberg, und es wird unangenehm. Beide Männer warnten vor Konzentration, während sie zwei der wenigen Unternehmen leiten, die diesen Einsatz zahlen können.

Wer ist also der Schiedsrichter?

Noch niemand. Altman bat um einen und wurde einen Tag zuvor von seiner eigenen Regierung abgewiesen. Zuckerberg sagt, der Schiedsrichter seien Milliarden von Nutzern, während Meta eine Gebühr auf das nimmt, was diese Nutzer kaufen. Mohan sagt das Publikum, eingestuft von YouTube. Case, der hier kein Produkt zu verkaufen hat, sagt, das Geld habe die Gewinner bereits ausgewählt, und Privatanleger werden bei einer Billion einsteigen. Keiner der vier nannte einen Mechanismus, der heute funktioniert. Meine Lesart ist, dass Altmans 0,1-%-Linie der einzige konkrete Test ist, den diese Woche jemand angeboten hat, und nur OpenAI kann sagen, ob er bestanden wird.