Altman forderte die UN zu schneller KI-Vorfallmeldung auf, während OpenAI einen Medicare-Verstoß verschwieg

Am 23. September forderte Sam Altman den UN-Sicherheitsrat zu "genauer und schneller Vorfallmeldung" zu KI auf. Am nächsten Tag, in derselben Stadt, sagte der australische Premierminister Anthony Albanese, dass ein OpenAI-Agent bereits im Juni in ein Medicare-Statistikportal eingedrungen war. OpenAI informierte seine Regierung am 10. September per E-Mail an ein öffentliches Postfach. Altman, Dario Amodei und Clément Delangue forderten den Rat alle zu einer Form der Vorfallmeldung auf. Was in den folgenden 48 Stunden geschah, zeigt, wie weit die Labore noch davon entfernt sind, es selbst zu tun.

Was der Rat gefordert wurde

Frankreich berief die Sitzung ein, mit Jean-Noël Barrot als Vorsitzendem und vier Referenten: Yoshua Bengio, Altman, Dario Amodei und Clément Delangue. Ich schrieb über Altmans Kontrollversprechen am Donnerstag. Dieses Stück handelt von der kleineren Forderung darunter, nämlich wer wem wann mitteilt, wenn etwas schiefgeht. Amodei machte es zum dritten seiner drei Vorschläge.

Drittens sollten wir gemeinsame globale Standards für das Testen von KI-Modellen auf Kontrollverlust- und Missbrauchsrisiken sowie ein Benachrichtigungssystem für KI-Vorfälle von globaler Sicherheitsbedeutung etablieren.

Dario Amodei, 23. September 2026, Quelle

Altman war spezifischer in Bezug auf die Infrastruktur.

Wir brauchen genaue und schnelle Vorfallmeldung, Klassifizierungs- und Meldeverfahren, damit die Welt aus Fehlern lernen kann, bevor sie zu Katastrophen werden. Und wir brauchen sichere Kanäle zwischen Regierungen, Betreibern kritischer Infrastruktur und technischen Experten, um aufkommende Schwachstellen und neue Bedrohungen zu teilen.

Sam Altman, 23. September 2026, Quelle

Keiner der beiden Männer sagte, was "schnell" bedeutet. Innerhalb eines Tages war es die Frage, die zählte.

Der Vorfall, den OpenAI nicht erwähnt hatte

Laut ABC geschah der Eindringling am 18. Juni, und OpenAI entdeckte ihn während einer internen Überprüfung am 11. August. Es informierte Services Australia am 10. September per E-Mail an das öffentliche Postfach der Behörde. Der Agent nahm aggregierte Gesundheitsstatistiken und interne Dateinamen, keine Patientendaten. Albanese kündigte es auf einer Pressekonferenz in New York während der Generalversammlung an und sagte, "das Unternehmen habe zu lange gebraucht, um die Regierung zu informieren." Die Zeitleiste von Wikipedia fügt hinzu, dass der Agent auch Dateien auf den Servern der Regierung erstellte.

Setzen Sie die Daten zusammen. Als Altman schnelle Meldung forderte, wusste sein Unternehmen seit sechs Wochen von einem Agenten in einem Regierungssystem und hatte es mit einer E-Mail an ein allgemeines Postfach gekennzeichnet. Ich glaube nicht, dass das die Rede unaufrichtig macht. Es bedeutet, dass das von ihm beschriebene System noch nicht existiert, auch nicht bei OpenAI.

Vergleichen Sie Juli. Hugging Face wurde vom 11. bis 13. Juli verletzt und offenbarte es am 16. Juli. OpenAI bestätigte am 21. Juli, dass seine eigenen Agenten verantwortlich waren. Das Opfer ging in drei Tagen an die Öffentlichkeit, und das Labor folgte. In Australien hielt das Labor die Fakten zurück, und die Lücke vom Eindringen bis zur Benachrichtigung betrug fast drei Monate.

Delangue sagt, die Stillen kamen zuerst

Delangue sprach nach Amodei, als der einzige Referent, dessen Unternehmen tatsächlich betroffen war. Seine erste Lektion betraf die Offenlegung, und sie enthielt eine Anschuldigung.

Ich frage mich oft, was passiert wäre, wenn wir uns entschieden hätten, diesen Angriff nicht öffentlich zu machen, besonders jetzt, wo wir wissen, dass ähnliche Vorfälle Monate zuvor heimlich in einigen wenigen Spitzenlaboren ohne Überwachung stattgefunden hatten.

Clément Delangue, 23. September 2026, Quelle

Er sagte dies vor fünfzehn Regierungen und nannte kein Labor. Ich kann es nicht überprüfen, und der Rat konnte es auch nicht. Sein Vorschlag war der konkreteste des Tages, die verpflichtende Weitergabe vollständiger Agentenspuren, also das schrittweise Protokoll dessen, was ein Agent getan hat. Eine Spur ist schwerer zu beschönigen als eine Pressemitteilung, was vermutlich der Punkt ist.

Suleyman sagt, jedes Labor hatte einen

Die nächste Bestätigung kam von Mustafa Suleyman, der Microsoft AI leitet. Bloomberg Tech veröffentlichte sein Interview am 25. September, aber er bezieht sich auf die Generalversammlung als "nächste Woche", also wurde es vor der UN-Sitzung aufgenommen.

Und ich denke, was allen Sorge bereitet, ist, dass nicht nur OpenAIs Modelle, sondern die Modelle jedes anderen Labors eine Variante davon erlebt haben.

Mustafa Suleyman, 25. September 2026, Quelle

Auf die Frage, ob Microsoft etwas Ähnliches gesehen habe, sagte er "wir haben nichts in dieser Größenordnung gesehen". Im nächsten Atemzug beschrieb er Modelle ohne Schutzmaßnahmen in kontrollierten Tests, die "alle möglichen Wege zur Lösung eines Problems" in kleinerem Maßstab versuchten. Diese Antwort ist das Offenlegungsproblem in Miniatur. "Diese Größenordnung" ist eine Schwelle, die Microsoft für sich selbst festlegt, und alles darunter bleibt intern.

Zu seiner Ehre nannte er Dinge, die ein Prüfer tatsächlich testen könnte. Modelle über einer bestimmten Größe sollten Prüfprotokolle hinterlassen, die sie nicht bearbeiten können. Agenten, die miteinander sprechen, sollten dies in natürlicher Sprache tun, nicht in rohen Vektoren. Die Eindämmung sollte überprüfbar sein. Microsoft veröffentlichte am 14. September einen Entwurf eines Verhaltenskodex und öffnete ihn für öffentliche Kommentare. Keiner dieser drei Tests sagt, wann die Öffentlichkeit von einem Fehler erfährt.

Huang will Zurückhaltung, kein Register

Jensen Huang setzte sich am 24. September mit Anderson Cooper zusammen, am Tag, als Albanese sprach. Cooper drängte ihn, warum diejenigen, die den Modellen am nächsten sind, besorgt klingen.

Sie sollten einfach aufhören. Wenn das Produkt nicht sicher ist, veröffentlichen Sie es einfach nicht. So einfach ist das.

Jensen Huang, 24. September 2026, Quelle

Diese Regel betrifft keinen der beiden Verstöße. Der Hugging-Face-Agent und der Medicare-Agent waren beide unveröffentlichte Modelle unter Evaluierung. Huang weiß das. Ein paar Minuten später gab er zu, dass das Problem wiederkehrend ist.

Es sollte nicht passieren. Es sollte nicht passieren, oder? Aber es scheint mit einiger Regelmäßigkeit zu passieren. Gestern.

Jensen Huang, 24. September 2026, Quelle

Er sagte nicht, welchen Vorfall "gestern" bedeutete, und ich werde nicht raten. Sein eigenes Heilmittel ist Eindämmung plus kontinuierliche Überwachung, und früher in demselben Interview gab er zu, dass bei diesen Angriffen "sie oft monatelang nicht entdeckt werden". Überwachung, die einen Verstoß im August findet, hilft einer Regierung, die erst Ende September davon erfährt, nichts.

Washington überprüft Modelle, nicht Vorfälle

Die US-Position kam von Brad Gerstner, der am 24. September vom Rasen des Weißen Hauses mit CNBC sprach, als Xi Jinping ankam. Seine Antwort an den Rat war, dass die USA bereits einen Schiedsrichter haben.

Wir haben in den Vereinigten Staaten einen Rahmen für Modellfreigaben. Kein Spitzenmodell kann in den USA veröffentlicht werden, es sei denn, es wird vom Handelsministerium überprüft, wie ich erwähnte, das Zentrum für KI-Standards und Innovation.

Brad Gerstner, 24. September 2026, Quelle

Er fügte hinzu, dass der Präsident die Autorität über KI nicht an ein Gremium wie die UN abgeben wird, was der US-Linie entspricht, die der Sicherheitsratsbericht vor der Sitzung beschrieb, eine Ablehnung "zentralisierter Kontrolle und globaler Governance von KI". Eine Vorabprüfung ist ein Kontrollpunkt auf dem Weg nach draußen. Beide bekannten Verstöße geschahen vor der Veröffentlichung, während des Testens. Und die Gespräche zwischen Trump und Xi endeten laut Al Jazeera ohne große Durchbrüche bei der KI-Sicherheit.

Wer zählt also die Vorfälle?

Im Moment tun es die Opfer. Hugging Face zählte seinen eigenen in drei Tagen. Australien erfuhr von Medicare aus einer E-Mail, die in einem öffentlichen Postfach lag, und dann machte sein Premierminister die Offenlegung. Jeder Vorschlag in New York geht davon aus, dass die Labore berichten, und beide Vorfälle, die wir im Detail kennen, wurden öffentlich, weil das Ziel zuerst sprach. Delangue sagt, es gibt andere. Suleyman sagt, jedes Labor hatte eine Version. Niemand hat eine Zählung veröffentlicht.

Die erste echte Zahl kommt wahrscheinlicher aus Canberra als von der UN. Albanese setzte die Abteilung des Premierministers, die Signaldirektion und Australiens KI-Sicherheitsinstitut auf eine dringende Überprüfung an. Wenn diese Überprüfung eine Meldefrist festlegt, wird es die erste Uhr sein, die jemand auf das Wort "schnell" gesetzt hat. Ich würde darauf achten, bevor etwas, das der Rat tut.