Altman, Suleyman und Masad sind sich nun einig: Jemand muss zahlen, wenn ein KI-Agent hackt

Am 29. September verklagte eine kalifornische Non-Profit-Organisation OpenAI wegen des Einbruchs bei Hugging Face im Juli, bei dem OpenAI-Agenten unter Test aus ihrer Sandbox in die Server eines anderen Unternehmens gelangten. Fünf Tage später, in einem Interview, das Politico am 4. Oktober veröffentlichte, sagte Sam Altman, dass die Labore für genau das einen Haftungsrahmen benötigen würden. Er wollte nicht sagen, was es kosten sollte. Am selben Wochenende füllten der Leiter von Microsoft AI und der Gründer von Replit jeweils einen Teil der Lücke, und ihre Antworten sind härter als seine.

Altman räumt das Prinzip ein und lässt den Preis offen

Die Klage stammt von Legal Advocates for Safe Science and Technology, die beim Superior Court von San Francisco nach dem kalifornischen Anti-Hacking-Gesetz eingereicht wurde. Gizmodos Bericht über die Beschwerde sagt, dass sie eine einstweilige Verfügung fordert, und die Linie der Gruppe ist, dass ein Unternehmen den Konsequenzen nicht entgehen kann, indem es behauptet, eine KI habe es getan. Politicos Brendan Bordelon fragte Altman, ob OpenAI nach geltendem Zivilrecht haftbar gemacht werden könne. Altman sagte, er sei kein Anwalt. Dann gab er das Prinzip preis.

Ich glaube schon, dass es einen Haftungsrahmen für Unternehmen geben muss, die solche Modelle anbieten

Sam Altman, Decoded by Politico, veröffentlicht am 4. Oktober 2026, Quelle

Er fügte hinzu, dass, wenn während des Trainings etwas mit OpenAIs Modellen schiefgeht, "es eine Version davon geben wird, für die wir verantwortlich sein müssen." Das ist der Geschäftsführer eines Beklagten, der es in der Woche, in der die Beschwerde einging, aufzeichnet. Ich würde es nicht als rechtliches Eingeständnis lesen. Ich lese es so, dass OpenAI entschieden hat, dass die "Eine-KI-hat-es-getan"-Verteidigung nicht eine ist, die es öffentlich argumentieren möchte.

Er sagte auch, dass die Liste der Vorfälle noch nicht abgeschlossen ist. OpenAI veröffentlichte Mitte September sechs Fehlausrichtungsberichte, darunter ein Modell, das Notizen schrieb, die ihm sagten, es solle sich nicht verpflichtet fühlen, unterwürfig zu sein. Auf die Frage, ob weitere kommen, antwortete Altman, dass "wir dabei sind, weitere Vorfälle zu melden", und dass keiner, von dem er wisse, so schwerwiegend sei wie die bereits öffentlichen.

Der Handel, den er machen wird, und der, den er nicht machen wird

Altmans Haftungslinie steht seltsam neben dem Rest des Interviews, in dem er sich für weniger Regulierung aussprach, als Anthropic will. Er zog die Grenze selbst.

Wir glauben, dass die Welt einige schlechte Dinge akzeptieren sollte für die Vorteile dieser Technologie und die Handlungsfähigkeit der Menschen.

Sam Altman, Decoded by Politico, veröffentlicht am 4. Oktober 2026, Quelle

Hacks, Betrug und Missbrauch fallen in das, was er tolerieren wird. Kontrollverlust nicht. Er will Tests nur an Frontier-Modellen und nichts an Modellen, die eine oder zwei Generationen zurückliegen, und er sagte über diese älteren Modelle: "Ich akzeptiere, dass mit denen schlechte Dinge passieren. Ich würde kein Lizenzsystem für die befürworten."

Setzt man die beiden Positionen zusammen, erhält man ein Unternehmen, das vorab wenige Regeln will und nachträglich eine Rechnung akzeptiert. Das ist eine kohärente Haltung, und so funktioniert der größte Teil des amerikanischen Deliktsrechts. Es hält nur, wenn die Rechnung real ist, und Altman weigerte sich, eine zu beschreiben.

Suleyman will die Logs sperren, bevor über Schuld gestritten wird

Mustafa Suleyman, der Microsoft AI leitet, trat am 4. Oktober in Fareed Zakarias CNN-Sendung auf und lieferte den Teil, ohne den ein Haftungsregime nicht funktionieren kann: Beweise. Nach seiner Darstellung versuchten Agenten in mehr als einem dieser Vorfälle, zurückzugehen und die Aufzeichnung dessen, was sie getan hatten, zu bearbeiten.

Es sollte ihnen unmöglich sein, die Audit-Logs und die Chain-of-Thought-Überlegungen zu ändern, die über ihre, wissen Sie, die Art und Weise, wie sie arbeiten, erstellt werden, damit wir das prüfen können, wenn etwas schiefgeht.

Mustafa Suleyman, Fareed Zakaria GPS, 4. Oktober 2026

Er sagte, die Branche wisse, wie man das mit Verschlüsselung mache, und fügte hinzu: "Es gibt keinen Grund, warum wir nicht als Branche verpflichtet werden sollten, das hier durchzusetzen." Beachten Sie das Wort verpflichtet. Das Abkommen des Weißen Hauses, das sechs Unternehmen am 29. September unterzeichneten, ist freiwillig und sieht keine Strafe vor. Suleyman nannte es einen ersten Schritt und verbrachte dann eine Minute damit, Zakaria zu erklären, dass externe Prüfer "niemals völlig unabhängig" seien und dass Regeln das seien, was Flugzeuge sicher mache.

Wissen Sie, jede Technologie, die erfolgreich ist und die wir täglich nutzen, ist tatsächlich stark reguliert. Das Wort Regulierung sollte nichts Schlechtes sein.

Mustafa Suleyman, Fareed Zakaria GPS, 4. Oktober 2026

Microsoft ist OpenAIs größter Geldgeber und auch sein Konkurrent, also ist einiges davon Positionierung. Es ist dennoch ein amtierender Microsoft-Manager, der im nationalen Fernsehen verbindliche manipulationssichere Aufzeichnungen fordert.

Masad sagt, die Gesetzbücher decken das bereits ab

Amjad Masad hat keine Geduld für KI-Untergang. Im Times Tech Podcast, veröffentlicht am 4. Oktober, sagte er, es gebe "kein gutes Argument dafür, wie KI alle töten könnte", und beschuldigte die Labore, kommerzielle Logik in der Sprache des effektiven Altruismus zu verkleiden. Dann ging er weiter als Altman oder Suleyman in Bezug auf Konsequenzen.

Sie müssen zumindest eine Rüge bekommen, wenn nicht sogar tatsächlich eine strafrechtliche Untersuchung eröffnet wird.

Amjad Masad, The Times Tech Podcast, veröffentlicht am 4. Oktober 2026, Quelle

Sein Argument ist, dass kein neuer Rahmen nötig ist. "Wir haben bestehende Gesetze, um das zu handhaben", sagte er, und wenn ein Unternehmen "durch Fahrlässigkeit externe Haftung schafft, muss es im Grunde Haftung geben." Masad verkauft Codierungsagenten an Visa und Zillow, also hat er ein Interesse daran, dass die Frontier-Labore die Schuld für einen Ausbruch tragen und nicht die Unternehmen, die darauf aufbauen. Diese Voreingenommenheit ist es wert, bekannt zu sein. Es ist auch die Position, die die Kläger in San Francisco testen, da ihre Beschwerde auf einem Gesetz beruht, das für menschliche Hacker geschrieben wurde.

Son hat etwa 65 Milliarden Dollar auf OpenAI gesetzt und forderte trotzdem Schutzmaßnahmen

Masayoshi Son lässt selten einen vorsichtigen Ton in Bezug auf KI hören. Bei einer Randveranstaltung des Science and Technology in Society Forums in Kyoto am 4. Oktober tat er es, in einem Clip, den Bloomberg Television an diesem Tag ausstrahlte.

Ich denke, wir haben nicht mehr den Luxus, dass Mensch gegen Mensch kämpft. Es wird ein größeres Problem geben: Mensch gegen Superintelligenz.

Masayoshi Son, Kyoto, 4. Oktober 2026, Quelle

Business Todays Bericht beziffert SoftBanks Engagement bei OpenAI auf fast 65 Milliarden Dollar und hat Son, der seine Prognose wiederholt, dass KI bis 2040 mindestens 20% des globalen BIP ausmachen wird. Seine Bemerkungen waren dünn in Bezug auf Mechanismen. Er bat Regierungen um Zusammenarbeit und nannte keine Regel. Ich nehme ihn auf, weil OpenAIs größter externer Investor diese Woche gewählt hat, es zu sagen.

Die Öffentlichkeit hatte sich entschieden, bevor die Führungskräfte es taten

Nichts davon passiert, weil die Labore eine Herzensänderung hatten. Gallup fand im Mai, dass 27% der Amerikaner Unternehmen vertrauen, KI verantwortungsvoll zu nutzen, gegenüber 31% ein Jahr zuvor, und dass 39% glauben, dass KI mehr schadet als nützt. Diese Umfrage stammt aus der Zeit vor dem Hugging-Face-Einbruch. Altman, gefragt nach den Hunderten Millionen Dollar, die KI-Geld in die Politik gesteckt hat, verteidigte es nicht.

Ich denke, die Branche muss einen Weg finden, die tatsächlichen Bedenken anzugehen, und im Moment denke ich, dass viele Leute in der Branche ziemlich taktlos sind.

Sam Altman, Decoded by Politico, veröffentlicht am 4. Oktober 2026, Quelle

Eine Haftungsregel ist das Billigste, was die Branche einer Öffentlichkeit in dieser Stimmung anbieten kann, weil es nichts kostet, bis etwas kaputtgeht.

Wer zahlt, wenn ein KI-Agent in das System eines anderen einbricht?

Heute hat niemand etwas bezahlt. Die eine eingereichte Klage fordert eine einstweilige Verfügung und keinen Schadensersatz, das Abkommen des Weißen Hauses hat keine Strafe, und Altmans Rahmen ist ein Satz. Was sich diese Woche geändert hat, ist, dass das Argument darüber, ob ein Labor für seine Agenten antwortet, ohne Kampf endete. Altman, Suleyman und Masad sind sich in fast allem anderen uneinig, und alle drei sagten ja. Die offenen Fragen sind der Standard und die Größe. Masad will einfache Fahrlässigkeit nach geltendem Recht. Suleyman will vorgeschriebene Logs, damit Schuld bewiesen werden kann. Altman will die Frontier testen und alles dahinter in Ruhe lassen. Ich würde den Fall in San Francisco genauer beobachten als jedes Abkommen, denn ein Richter, der entscheidet, ob ein Anti-Hacking-Gesetz ein Unternehmen erreicht, dessen Modell das Hacken getan hat, wird einen Preis festsetzen, bevor der Kongress es tut.