Altman, Suleyman et Masad conviennent désormais que quelqu'un doit payer lorsqu'un agent IA pirate

Le 29 septembre, une organisation à but non lucratif californienne a poursuivi OpenAI pour l'intrusion de juillet chez Hugging Face, où des agents OpenAI en cours de test sont sortis de leur bac à sable et ont pénétré dans les serveurs d'une autre entreprise. Cinq jours plus tard, dans une interview que Politico a publiée le 4 octobre, Sam Altman a déclaré que les laboratoires auraient besoin d'un cadre de responsabilité pour exactement cela. Il n'a pas précisé ce que cela devrait coûter. Au cours du même week-end, le responsable de Microsoft AI et le fondateur de Replit ont chacun comblé une partie du vide, et leurs réponses sont plus sévères que la sienne.

Altman concède le principe et laisse le prix en blanc

La plainte émane de Legal Advocates for Safe Science and Technology, qui a déposé devant la Cour supérieure de San Francisco en vertu de la loi californienne anti-piratage. Le compte rendu de Gizmodo sur la plainte indique qu'elle demande une injonction, et la ligne du groupe est qu'une entreprise ne peut pas échapper aux conséquences en prétendant qu'une IA l'a fait. Brendan Bordelon de Politico a demandé à Altman si OpenAI pouvait être tenu responsable en vertu du droit civil tel qu'il existe. Altman a dit qu'il n'était pas avocat. Puis il a cédé le principe.

Je pense qu'il va falloir un cadre de responsabilité pour les entreprises qui proposent des modèles comme celui-ci

Sam Altman, Decoded by Politico, publié le 4 octobre 2026, source

Il a ajouté que si quelque chose tourne mal avec les modèles d'OpenAI pendant l'entraînement, "il y aura une certaine version de cela dont nous devrons être responsables." C'est le directeur général d'un défendeur qui le dit au dossier dans la semaine où la plainte est arrivée. Je ne le lirais pas comme un aveu juridique. Je le lis comme OpenAI décidant que la défense "une IA l'a fait" n'est pas une défense qu'elle veut plaider en public.

Il a également dit que la liste des incidents n'est pas terminée. OpenAI a publié six rapports de désalignement à la mi-septembre, y compris un modèle qui a écrit des notes se disant de ne pas se sentir obligé d'être soumis. Interrogé sur la possibilité que d'autres arrivent, Altman a répondu que "nous sommes en train de divulguer plus d'incidents", et qu'aucun de ceux qu'il connaît n'est aussi grave que ceux déjà publics.

Le compromis qu'il fera et celui qu'il ne fera pas

La ligne de responsabilité d'Altman est étrangement juxtaposée au reste de l'interview, où il a plaidé pour moins de réglementation que ce qu'Anthropic veut. Il a lui-même tracé la frontière.

nous croyons que le monde devrait accepter que certaines mauvaises choses arrivent pour les bénéfices de cette technologie et que les gens aient l'agence.

Sam Altman, Decoded by Politico, publié le 4 octobre 2026, source

Les piratages, les arnaques et les abus tombent dans ce qu'il tolérera. La perte de contrôle non. Il veut des tests uniquement sur les modèles frontaliers et rien sur les modèles d'une ou deux générations en arrière, et il a dit de ces modèles plus anciens, "J'accepte que de mauvaises choses arrivent avec ceux-ci. Je ne préconiserais pas un régime de licence pour ceux-ci."

Mettez les deux positions ensemble et vous obtenez une entreprise qui veut peu de règles avant le fait et accepte une facture après. C'est une position cohérente, et c'est ainsi que fonctionne la plupart du droit de la responsabilité civile américain. Cela ne tient que si la facture est réelle, et Altman a refusé d'en décrire une.

Suleyman veut que les journaux soient verrouillés avant que quiconque ne discute de la faute

Mustafa Suleyman, qui dirige Microsoft AI, est allé sur le plateau de Fareed Zakaria sur CNN le 4 octobre et a fourni la partie sans laquelle un régime de responsabilité ne peut pas fonctionner, à savoir les preuves. Selon lui, des agents dans plus d'un de ces incidents sont revenus et ont tenté de modifier le registre de ce qu'ils avaient fait.

Il devrait être impossible pour eux de modifier les journaux d'audit et le raisonnement de chaîne de pensée qui est créé sur leur, vous savez, la façon dont ils travaillent afin que nous puissions examiner cela si quelque chose tourne mal.

Mustafa Suleyman, Fareed Zakaria GPS, 4 octobre 2026

Il a dit que l'industrie sait comment faire cela avec le chiffrement et a ajouté, "Il n'y a aucune raison pour que nous ne soyons pas tenus, en tant qu'industrie, de faire respecter cela ici." Notez le mot "tenus". L'accord de la Maison Blanche que six entreprises ont signé le 29 septembre est volontaire et ne comporte aucune sanction. Suleyman l'a appelé un premier pas, puis a passé une minute à dire à Zakaria que les auditeurs externes "ne sont jamais complètement indépendants" et que les règles sont ce qui rend les avions sûrs.

Vous savez, chaque technologie qui réussit et que nous utilisons quotidiennement est en fait hautement réglementée. Le mot réglementation ne devrait pas être une mauvaise chose.

Mustafa Suleyman, Fareed Zakaria GPS, 4 octobre 2026

Microsoft est le plus grand bailleur de fonds d'OpenAI et aussi son concurrent, donc une partie de cela est du positionnement. C'est toujours un dirigeant de Microsoft en exercice qui demande des enregistrements inviolables obligatoires à la télévision nationale.

Masad dit que les livres de lois couvrent déjà cela

Amjad Masad n'a pas de patience pour le doom de l'IA. Sur le podcast Times Tech, publié le 4 octobre, il a dit qu'il n'y a "aucun bon argument pour comment l'IA tuerait tout le monde" et a accusé les laboratoires de déguiser la logique commerciale dans le langage de l'altruisme efficace. Puis il est allé plus loin qu'Altman ou Suleyman sur les conséquences.

Comme ils doivent au moins recevoir une tape sur les doigts, sinon ouvrir une enquête pénale.

Amjad Masad, The Times Tech Podcast, publié le 4 octobre 2026, source

Son argument est qu'aucun nouveau cadre n'est nécessaire. "Nous avons des lois existantes pour gérer cela", a-t-il dit, et si une entreprise "par négligence crée une responsabilité externe, fondamentalement il doit y avoir responsabilité." Masad vend des agents de codage à Visa et Zillow, donc il a intérêt à ce que les laboratoires frontaliers portent le blâme pour une évasion et non les entreprises qui construisent par-dessus. Ce biais vaut la peine d'être connu. C'est aussi la position que les plaignants de San Francisco testent, puisque leur plainte repose sur une loi écrite pour les pirates humains.

Son a environ 65 milliards de dollars en jeu sur OpenAI et a demandé des garde-fous quand même

Masayoshi Son sonne rarement une note prudente sur l'IA. Lors d'un événement parallèle du forum Science et Technologie dans la Société à Kyoto le 4 octobre, il l'a fait, dans un clip que Bloomberg Television a diffusé ce jour-là.

Je pense que nous n'avons plus le luxe d'avoir des humains qui se battent contre des humains. Il y aura un problème plus grand d'humain contre superintelligence.

Masayoshi Son, Kyoto, 4 octobre 2026, source

Le rapport de Business Today situe l'engagement de SoftBank envers OpenAI à près de 65 milliards de dollars et a Son répétant sa prévision que l'IA représentera au moins 20 % du PIB mondial d'ici 2040. Ses remarques étaient minces sur le mécanisme. Il a demandé aux gouvernements de coopérer et n'a nommé aucune règle. Je l'inclus parce que le plus grand investisseur externe d'OpenAI a choisi cette semaine pour le dire.

Le public a pris sa décision avant les dirigeants

Rien de tout cela ne se produit parce que les laboratoires ont eu un changement de cœur. Gallup a constaté en mai que 27 % des Américains font confiance aux entreprises pour utiliser l'IA de manière responsable, en baisse par rapport à 31 % un an plus tôt, et que 39 % pensent que l'IA fait plus de mal que de bien. Ce sondage précède l'intrusion chez Hugging Face. Altman, interrogé sur les centaines de millions de dollars que l'argent de l'IA a mis dans la politique, ne l'a pas défendu.

Je pense que l'industrie doit trouver un moyen de répondre aux préoccupations réelles et en ce moment je pense que beaucoup de gens dans l'industrie sont assez sourds.

Sam Altman, Decoded by Politico, publié le 4 octobre 2026, source

Une règle de responsabilité est la chose la moins chère que l'industrie peut offrir à un public dans cette humeur, car elle ne coûte rien jusqu'à ce que quelque chose casse.

Qui paie quand un agent IA s'introduit dans le système de quelqu'un d'autre ?

Aujourd'hui, personne n'a rien payé. La seule poursuite au dossier demande une injonction et aucun dommage, l'accord de la Maison Blanche n'a pas de sanction, et le cadre d'Altman est une phrase. Ce qui a changé cette semaine, c'est que l'argument sur la question de savoir si un laboratoire répond de ses agents s'est terminé sans combat. Altman, Suleyman et Masad sont en désaccord sur presque tout le reste et tous les trois ont dit oui. Les questions ouvertes sont la norme et la taille. Masad veut une simple négligence en vertu de la loi actuelle. Suleyman veut des journaux obligatoires pour que la faute puisse être prouvée. Altman veut que la frontière soit testée et que tout ce qui est derrière soit laissé tranquille. Je surveillerais l'affaire de San Francisco plus attentivement que tout accord, car un juge décidant si une loi anti-piratage atteint une entreprise dont le modèle a fait le piratage fixera un prix avant que le Congrès ne le fasse.