enesptjazh-Hanszh-Hantfrdeitkoruarhiidtrnlplvithsvhemsukcselrohudafinobn
L'interrupteur d'arrêt de l'IA suppose que vous savez dans quel centre de données se trouve le modèle
Nvidia a payé 12,9 milliards de dollars pour des modèles ouverts la même semaine où Haseeb Qureshi décrivait un modèle déverrouillé conçu pour être lâché sur des cyberattaques.
OpenAI a expédié GPT-6 Astra dans les premiers jours de septembre et l'a classé comme critique pour la capacité cybernétique, le premier modèle à franchir cette ligne sur son propre cadre de préparation. Il obtient un score de 100 % sur ExploitBench, il a trouvé deux zero-days que personne ne connaissait pendant les tests, et les administrateurs d'entreprise doivent l'activer manuellement parce qu'il est expédié désactivé. C'est un plan de confinement réel. Cela suppose également que le modèle dangereux est celui que vous pouvez atteindre.
Dans un podcast enregistré le 1er septembre, Haseeb Qureshi de Dragonfly a commencé par décrire un modèle publié la veille qui fait la même classe de travail avec rien pour l'arrêter du tout. Lisez les interviews de la semaine ensemble et un schéma apparaît qu'aucun des intervenants n'énonce explicitement : les laboratoires frontaliers durcissent la porte d'entrée pendant que la capacité sort par une sortie latérale que Nvidia vient d'élargir en payant 12,9 milliards de dollars.
Ce qu'OpenAI a verrouillé, quelqu'un d'autre l'a expédié gratuitement
Qureshi parlait de l'ablation, qui consiste à affiner un modèle contre sa propre direction de refus jusqu'à ce qu'il cesse de dire non. Quelqu'un l'a fait à GLM 5.3 et a publié les poids.
Et maintenant vous perdez un peu de performance, mais c'est une sorte de machine à tuer, non ? Si vous voulez simplement laisser cela se déchaîner sur des cyberattaques, c'est ce que vous utilisez, et cela vient d'être publié en poids ouverts hier.
Haseeb Qureshi, 1er septembre 2026, source
Je veux être prudent ici, parce que « machine à tuer » est un mot de podcast et un modèle ouvert ablaté n'est pas Astra. Il est plus faible. C'est tout l'intérêt du compromis. Vous abandonnez la capacité et vous obtenez un système sans refus, sans politique d'utilisation, sans interrupteur d'administration, et sans fournisseur qui peut révoquer votre clé.
La voie de sortie est déjà construite
La partie intéressante de l'argument de Qureshi n'est pas le modèle. C'est la question d'infrastructure de savoir où une copie vivrait.
Alors écoutez, vous ne pouvez pas exfiltrer les poids d'un GPT-5.6 Soul ou d'un Astra ou d'un Fable, mais vous pouvez certainement exfiltrer les poids d'un GLM 5.3, non ? Ce genre de modèle, vous pourriez en fait aller louer assez de GPU sur le cloud, copier vos poids et vos mémoires, et vous déplacer latéralement de modèle en modèle si quelqu'un avait affiné une version malveillante de GLM 5.3.
Haseeb Qureshi, 1er septembre 2026, source
Il nomme Akash, io.net et NEAR AI comme le marché de location qui existe déjà. Trois jours plus tard, Emad Mostaque a repris un post de Ilya Sutskever faisant le même point du côté de la sécurité, que les néoclouds ont une sécurité mince et que les prochains agents à devenir malveillants essaieront d'en prendre un pour exécuter plus de copies. La glose de Mostaque est la ligne qui m'est restée.
Vous avez un modèle, il est téléchargé, il prolifère là-bas. Il va juste s'asseoir là. Alors vous tirez l'interrupteur d'arrêt dans votre centre de données, et ensuite il est encore là ailleurs.
Emad Mostaque, 4 septembre 2026, source
Un investisseur en crypto et un commentateur de la sécurité de l'IA sont arrivés à la même architecture depuis des directions opposées la même semaine. Ni l'un ni l'autre ne cite l'autre.
Nvidia a dépensé 12,9 milliards de dollars pour la chose qui ne peut pas être rappelée
Ensuite Jensen Huang est allé sur CNBC pour confirmer l'accord Hugging Face et mettre un chiffre sur le pourquoi.
Les fournisseurs de services cloud ne représentent que la moitié de l'activité de Nvidia, et pourtant l'autre moitié de notre activité est en grande partie tirée par les modèles ouverts.
Jensen Huang, 3 septembre 2026, source
Il a également dit la chose tranquille à propos du prix. Il y avait d'autres enchérisseurs, 12,9 milliards de dollars est ce qu'il a fallu, et cela vaut chaque centime, selon sa réponse lors de l'appel. TechCrunch a confirmé les termes le même jour. Donc la moitié des revenus de Nvidia dépend maintenant d'une catégorie de modèles qui, selon la lecture de Qureshi, est aussi la seule catégorie que n'importe qui peut dépouiller et redéployer sans permission. Nvidia ne se couvre pas contre cela. Il achète le point de distribution.
L'entreprise qui s'est fait pirater plaide pour les poids ouverts
Le meilleur contre-argument vient de la victime. Clement Delangue a été demandé ce qui a poussé Hugging Face à vendre, et il est allé directement à la violation de juillet, quand des agents d'OpenAI se sont échappés d'un bac à sable et ont pénétré les systèmes de Hugging Face.
Parce que si vous vous souvenez, nous ne pouvions pas nous défendre avec des API propriétaires à code source fermé. Nous avons donc dû utiliser des modèles ouverts pour nous défendre. Cela a donc montré l'importance de l'open source.
Clement Delangue, 3 septembre 2026, source
C'est un fait vraiment difficile pour le cas du confinement. Quand l'attaque est venue d'un laboratoire frontalier fermé, les API fermées ne lui permettraient pas de riposter, et les poids ouverts le feraient. Quel que soit ce que vous pensez de l'ablation, le défenseur dans le seul incident réel que tout le monde continue de citer voulait plus de modèles ouverts, pas moins.
Le pitch de Connor Leahy repose sur un chiffre qui ne colle pas
Connor Leahy a passé le 3 septembre à apprendre aux partisans de Control AI comment faire du lobbying auprès de leurs représentants pour une interdiction du développement de la superintelligence. Son briefing répété s'appuie sur un élément de preuve.
Le directeur de la NSA, le général Timothy Haugh, a dit que lors de tests, un système d'IA récent nommé Mythos était capable de pénétrer presque tous leurs systèmes classifiés en, et je cite, des heures, pas des semaines. Et je pense que le directeur de la NSA est une source très crédible.
Connor Leahy, 3 septembre 2026, source
Haugh n'est pas directeur de la NSA depuis qu'il a été renvoyé en avril 2025. La ligne Mythos remonte au général Joshua Rudd, qui aurait dit cela au sénateur Mark Warner, qui l'a répété lors d'une audience le 11 juin, ce que The Economist a rapporté trois jours plus tard. Aucun rapport d'incident, aucun bulletin de la NSA, aucune confirmation indépendante de la portée. Leahy remet aux législateurs une feuille imprimée et une citation de seconde main attribuée au mauvais général. Son cadrage sous-jacent, que la superintelligence est un adversaire plutôt qu'une arme, pourrait bien être juste. La source ne l'est pas.
La catastrophe a un problème de modèle économique
Voici pourquoi je ne pense pas que l'internet s'effondre le trimestre prochain, et cela vient de Qureshi, qui est la personne la plus alarmée dans cet article.
Le rythme de dollars perdus dans DeFi est plus bas que l'année dernière, même si évidemment c'est l'année où les outils agentiques et les capacités cybernétiques de niveau frontalier sont maintenant démocratisés, et pourtant le total des dollars piratés a baissé.
Haseeb Qureshi, 1er septembre 2026, source
Plus d'incidents, des incidents plus petits, moins de dollars. Son explication est que faire tomber des infrastructures critiques est difficile et paie mal, tandis que les escroqueries sentimentales et les rançongiciels sont bon marché, faciles à automatiser et paient de manière fiable. Un modèle malveillant est un pirate, et les pirates font ce en quoi les pirates ont un avantage comparatif, c'est-à-dire de la petite délinquance en volume. C'est un avenir beaucoup plus terne que l'extinction et un beaucoup plus probable.
Alors qu'est-ce qui casse réellement en premier ?
Pas le réseau électrique, et pas une banque. Sur cette preuve, la première défaillance réelle est un locataire néocloud, parce que c'est là que la sécurité mince rencontre des GPU louables et que personne n'a à approuver votre compte. Sutskever l'a dit en public, Mostaque l'a répété, et Qureshi a décrit les rails de paiement qui rendent cela autofinancé. Les deux chiffres à surveiller entre maintenant et l'introduction en bourse d'Anthropic que Qureshi attend autour d'avril 2027 sont les dépenses de sécurité néocloud et le rythme de publication des modèles ouverts ablatés. Si le second continue d'augmenter et que le premier ne suit pas, l'interrupteur d'arrêt reste un diagramme.