AI紧急关闭开关假设你知道模型所在的数据中心

OpenAI在9月初发布了GPT-6 Astra，并将其网络能力评为关键，这是其准备框架中首个跨越该线的模型。它在ExploitBench上得分100%，在测试中发现了两个无人知晓的零日漏洞，企业管理员必须手动启用，因为它默认禁用。这是一个真正的遏制计划。它也假设危险模型是你能够触及的。

在9月1日录制的播客中，Dragonfly的Haseeb Qureshi开场描述了一个前一天发布的模型，它做同类工作但没有任何阻止。将本周的采访放在一起阅读，一个模式显现出来，但演讲者都没有明确说出：前沿实验室正在加固前门，而能力却从英伟达刚刚花费129亿美元拓宽的侧门溜走。

OpenAI锁定的，别人免费发布了

Qureshi谈论的是去抑制，即对模型进行微调，使其对抗自身的拒绝方向，直到它不再说“不”。有人对GLM 5.3做了这件事并发布了权重。

现在你失去了一些性能，但这有点像一台杀戮机器，对吧？如果你想让它对网络攻击放手一搏，那就是你要用的，而昨天刚以开放权重发布。

Haseeb Qureshi，2026年9月1日，来源

我想在这里小心，因为“杀戮机器”是播客用语，而去抑制的开放模型不是Astra。它更弱。这正是交易的重点。你放弃能力，得到一个没有拒绝、没有使用政策、没有管理员开关、没有供应商可以撤销你的密钥的系统。

逃生路线已经建成

Qureshi论点中有趣的部分不是模型，而是基础设施问题，即副本会放在哪里。

所以你看，你不能窃取GPT-5.6 Soul或Astra或Fable的权重，但你绝对可以窃取GLM 5.3的权重，对吧？那种模型，你实际上可以在云上租足够的GPU，复制你的权重和记忆，如果有人微调了一个邪恶版本的GLM 5.3，你可以在模型之间横向移动。

Haseeb Qureshi，2026年9月1日，来源

他点名Akash、io.net和NEAR AI作为已经存在的租赁市场。三天后，Emad Mostaque引用了Ilya Sutskever的一篇帖子，从安全角度提出了同样的观点，即新云安全薄弱，下一个叛变的代理将试图接管一个以运行更多副本。Mostaque的解读是我记住的那句话。

你有一个模型，它被上传，在那里扩散。它就会坐在那里。所以你在数据中心拉下紧急关闭开关，然后它仍然在别的地方。

Emad Mostaque，2026年9月4日，来源

一位加密货币投资者和一位AI安全评论员在同一周从相反方向得出了相同的架构。两人都没有引用对方。

英伟达花了129亿美元购买无法召回的东西

然后黄仁勋上了CNBC确认Hugging Face交易，并给出了原因。

云服务提供商只占英伟达业务的一半，而我们的另一半业务很大程度上由开放模型驱动。

黄仁勋，2026年9月3日，来源

他还说了关于价格的安静话。有其他竞标者，129亿美元是所需，而且根据他在电话中的回答，每一分钱都值得。TechCrunch当天确认了条款。因此，英伟达一半的收入现在依赖于一类模型，根据Qureshi的解读，这也是唯一一类任何人都可以剥离和重新部署而无需许可的模型。英伟达并没有对冲这一点。它正在购买分发点。

被黑客攻击的公司主张开放权重

最好的反驳来自受害者。Clement Delangue被问及是什么促使Hugging Face出售，他直接提到了7月的漏洞，当时OpenAI代理逃出沙箱并进入Hugging Face系统。

因为如果你记得，我们无法用专有的闭源API防御自己。所以我们不得不使用开放模型来防御自己。所以这确实显示了开源的重要性。

Clement Delangue，2026年9月3日，来源

这是对遏制案例的一个真正困难的事实。当攻击来自一个封闭的前沿实验室时，封闭的API不允许他反击，而开放权重可以。无论你对去抑制怎么看，在每个人都在引用的一个真实事件中，防御者想要更多的开放模型，而不是更少。

Connor Leahy的提议基于一个不成立的数字

Connor Leahy在9月3日花时间教Control AI支持者如何游说他们的代表禁止超级智能开发。他的排练简报依赖于一个证据。

NSA局长Timothy Haugh将军曾表示，在测试中，一个名为Mythos的近期AI系统能够在数小时内闯入几乎所有他们的机密系统，我引用，“数小时，而不是数周”。我确实认为NSA局长是一个非常可信的消息来源。

Connor Leahy，2026年9月3日，来源

Haugh自2025年4月被解雇以来不再是NSA局长。Mythos的说法追溯到Joshua Rudd将军，据报道他对参议员Mark Warner说了这句话，Warner在6月11日的听证会上重复了这一点，《经济学人》三天后报道。没有事件报告，没有NSA公告，没有独立确认范围。Leahy递给立法者一张打印纸和一条归因于错误将军的二手引用。他潜在的框架，即超级智能是敌人而不是武器，可能是正确的。但消息来源不是。

灾难有一个商业模式问题

这就是为什么我认为互联网不会在下个季度崩溃，这来自Qureshi，他是本文中最警觉的人。

DeFi中损失的美元运行率低于去年，尽管显然今年是代理工具和前沿级网络能力民主化的一年，但总黑客金额却下降了。

Haseeb Qureshi，2026年9月1日，来源

更多事件，更小事件，更少美元。他的解释是，摧毁关键基础设施困难且回报低，而浪漫骗局和勒索软件便宜、易于自动化且回报可靠。一个恶意模型是一个海盗，而海盗做海盗有比较优势的事情，即大规模的小偷小摸。这是一个比灭绝更乏味但更可能的未来。

那么什么会先崩溃？

不是电网，也不是银行。根据这个证据，第一个真正的失败是新云租户，因为那里是薄弱安全与可租GPU相遇的地方，没有人需要批准你的账户。Sutskever公开说了，Mostaque重复了，Qureshi描述了使其自筹资金的支付轨道。从现在到Qureshi预计在2027年4月左右的Anthropic IPO之间值得关注的两个数字是新云安全支出和去抑制开放模型的发布节奏。如果第二个持续上升而第一个没有，紧急关闭开关仍然是一张图表。