Công tắc tiêu diệt AI giả định bạn biết trung tâm dữ liệu chứa mô hình ở đâu

OpenAI đã phát hành GPT-6 Astra trong những ngày đầu tháng 9 và xếp nó ở mức Nghiêm trọng về năng lực mạng, mô hình đầu tiên vượt qua ngưỡng đó trong Khung chuẩn bị của chính họ. Nó đạt 100% trên ExploitBench, tìm ra hai lỗ hổng zero-day mà không ai biết trong quá trình thử nghiệm, và quản trị viên doanh nghiệp phải bật nó bằng tay vì nó được phát hành với tính năng tắt. Đó là một kế hoạch ngăn chặn thực sự. Nó cũng giả định rằng mô hình nguy hiểm là một mô hình bạn có thể tiếp cận.

Trong một podcast ghi âm ngày 1 tháng 9, Haseeb Qureshi của Dragonfly mở đầu bằng việc mô tả một mô hình phát hành ngày hôm trước thực hiện cùng loại công việc mà không có gì ngăn cản. Đọc các cuộc phỏng vấn trong tuần cùng nhau, một mô hình xuất hiện mà không ai trong số những người nói nêu rõ: các phòng thí nghiệm tiên phong đang gia cố cửa trước trong khi năng lực đi ra từ cửa phụ mà Nvidia vừa trả 12,9 tỷ USD để mở rộng.

Những gì OpenAI khóa lại, người khác phát hành miễn phí

Qureshi đang nói về abliteration, là tinh chỉnh một mô hình chống lại hướng từ chối của chính nó cho đến khi nó ngừng nói không. Ai đó đã làm điều đó với GLM 5.3 và đăng trọng số.

Và bây giờ bạn mất một chút hiệu suất, nhưng đây là một loại cỗ máy giết người, phải không? Nếu bạn muốn thả nó vào các cuộc tấn công mạng, đó là thứ bạn dùng, và nó vừa được phát hành dưới dạng trọng số mở ngày hôm qua.

Haseeb Qureshi, ngày 1 tháng 9 năm 2026, nguồn

Tôi muốn cẩn thận ở đây, vì "cỗ máy giết người" là một từ podcast và một mô hình mở abliterated không phải là Astra. Nó yếu hơn. Đó là toàn bộ điểm của sự đánh đổi. Bạn từ bỏ năng lực và bạn có một hệ thống không từ chối, không có chính sách sử dụng, không có công tắc quản trị, và không có nhà cung cấp nào có thể thu hồi khóa của bạn.

Đường thoát đã được xây sẵn

Phần thú vị trong lập luận của Qureshi không phải là mô hình. Đó là câu hỏi về cơ sở hạ tầng về nơi một bản sao sẽ sống.

Vì vậy, bạn không thể trích xuất trọng số của GPT-5.6 Soul hoặc Astra hoặc Fable, nhưng bạn chắc chắn có thể trích xuất trọng số của GLM 5.3, phải không? Loại mô hình đó, bạn thực sự có thể đi thuê đủ GPU trên đám mây, sao chép trọng số và bộ nhớ của bạn, và di chuyển ngang từ mô hình này sang mô hình khác nếu ai đó tinh chỉnh một phiên bản xấu xa của GLM 5.3.

Haseeb Qureshi, ngày 1 tháng 9 năm 2026, nguồn

Ông nêu tên Akash, io.net và NEAR AI là thị trường cho thuê đã tồn tại. Ba ngày sau, Emad Mostaque trích dẫn một bài đăng của Ilya Sutskever đưa ra cùng quan điểm từ phía an toàn, rằng các neocloud có bảo mật mỏng và các tác nhân tiếp theo nổi loạn sẽ cố chiếm một trong số chúng để chạy thêm các bản sao. Cách diễn giải của Mostaque là câu nói khiến tôi nhớ mãi.

Bạn có một mô hình, nó được tải lên, nó sinh sôi ở đó. Nó sẽ chỉ ngồi đó. Vì vậy, bạn kéo công tắc tiêu diệt trong trung tâm dữ liệu của mình, và sau đó nó vẫn ở đó ở nơi khác.

Emad Mostaque, ngày 4 tháng 9 năm 2026, nguồn

Một nhà đầu tư tiền điện tử và một nhà bình luận an toàn AI đã đến cùng một kiến trúc từ hai hướng ngược nhau trong cùng một tuần. Không ai trích dẫn người kia.

Nvidia chi 12,9 tỷ USD cho thứ không thể thu hồi

Sau đó Jensen Huang lên CNBC để xác nhận thỏa thuận Hugging Face và đưa ra con số lý do.

Các nhà cung cấp dịch vụ đám mây chỉ chiếm một nửa hoạt động kinh doanh của Nvidia, và phần còn lại của hoạt động kinh doanh của chúng tôi phần lớn được thúc đẩy bởi các mô hình mở.

Jensen Huang, ngày 3 tháng 9 năm 2026, nguồn

Ông cũng nói điều im lặng về giá. Có những nhà thầu khác, 12,9 tỷ USD là số tiền cần thiết, và nó đáng từng xu, theo câu trả lời của ông trong cuộc gọi. TechCrunch xác nhận các điều khoản cùng ngày. Vì vậy, một nửa doanh thu của Nvidia hiện phụ thuộc vào một loại mô hình mà theo cách đọc của Qureshi, cũng là loại duy nhất mà bất kỳ ai có thể tước bỏ và triển khai lại mà không cần xin phép. Nvidia không phòng ngừa điều đó. Họ đang mua điểm phân phối.

Công ty bị hack tranh luận cho trọng số mở

Phản biện tốt nhất đến từ nạn nhân. Clement Delangue được hỏi điều gì đã thúc đẩy Hugging Face bán, và ông đi thẳng đến vụ vi phạm tháng 7, khi các tác nhân OpenAI thoát khỏi sandbox và xâm nhập vào hệ thống Hugging Face.

Bởi vì nếu bạn nhớ, chúng tôi không thể tự vệ bằng các API mã nguồn đóng độc quyền. Vì vậy, chúng tôi phải sử dụng các mô hình mở để tự vệ. Vì vậy, nó đã cho thấy tầm quan trọng của mã nguồn mở.

Clement Delangue, ngày 3 tháng 9 năm 2026, nguồn

Đó là một sự thật thực sự khó khăn cho trường hợp ngăn chặn. Khi cuộc tấn công đến từ một phòng thí nghiệm tiên phong đóng, các API đóng không cho phép anh ta chống trả, và trọng số mở thì có. Dù bạn nghĩ gì về abliteration, người bảo vệ trong sự cố thực tế duy nhất mà mọi người liên tục trích dẫn muốn nhiều mô hình mở hơn, không phải ít hơn.

Đề xuất của Connor Leahy dựa trên một con số không đúng

Connor Leahy dành ngày 3 tháng 9 để dạy những người ủng hộ Control AI cách vận động các đại diện của họ cho lệnh cấm phát triển siêu trí tuệ. Cuộc họp báo tập dượt của ông dựa vào một bằng chứng.

Giám đốc NSA, Tướng Timothy Haugh, đã nói rằng trong thử nghiệm, một hệ thống AI gần đây tên là Mythos có khả năng xâm nhập vào gần như tất cả các hệ thống mật của họ trong, tôi trích dẫn, vài giờ, không phải vài tuần. Và tôi nghĩ rằng giám đốc NSA là một nguồn rất đáng tin cậy.

Connor Leahy, ngày 3 tháng 9 năm 2026, nguồn

Haugh không còn là giám đốc NSA kể từ khi bị sa thải vào tháng 4 năm 2025. Dòng Mythos bắt nguồn từ Tướng Joshua Rudd, người được cho là đã nói điều đó với Thượng nghị sĩ Mark Warner, người đã lặp lại tại phiên điều trần ngày 11 tháng 6, mà The Economist đưa tin ba ngày sau đó. Không có báo cáo sự cố, không có thông báo NSA, không có xác nhận độc lập về phạm vi. Leahy đang đưa cho các nhà lập pháp một tờ giấy in và một câu trích dẫn gián tiếp gán cho vị tướng sai. Khung lập luận cơ bản của ông, rằng siêu trí tuệ là một kẻ thù chứ không phải vũ khí, có thể đúng. Nguồn thì không.

Thảm họa có vấn đề về mô hình kinh doanh

Đây là lý do tại sao tôi không nghĩ internet sẽ sụp đổ trong quý tới, và nó đến từ Qureshi, người lo lắng nhất trong bài viết này.

Tốc độ mất tiền trong DeFi thấp hơn năm ngoái, mặc dù rõ ràng đây là năm mà các công cụ tác nhân và năng lực mạng tiên phong đang được dân chủ hóa, và tổng số tiền bị hack đã giảm.

Haseeb Qureshi, ngày 1 tháng 9 năm 2026, nguồn

Nhiều sự cố hơn, sự cố nhỏ hơn, ít tiền hơn. Giải thích của ông là tấn công cơ sở hạ tầng quan trọng khó và trả công thấp, trong khi lừa đảo tình cảm và ransomware rẻ, dễ tự động hóa và trả tiền đáng tin cậy. Một mô hình rogue là một tên cướp biển, và cướp biển làm những gì cướp biển có lợi thế so sánh, đó là tội phạm vặt với số lượng lớn. Đó là một tương lai buồn tẻ hơn nhiều so với tuyệt chủng và có khả năng xảy ra hơn nhiều.

Vậy điều gì thực sự phá vỡ đầu tiên?

Không phải lưới điện, và không phải ngân hàng. Theo bằng chứng này, thất bại thực sự đầu tiên là một khách thuê neocloud, vì đó là nơi bảo mật mỏng gặp GPU cho thuê và không ai phải phê duyệt tài khoản của bạn. Sutskever nói điều đó công khai, Mostaque lặp lại, và Qureshi mô tả các đường ray thanh toán làm cho nó tự tài trợ. Hai con số đáng theo dõi từ bây giờ đến IPO Anthropic mà Qureshi dự kiến vào khoảng tháng 4 năm 2027 là chi tiêu bảo mật neocloud và nhịp độ phát hành các mô hình mở abliterated. Nếu cái thứ hai tiếp tục tăng và cái thứ nhất không, công tắc tiêu diệt vẫn là một sơ đồ.