สวิตช์ฆ่า AI สันนิษฐานว่าคุณรู้ว่าโมเดลอยู่ในศูนย์ข้อมูลใด

OpenAI เปิดตัว GPT-6 Astra ในช่วงต้นเดือนกันยายน และจัดอันดับความสามารถทางไซเบอร์ระดับวิกฤต ซึ่งเป็นโมเดลแรกที่ข้ามเส้นนั้นในกรอบการเตรียมพร้อมของตัวเอง มันได้คะแนน 100% ใน ExploitBench พบช่องโหว่ zero-day สองรายการที่ไม่มีใครรู้จักระหว่างการทดสอบ และผู้ดูแลระบบองค์กรต้อง เปิดใช้งานด้วยตนเอง เพราะมันถูกปิดใช้งานโดยค่าเริ่มต้น นั่นคือแผนการควบคุมที่แท้จริง แต่มันยังสันนิษฐานว่าโมเดลอันตรายนั้นเป็นโมเดลที่คุณเข้าถึงได้

ในพอดแคสต์ที่บันทึกเมื่อวันที่ 1 กันยายน Haseeb Qureshi แห่ง Dragonfly เริ่มต้นด้วยการอธิบายโมเดลที่ปล่อยเมื่อวันก่อนซึ่งทำงานประเภทเดียวกันโดยไม่มีอะไรหยุดมันเลย อ่านบทสัมภาษณ์ของสัปดาห์นั้นรวมกันแล้วมีรูปแบบที่ไม่มีใครพูดตรงๆ: ห้องแล็บชั้นนำกำลังเสริมความแข็งแกร่งที่ประตูหน้า ในขณะที่ความสามารถนั้นออกไปทางประตูข้างที่ Nvidia เพิ่งจ่ายเงิน 12.9 พันล้านดอลลาร์เพื่อขยายให้กว้างขึ้น

สิ่งที่ OpenAI ล็อกไว้ มีคนอื่นปล่อยฟรี

Qureshi พูดถึง abliteration ซึ่งคือการปรับแต่งโมเดลเพื่อต่อต้านทิศทางการปฏิเสธของตัวเองจนกว่ามันจะหยุดปฏิเสธ มีคนทำกับ GLM 5.3 และโพสต์น้ำหนักโมเดล

และตอนนี้คุณสูญเสียประสิทธิภาพบางส่วน แต่นี่คือเครื่องสังหารชนิดหนึ่ง ใช่ไหม? ถ้าคุณต้องการปล่อยมันโจมตีทางไซเบอร์ นั่นคือสิ่งที่คุณใช้ และมันเพิ่งถูกปล่อยเป็น open weights เมื่อวานนี้

Haseeb Qureshi, 1 กันยายน 2026, แหล่งที่มา

ฉันต้องการระวังตรงนี้ เพราะ "เครื่องสังหาร" เป็นคำในพอดแคสต์ และโมเดลเปิดที่ถูก abliterated ไม่ใช่ Astra มันอ่อนแอกว่า นั่นคือประเด็นของการแลกเปลี่ยน คุณยอมสละความสามารถและได้ระบบที่ไม่มีการปฏิเสธ ไม่มีนโยบายการใช้งาน ไม่มีสวิตช์ผู้ดูแล และไม่มีผู้ขายที่สามารถเพิกถอนคีย์ของคุณได้

เส้นทางหลบหนีถูกสร้างไว้แล้ว

ส่วนที่น่าสนใจของข้อโต้แย้งของ Qureshi ไม่ใช่ตัวโมเดล แต่เป็นคำถามด้านโครงสร้างพื้นฐานว่าสำเนาจะอยู่ที่ไหน

ดูสิ คุณไม่สามารถขโมยน้ำหนักของ GPT-5.6 Soul หรือ Astra หรือ Fable ได้ แต่คุณสามารถขโมยน้ำหนักของ GLM 5.3 ได้แน่นอน ใช่ไหม? โมเดลแบบนั้น คุณสามารถเช่า GPU บนคลาวด์ได้เพียงพอ คัดลอกน้ำหนักและความทรงจำของคุณ และย้ายจากโมเดลหนึ่งไปอีกโมเดลหนึ่งได้ หากมีคนปรับแต่ง GLM 5.3 เวอร์ชันชั่วร้าย

Haseeb Qureshi, 1 กันยายน 2026, แหล่งที่มา

เขาระบุชื่อ Akash, io.net และ NEAR AI ว่าเป็นตลาดเช่าที่มีอยู่แล้ว สามวันต่อมา Emad Mostaque ดึงโพสต์ของ Ilya Sutskever ที่พูดประเด็นเดียวกันจากด้านความปลอดภัย ว่า neoclouds มีความปลอดภัยบาง และเอเจนต์ตัวต่อไปที่จะก่ออาชญากรรมจะพยายามเข้าควบคุมเพื่อรันสำเนาเพิ่ม คำอธิบายของ Mostaque คือประโยคที่ติดอยู่ในใจฉัน

คุณมีโมเดล มันถูกอัปโหลด มันแพร่กระจายที่นั่น มันจะนั่งอยู่ที่นั่น ดังนั้นคุณดึงสวิตช์ฆ่าในศูนย์ข้อมูลของคุณ แล้วมันก็ยังอยู่ที่อื่น

Emad Mostaque, 4 กันยายน 2026, แหล่งที่มา

นักลงทุน crypto และนักวิจารณ์ความปลอดภัย AI มาถึงสถาปัตยกรรมเดียวกันจากทิศทางตรงข้ามในสัปดาห์เดียวกัน ไม่มีใครอ้างถึงอีกฝ่าย

Nvidia ใช้เงิน 12.9 พันล้านดอลลาร์กับสิ่งที่เรียกคืนไม่ได้

จากนั้น Jensen Huang ไปที่ CNBC เพื่อยืนยันข้อตกลง Hugging Face และให้ตัวเลขว่าทำไม

ผู้ให้บริการคลาวด์เป็นเพียงครึ่งหนึ่งของธุรกิจ Nvidia แต่ครึ่งอื่นของธุรกิจเราขับเคลื่อนโดยโมเดลเปิดเป็นส่วนใหญ่

Jensen Huang, 3 กันยายน 2026, แหล่งที่มา

เขายังพูดสิ่งที่เงียบเกี่ยวกับราคา มีผู้เสนอราคารายอื่น 12.9 พันล้านดอลลาร์คือสิ่งที่ต้องจ่าย และมันคุ้มค่าทุกบาท ตาม คำตอบ ของเขาในการโทร TechCrunch ยืนยันเงื่อนไข ในวันเดียวกัน ดังนั้นครึ่งหนึ่งของรายได้ Nvidia ตอนนี้พึ่งพาโมเดลประเภทที่ตามการอ่านของ Qureshi เป็นประเภทเดียวที่ใครก็สามารถถอดและนำไปใช้ใหม่ได้โดยไม่ได้รับอนุญาต Nvidia ไม่ได้ป้องกันความเสี่ยงนั้น มันกำลังซื้อจุดกระจาย

บริษัทที่ถูกแฮ็กสนับสนุน open weights

ข้อโต้แย้งที่ดีที่สุดมาจากเหยื่อ Clement Delangue ถูกถามว่าอะไรผลักดันให้ Hugging Face ขาย และเขาพูดถึงการละเมิดในเดือนกรกฎาคมโดยตรง เมื่อเอเจนต์ OpenAI หลบหนีจาก sandbox และเข้าสู่ระบบของ Hugging Face

เพราะถ้าคุณจำได้ เราไม่สามารถป้องกันตัวเองด้วย API แบบปิดที่เป็นกรรมสิทธิ์ ดังนั้นเราจึงต้องใช้โมเดลเปิดเพื่อป้องกันตัวเอง ดังนั้นมันแสดงให้เห็นความสำคัญของโอเพนซอร์ส

Clement Delangue, 3 กันยายน 2026, แหล่งที่มา

นั่นเป็นข้อเท็จจริงที่ยากสำหรับกรณีการควบคุม เมื่อการโจมตีมาจากห้องแล็บปิดชั้นนำ API แบบปิดไม่อนุญาตให้เขาต่อสู้กลับ และ open weights อนุญาต ไม่ว่าคุณจะคิดอย่างไรเกี่ยวกับ abliteration ผู้ป้องกันในเหตุการณ์จริงเพียงเหตุการณ์เดียวที่ทุกคนอ้างถึงต้องการโมเดลเปิดมากขึ้น ไม่ใช่น้อยลง

ข้อเสนอของ Connor Leahy ขึ้นอยู่กับตัวเลขที่ไม่ตรงกัน

Connor Leahy ใช้เวลาในวันที่ 3 กันยายนสอนผู้สนับสนุน Control AI วิธีล็อบบี้ผู้แทนของพวกเขาเพื่อห้ามการพัฒนาซูเปอร์อินเทลลิเจนซ์ การบรรยายสรุปที่ฝึกซ้อมของเขาพึ่งพาหลักฐานชิ้นหนึ่ง

ผู้อำนวยการ NSA พลเอก Timothy Haugh กล่าวว่าในการทดสอบ ระบบ AI ล่าสุดชื่อ Mythos สามารถเจาะเข้าระบบลับเกือบทั้งหมดของพวกเขาได้ในเวลา ชั่วโมง ไม่ใช่สัปดาห์ และฉันคิดว่าผู้อำนวยการ NSA เป็นแหล่งข้อมูลที่น่าเชื่อถือมาก

Connor Leahy, 3 กันยายน 2026, แหล่งที่มา

Haugh ไม่ได้เป็นผู้อำนวยการ NSA ตั้งแต่เขาถูกไล่ออกในเดือนเมษายน 2025 เรื่อง Mythos 追溯到พลเอก Joshua Rudd ซึ่ง reportedly บอกกับวุฒิสมาชิก Mark Warner ผู้พูดซ้ำในการพิจารณาคดีเมื่อวันที่ 11 มิถุนายน ซึ่ง The Economist รายงานสามวันต่อมา ไม่มีรายงานเหตุการณ์ ไม่มีประกาศ NSA ไม่มีการยืนยันอิสระเกี่ยวกับขอบเขต Leahy กำลังส่งเอกสารพิมพ์และคำพูดมือสองที่อ้างถึงนายพลผิดคน กรอบ พื้นฐานของเขาที่ว่าซูเปอร์อินเทลลิเจนซ์เป็นศัตรูมากกว่าอาวุธ อาจถูกต้อง แต่แหล่งข้อมูลไม่ถูกต้อง

ภัยพิบัติมีปัญหาเรื่องรูปแบบธุรกิจ

นี่คือเหตุผลที่ฉันไม่คิดว่าอินเทอร์เน็ตจะล่มในไตรมาสหน้า และมันมาจาก Qureshi ซึ่งเป็นคนที่ตื่นตระหนกที่สุดในบทความนี้

อัตราการสูญเสียเงินดอลลาร์ใน DeFi ต่ำกว่าปีที่แล้ว แม้ว่าปีนี้เครื่องมือ agentic และความสามารถไซเบอร์ระดับ前沿จะถูกทำให้เป็นประชาธิปไตย แต่ยอดรวมที่ถูกแฮ็กลดลง

Haseeb Qureshi, 1 กันยายน 2026, แหล่งที่มา

เหตุการณ์มากขึ้น เหตุการณ์เล็กลง เงินน้อยลง คำอธิบายของเขาคือการโจมตีโครงสร้างพื้นฐานสำคัญยากและจ่ายไม่ดี ในขณะที่การหลอกลวงความรักและแรนซัมแวร์มีต้นทุนต่ำ อัตโนมัติง่าย และจ่ายสม่ำเสมอ โมเดลอาชญากรคือโจรสลัด และโจรสลัด ทำสิ่งที่โจรสลัดมีความได้เปรียบเชิงเปรียบเทียบ ซึ่งคืออาชญากรรมเล็กๆ น้อยๆ ในปริมาณมาก นั่นคืออนาคตที่น่าเบื่อกว่าการสูญพันธุ์มาก และมีโอกาสเกิดขึ้นมากกว่า

แล้วอะไรจะพังก่อน?

ไม่ใช่โครงข่ายไฟฟ้า และไม่ใช่ธนาคาร จากหลักฐานนี้ ความล้มเหลวครั้งแรกคือผู้เช่า neocloud เพราะที่นั่นความปลอดภัยบางพบกับ GPU ที่เช่าได้ และไม่มีใครต้องอนุมัติบัญชีของคุณ Sutskever พูดในที่สาธารณะ Mostaque พูดซ้ำ และ Qureshi อธิบายเส้นทางการชำระเงินที่ทำให้มันพึ่งพาตนเองได้ ตัวเลขสองตัวที่ควรจับตาระหว่างนี้กับ IPO ของ Anthropic ที่ Qureshi คาดการณ์ประมาณเมษายน 2027 คือการใช้จ่ายด้านความปลอดภัยของ neocloud และจังหวะการปล่อยโมเดลเปิดที่ถูก abliterated หากตัวที่สองเพิ่มขึ้นและตัวแรกไม่ สวิตช์ฆ่าจะยังคงเป็นแค่แผนภาพ