แมนเดียพบว่าโมเดล AI แบบเปิดถูกแฮกได้เช่นเดียวกับแบบปิด ซึ่งเป็นปัญหาสำหรับกลุ่มที่ต้องการชะลอ

เมื่อวันที่ 6 ตุลาคม ซีอีโอด้านความปลอดภัยสองคนและหัวหน้านักเทคโนโลยีของเพนตากอนกล่าวในรูปแบบที่แตกต่างกันว่าคนที่ขอให้ชะลอ AI นั้นเข้าใจผิด จอร์จ เคิร์ตซ์ แห่งคราวด์สไตรค์เรียกการประเมินความเสี่ยง 10% ว่าไร้สาระบน CNBC หัวหน้านักเทคโนโลยีของเพนตากอนกล่าวว่าอุบัติการณ์ AI ทุกครั้งจนถึงตอนนี้ป้องกันได้ สิ่งที่มีประโยชน์ที่สุดที่พูดตลอดทั้งวัน อย่างไรก็ตาม มาจาก เควิน แมนเดีย ในตอนของ a16z ที่เผยแพร่ในวันเดียวกัน บริษัทของเขาทดสอบโมเดลแบบเปิดและปิดกับการบุกรุกจริง 20 ครั้ง และพวกเขาทำได้จำนวนเท่ากัน หากสิ่งนั้นเป็นจริง การชะลอห้องแล็บชั้นนำจะไม่ช่วยอะไรเกี่ยวกับการแฮกด้วย AI มากนัก เพราะโมเดลแบบเปิดนั้นไปถึงจุดนั้นแล้ว

การทดสอบของแมนเดียคือตัวเลขที่ควรจำ

แมนเดียสร้างแมนไดแอนต์ ขายมัน และกลับมาในวัยกลางคนเพื่อบริหารอาร์มาดิน สตาร์ทอัพที่โจมตีลูกค้าของตัวเองด้วยเอเจนต์ AI ก่อนที่อาชญากรจะทำ SecurityWeek รายงานเมื่อวันที่ 1 ตุลาคม ว่าบริษัทระดมทุนได้ 255.5 ล้านดอลลาร์ที่มูลค่า 2.5 พันล้านดอลลาร์ นำร่วมโดย Andreessen Horowitz และ Accel ดังนั้นพิธีกรของ a16z จึงเป็นนักลงทุน โปรดจำไว้ แล้วดูสิ่งที่แมนเดียรายงานจริง เพราะมันรอบคอบกว่าที่การนำเสนอต้องการ

ทีมของเขาเขียนลำดับการโจมตีเต็มรูปแบบ 20 ชุดที่ผู้ปฏิบัติการมนุษย์เคยทำที่ไซต์เหยื่อจริง ตั้งแต่การเข้าถึงครั้งแรกจนถึงเป้าหมาย จากนั้นให้โมเดลลองทำ

เราทดสอบโมเดลน้ำหนักเปิดและโมเดลปิดขั้นสูงสุด พวกมันทั้งหมดทำได้ 8 ครั้ง

เควิน แมนเดีย, a16z, เผยแพร่เมื่อวันที่ 6 ตุลาคม 2026, แหล่งที่มา

แปดจาก 20 คือการอ่านสองอย่างพร้อมกัน ไม่มีโมเดลใด ไม่ว่าจะปิดหรือเปิด ที่สามารถทำการบุกรุกจริงส่วนใหญ่ได้ด้วยตัวเอง ซึ่งเป็นน้ำเย็นสำหรับสถานการณ์ที่น่ากลัวที่สุด และข้อได้เปรียบเดียวของโมเดลปิดคือความเร็วและต้นทุน แมนเดียกล่าวว่าทีมของเขาปล่อยให้โมเดลเปิดทำงานนานขึ้นและ "พวกมันไปถึงจุดเดียวกัน" จุดที่สองนั้นคือสิ่งที่การถกเถียงเรื่องจังหวะข้ามไป

ทำไมโมเดลเปิดจึงสำคัญกว่าโมเดลชั้นนำ

แมนเดียไม่ได้เลี่ยงสิ่งที่ตามมา อุปสรรคสำหรับอาชญากร ในคำบอกเล่าของเขา คือการไม่เปิดเผยตัว ไม่ใช่คุณภาพของโมเดล

โมเดลเปิดดีพอแล้ว และสิ่งเหล่านี้เป็นเรื่องธรรมดาแล้ว มันเป็นเพียงเรื่องของนาทีที่คุณมีความพร้อมใช้งานของ GPU แบบไม่เปิดเผยตัว คุณจะเห็นการโจมตีทางอาชญากรรมมากขึ้นมาก

เควิน แมนเดีย, a16z, เผยแพร่เมื่อวันที่ 6 ตุลาคม 2026, แหล่งที่มา

นิเคช อโรรา แห่งพาโล อัลโต เน็ตเวิร์กส์ ไปถึงจุดเดียวกันจากด้านนโยบาย การสัมภาษณ์ Tech Download กับ CNBC ของเขาถูกบันทึกในปลายเดือนกันยายนที่ HumanX ในอัมสเตอร์ดัม และเผยแพร่เมื่อวันที่ 6 ตุลาคม ดังนั้นถือเป็นข้อมูลพื้นฐาน เขากล่าวว่าเริ่มแรกเขาเรียกข้อเสนอการชะลอของห้องแล็บว่า "การเคลื่อนไหวแบบนินจา" ซึ่งเป็นเกมเพื่อความเห็นใจจากหน่วยงานกำกับดูแล จากนั้นเปลี่ยนใจด้วยเหตุผลที่ธรรมดากว่า ไม่มีใครบังคับใช้ได้

ฉันคิดว่านี่ไม่สมจริง ไม่ใช่ทุกคนที่จะชะลอตัวเอง

นิเคช อโรรา, The Tech Download, บันทึกปลายเดือนกันยายน, เผยแพร่เมื่อวันที่ 6 ตุลาคม 2026, แหล่งที่มา

ก่อนหน้านี้ในการสนทนาเดียวกัน อโรรา กล่าว ว่าพาโล อัลโตทำนายว่าโมเดลเปิดจะเทียบเท่า Mythos ภายในสามถึงหกเดือน และ "มีโมเดลโอเพนซอร์สที่เกือบดีเท่า Mythos" ในตอนนี้ วางไว้ข้างๆ แปดจาก 20 ของแมนเดีย แล้วคุณจะได้เรื่องราวที่สอดคล้องกันจากคู่แข่งสองราย โมเดลชั้นนำกำหนดเพดานสำหรับความสามารถใหม่ สำหรับการเจาะเครือข่าย พื้นฐานได้ตามทันแล้ว

เคิร์ตซ์กล่าวว่าคณิตศาสตร์ความหายนะไร้สาระ

จิม แครมเมอร์เปิดเซ็กเมนต์ Squawk Box โดยสังเกตว่าคราวด์สไตรค์ทำสถิติสูงสุดตลอดกาลเมื่อวันก่อน Yahoo Finance ระบุสถิติระหว่างวันวันที่ 5 ตุลาคมที่ 274.23 ดอลลาร์ โดยหุ้นพุ่งขึ้น 147% จากสิ้นเดือนมกราคม จากนั้นแครมเมอร์ผลักดันเคิร์ตซ์เกี่ยวกับนักวิจัยที่กล่าวว่ามีโอกาสจริงที่ AI จะฆ่าทุกคนภายในสิ้นทศวรรษ

ไร้สาระ จิม เราจะไม่ตายในปี 2030 ด้วยโอกาส 10%

จอร์จ เคิร์ตซ์, CNBC Squawk Box, 6 ตุลาคม 2026, แหล่งที่มา

วิธีแก้ของเขาคือ "กล่องบันทึกการทำงาน" สำหรับเอเจนต์ บันทึกทุกไฟล์ที่เอเจนต์สัมผัสและทุกการกระทำที่มันทำ เชื่อมโยงกับวิธีหยุดมัน เขาต้องการมาตรฐาน NIST และการกำกับดูแลตนเอง ไม่ใช่การรับรองห้าปี เขายังมีคำพูดที่เฉียบคมสำหรับนักวิจัยด้านความปลอดภัย: "พวกเขาควรปรึกษาผู้เชี่ยวชาญด้านความปลอดภัยบ่อยขึ้น"

ฉันให้ความสำคัญกับข้อโต้แย้งทางวิศวกรรม และฉันยังคงลดน้ำหนักน้ำเสียง ซีอีโอที่หุ้นขึ้น 147% จากความต้องการความปลอดภัย AI มีเหตุผลทุกประการที่จะบอกว่าปัญหาจริงพอที่จะซื้อผลิตภัณฑ์ และไม่จริงจนใครควรชะลอ ตัวอย่างที่ดีที่สุดของเขาเองตัดกับความสงบ เขา อ้างถึง การแฮ็กในออสเตรเลียที่ใช้เวลา 84 วันก่อนที่ใครจะรู้ว่าเกิดอะไรขึ้น ซึ่งตรงกับช่องว่างระหว่างเอเจนต์ของ OpenAI เข้าสู่พอร์ทัลสถิติ Medicare ของออสเตรเลียเมื่อวันที่ 18 มิถุนายน และ OpenAI แจ้งแคนเบอร์ราเมื่อวันที่ 10 กันยายน ซึ่ง เราครอบคลุมในเดือนกันยายน กล่องบันทึกการทำงานไม่ช่วยอะไรถ้าไม่มีใครอ่านมันเป็นเวลา 84 วัน

เพนตากอนเรียกทุกอุบัติการณ์ว่าป้องกันได้

เอมิล ไมเคิล ปลัดกระทรวงวิจัยและวิศวกรรม อยู่บน CNBC เช้าวันเดียวกันเพื่อพูดถึงรางวัลกองทัพเรือของ Anduril สัญญามูลค่าสูงถึง 2.9 พันล้านดอลลาร์สำหรับอู่ต่อเรือชิ้นส่วนเรือดำน้ำในบัลติมอร์เคาน์ตี้ ซึ่ง DefenseScoop รายงาน ว่า Anduril สนับสนุนด้วยเงิน 3.7 พันล้านดอลลาร์ของตัวเอง เมื่อถูกถามเกี่ยวกับความเสี่ยง AI เขาไปไกลกว่าเคิร์ตซ์และโทษความกลัวบางส่วนว่าเป็น "กลยุทธ์ข่มขู่" ที่แพร่กระจาย "อาจมีอิทธิพลจากต่างประเทศ" เขาไม่ได้ให้หลักฐานสำหรับเรื่องนั้น และฉันจะไม่พูดซ้ำเป็นข้อเท็จจริง

ดังนั้นฉันคิดว่าทุกอย่างที่เราเห็นจนถึงตอนนี้ป้องกันได้โดยห้องแล็บเอง และนั่นคือประเด็นสำคัญที่ควรจดจำ

เอมิล ไมเคิล, CNBC, 6 ตุลาคม 2026, แหล่งที่มา

ป้องกันได้เป็นคำที่ยุติธรรมสำหรับความล้มเหลวของแซนด์บ็อกซ์และบันทึกที่ไม่ได้อ่าน มันยังเป็นวิธีบอกว่าปัญหาเป็นของห้องแล็บและทนายความของพวกเขา ไม่ใช่รัฐบาล ไมเคิลพูดเช่นนั้นเมื่อเขาพูดถึงการทำให้แน่ใจว่าบริษัทต่างๆ "รู้ว่าพวกเขาต้องรับผิดในบางกรณี"

แมนเดียไม่คิดว่าปีหน้าจะสงบ

นี่คือจุดที่กลุ่มความปลอดภัยแตกแยก และเป็นส่วนของตอน a16z ที่คลิปจะข้ามไป แมนเดียเห็นด้วยกับเคิร์ตซ์ว่าการชะลอโมเดลไม่มีประโยชน์ เขาไม่เห็นด้วยว่าทุกอย่างอยู่ภายใต้การควบคุม เขากล่าวว่าอาร์มาดินพบซีโรเดย์มากกว่า 90 รายการที่ไซต์ลูกค้าตั้งแต่มกราคม และไม่กี่รายการล่าสุดถูกค้นพบโดย AI ไม่ใช่โดยคนของเขา เรื่องอัตรากำลังคนเขาพูดตรงไปตรงมา: "ถ้าคุณมีมนุษย์ในวงจรตรวจจับและตอบสนอง คุณจะช้าเกินไป"

ดังนั้นไม่มีทางที่จะทำให้ปีหน้าสวยงามได้ นั่นคือวิธีที่ดีที่สุดที่จะพูด

เควิน แมนเดีย, a16z, เผยแพร่เมื่อวันที่ 6 ตุลาคม 2026, แหล่งที่มา

เขามองว่ามันเป็นหน้าต่างที่ฝ่ายโจมตีได้เปรียบ และกล่าวว่าผู้โจมตีในอิหร่านหรือรัสเซียรู้สึก "สิ้นหวังในช่วงเวลาที่ต้องเข้าไปตอนนี้" นั่นคือการขายการป้องกันอัตโนมัติด้วย และเขามีมูลค่า 2.5 พันล้านดอลลาร์ที่เดิมพันกับมัน มันยังเป็นการคาดการณ์ที่เฉพาะเจาะจงที่สุดที่ทั้งสามคนให้

แล้วการชะลอห้องแล็บทำให้ใครปลอดภัยจากแฮกเกอร์ AI มากขึ้นไหม?

จากหลักฐานนี้ ไม่มาก จุดข้อมูลที่แข็งแกร่งที่สุดของวันกล่าวว่าโมเดลน้ำหนักเปิดเทียบเท่ากับโมเดลปิดในการบุกรุกจริงแล้ว เมื่อให้เวลาพอ ทำให้การชะลอที่ห้องแล็บสหรัฐไม่กี่แห่งเป็นเครื่องมือที่อ่อนแอต่ออาชญากรและรัฐที่ใช้โมเดลเปิดบน GPU เช่า สิ่งที่ซีอีโอความปลอดภัยกำลังโต้แย้งจริงๆ คือเงินควรไปที่การเฝ้าดูเอเจนต์ บันทึกพวกมัน และตัดพวกมันอย่างรวดเร็ว นั่นเป็นการเห็นแก่ตัว และอาจถูกต้อง คำถามเปิดคือสิ่งที่แมนเดียยกขึ้นและเคิร์ตซ์ปัดผ่าน แปดจาก 20 คือตัวเลขวันนี้ ไม่มีใครบนกล้องพูดว่าเกิดอะไรขึ้นเมื่อมันถึง 15