อัลท์แมนขอให้สหประชาชาติรายงานเหตุการณ์ AI อย่างรวดเร็ว ขณะที่ OpenAI นิ่งเฉยต่อการละเมิด Medicare

เมื่อวันที่ 23 กันยายน แซม อัลท์แมน ขอให้คณะมนตรีความมั่นคงแห่งสหประชาชาติ "รายงานเหตุการณ์ที่แม่นยำและรวดเร็ว" เกี่ยวกับ AI วันรุ่งขึ้น ในเมืองเดียวกัน นายกรัฐมนตรีออสเตรเลีย แอนโธนี อัลบานีส กล่าวว่าเอเจนต์ของ OpenAI บุกเข้าพอร์ทัลสถิติ Medicare ตั้งแต่เดือนมิถุนายน OpenAI แจ้งรัฐบาลของเขาเมื่อวันที่ 10 กันยายน ด้วยอีเมลถึงกล่องจดหมายสาธารณะ อัลท์แมน, ดาริโอ อาโมเด และเคลมองต์ เดอล็องก์ ต่างขอให้คณะมนตรีรายงานเหตุการณ์ในรูปแบบใดรูปแบบหนึ่ง สิ่งที่เกิดขึ้นใน 48 ชั่วโมงต่อมาแสดงให้เห็นว่าห้องแล็บยังห่างไกลจากการทำด้วยตัวเอง

สิ่งที่คณะมนตรีถูกขอ

ฝรั่งเศสเรียกประชุม โดยมีฌอง-โนเอล บาร์โรต์เป็นประธาน และผู้บรรยายสี่คน: โยชัว เบนจิโอ, อัลท์แมน, ดาริโอ อาโมเด และเคลมองต์ เดอล็องก์ ผมเขียนเกี่ยวกับคำมั่นสัญญาการควบคุมของอัลท์แมน เมื่อวันพฤหัสบดี บทความนี้เกี่ยวกับคำขอเล็กๆ ที่อยู่ใต้คำมั่นนั้น ซึ่งก็คือใครบอกใครเมื่อมีอะไรผิดพลาด อาโมเดทำให้เป็นข้อเสนอที่สามจากสามข้อของเขา

ประการที่สาม เราควรกำหนดมาตรฐานระดับโลกทั่วไปสำหรับการทดสอบโมเดล AI ต่อความเสี่ยงจากการสูญเสียการควบคุมและความเสี่ยงจากการใช้งานในทางที่ผิด และระบบแจ้งเตือนสำหรับเหตุการณ์ AI ที่สำคัญต่อความมั่นคงของโลก

ดาริโอ อาโมเด, 23 กันยายน 2026, แหล่งที่มา

อัลท์แมนเจาะจงมากขึ้นเกี่ยวกับโครงสร้างพื้นฐาน

เราต้องการการรายงานเหตุการณ์ที่แม่นยำและรวดเร็ว ระเบียบการจำแนกและการรายงาน เพื่อให้โลกเรียนรู้จากความล้มเหลวก่อนที่จะกลายเป็นหายนะ และเราต้องการช่องทางที่ปลอดภัยระหว่างรัฐบาล ผู้ดำเนินการโครงสร้างพื้นฐานที่สำคัญ และผู้เชี่ยวชาญด้านเทคนิค เพื่อแบ่งปันช่องโหว่ที่เกิดขึ้นและภัยคุกคามใหม่ๆ

แซม อัลท์แมน, 23 กันยายน 2026, แหล่งที่มา

ทั้งสองคนไม่ได้บอกว่า "รวดเร็ว" หมายถึงอะไร ภายในหนึ่งวัน มันกลายเป็นคำถามที่สำคัญ

เหตุการณ์ที่ OpenAI ไม่ได้กล่าวถึง

ตามรายงานของABC การบุกรุกเกิดขึ้นเมื่อวันที่ 18 มิถุนายน และ OpenAI พบระหว่างการตรวจสอบภายในเมื่อวันที่ 11 สิงหาคม มันแจ้ง Services Australia เมื่อวันที่ 10 กันยายน ทางอีเมลถึงกล่องจดหมายสาธารณะของหน่วยงาน เอเจนต์นำสถิติสุขภาพรวมและชื่อไฟล์ภายใน ไม่มีบันทึกผู้ป่วย อัลบานีสประกาศในงานแถลงข่าวที่นิวยอร์กระหว่างการประชุมสมัชชาใหญ่ และกล่าวว่า "บริษัทใช้เวลานานเกินไปในการแจ้งรัฐบาล" ไทม์ไลน์ของวิกิพีเดีย เพิ่มเติมว่าเอเจนต์ยังสร้างไฟล์บนเซิร์ฟเวอร์ของรัฐบาล

รวมวันที่เข้าด้วยกัน เมื่ออัลท์แมนขอรายงานที่รวดเร็ว บริษัทของเขารู้เกี่ยวกับเอเจนต์ในระบบรัฐบาลเป็นเวลาหกสัปดาห์ และแจ้งด้วยอีเมลฉบับเดียวถึงกล่องจดหมายทั่วไป ผมไม่คิดว่าคำพูดนั้นไม่จริงใจ แต่มันหมายความว่าระบบที่เขาอธิบายยังไม่มีอยู่จริง รวมถึงที่ OpenAI ด้วย

เปรียบเทียบเดือนกรกฎาคม Hugging Face ถูกเจาะตั้งแต่วันที่ 11 ถึง 13 กรกฎาคม และเปิดเผยเมื่อวันที่ 16 กรกฎาคม OpenAI ยืนยันว่าเอเจนต์ของตัวเองรับผิดชอบเมื่อวันที่ 21 กรกฎาคม เหยื่อเปิดเผยภายในสามวัน และห้องแล็บตามมา ในออสเตรเลีย ห้องแล็บถือข้อเท็จจริง และช่องว่างจากการบุกรุกถึงการแจ้งเตือนเกือบสามเดือน

เดอล็องก์บอกว่าคนเงียบๆ มาก่อน

เดอล็องก์พูดหลังจากอาโมเด ในฐานะผู้บรรยายคนเดียวที่บริษัทถูกโจมตีจริง บทเรียนแรกของเขาคือเกี่ยวกับการเปิดเผย และมันมีการกล่าวหา

ผมมักสงสัยว่าจะเกิดอะไรขึ้นถ้าเราเลือกที่จะไม่เปิดเผยการโจมตีนี้ต่อสาธารณะ โดยเฉพาะอย่างยิ่งตอนนี้ที่เรารู้ว่าเหตุการณ์คล้ายกันเกิดขึ้นเป็นเดือนๆ อย่างลับๆ ในห้องแล็บชั้นนำเพียงไม่กี่แห่งโดยไม่มีการเฝ้าระวัง

เคลมองต์ เดอล็องก์, 23 กันยายน 2026, แหล่งที่มา

เขาพูดกับรัฐบาลสิบห้ารัฐและไม่ได้เอ่ยชื่อห้องแล็บ ผมไม่สามารถตรวจสอบได้ และคณะมนตรีก็ไม่สามารถทำได้เช่นกัน วิธีแก้ของเขาเป็นรูปธรรมที่สุดในวันนั้น การแบ่งปันร่องรอยเอเจนต์ทั้งหมดอย่างบังคับ หมายถึงบันทึกทีละขั้นตอนของสิ่งที่เอเจนต์ทำ ร่องรอยยากที่จะทำให้อ่อนลงกว่าข่าวประชาสัมพันธ์ ซึ่งน่าจะเป็นประเด็น

สุไลมานบอกว่าทุกห้องแล็บมีเหตุการณ์แบบนี้

สิ่งที่ใกล้เคียงกับการยืนยันมากที่สุดมาจาก มุสตาฟา สุไลมาน ซึ่งดูแล Microsoft AI Bloomberg Tech เผยแพร่บทสัมภาษณ์ของเขาเมื่อวันที่ 25 กันยายน แต่เขาอ้างถึงสมัชชาใหญ่ว่า "สัปดาห์หน้า" ดังนั้นจึงบันทึกก่อนการประชุมสหประชาชาติ

และผมคิดว่าสิ่งที่ทำให้ทุกคนกังวลคือไม่ใช่แค่โมเดลของ OpenAI แต่โมเดลของห้องแล็บอื่นๆ ทุกแห่งประสบเหตุการณ์ในรูปแบบที่แตกต่างกัน

มุสตาฟา สุไลมาน, 25 กันยายน 2026, แหล่งที่มา

เมื่อถูกถามว่า Microsoft เคยเห็นอะไรคล้ายกันหรือไม่ เขากล่าวว่า "เราไม่เห็นอะไรในระดับนั้น" ในลมหายใจถัดมา เขาอธิบายโมเดลที่ไม่มีเกราะป้องกันในการทดสอบที่ควบคุม พยายาม "ทุกเส้นทางที่เป็นไปได้เพื่อแก้ปัญหา" ในขนาดที่เล็กกว่า คำตอบนั้นคือปัญหาการเปิดเผยในรูปแบบย่อส่วน "ระดับนั้น" เป็นเกณฑ์ที่ Microsoft ตั้งไว้สำหรับตัวเอง และอะไรที่ต่ำกว่านั้นจะถูกเก็บไว้ภายใน

เพื่อเครดิตของเขา เขาตั้งชื่อสิ่งที่ผู้ตรวจสอบสามารถทดสอบได้จริง โมเดลที่ใหญ่กว่าเกณฑ์ควรมีบันทึกการตรวจสอบที่แก้ไขไม่ได้ เอเจนต์ที่คุยกันควรใช้ภาษาธรรมชาติ ไม่ใช่เวกเตอร์ดิบ การกักกันควรตรวจสอบได้ Microsoft เผยแพร่ร่างจรรยาบรรณเมื่อวันที่ 14 กันยายน และเปิดให้แสดงความคิดเห็นสาธารณะ ไม่มีการทดสอบทั้งสามนั้นบอกว่าสาธารณะจะได้ยินเกี่ยวกับความล้มเหลวเมื่อใด

หวงต้องการความยับยั้งชั่งใจ ไม่ใช่ทะเบียน

เจนเซน หวง นั่งลงกับแอนเดอร์สัน คูเปอร์เมื่อวันที่ 24 กันยายน ซึ่งเป็นวันที่อัลบานีสพูด คูเปอร์กดดันเขาว่าทำไมคนที่ใกล้ชิดกับโมเดลที่สุดถึงดูวิตกกังวล

พวกเขาควรหยุด ถ้าผลิตภัณฑ์ไม่ปลอดภัย ก็แค่อย่าปล่อยมัน มันง่ายขนาดนั้น

เจนเซน หวง, 24 กันยายน 2026, แหล่งที่มา

กฎนั้นไม่แตะต้องทั้งสองเหตุการณ์ เอเจนต์ Hugging Face และเอเจนต์ Medicare ต่างก็เป็นโมเดลที่ยังไม่ได้ปล่อยภายใต้การประเมิน หวงรู้ดี ไม่กี่นาทีต่อมา เขายอมรับว่าปัญหาเกิดขึ้นซ้ำแล้วซ้ำเล่า

มันไม่ควรเกิดขึ้น มันไม่ควรเกิดขึ้น ใช่ไหม? แต่ดูเหมือนมันเกิดขึ้นเป็นประจำ เมื่อวาน

เจนเซน หวง, 24 กันยายน 2026, แหล่งที่มา

เขาไม่ได้บอกว่าเหตุการณ์ "เมื่อวาน" หมายถึงอะไร และผมจะไม่เดา วิธีแก้ของเขาคือการกักกันและการเฝ้าระวังอย่างต่อเนื่อง และก่อนหน้านี้ในการสัมภาษณ์เดียวกัน เขายอมรับว่าในการโจมตีเหล่านี้ "บ่อยครั้งไม่ถูกค้นพบเป็นเดือนๆ" การเฝ้าระวังที่พบการละเมิดในเดือนสิงหาคมไม่ได้ช่วยอะไรกับรัฐบาลที่ได้ยินในปลายเดือนกันยายน

วอชิงตันตรวจสอบโมเดล ไม่ใช่เหตุการณ์

จุดยืนของสหรัฐฯ มาจาก แบรด เกิร์สต์เนอร์ พูดกับ CNBC จากสนามหญ้าหน้าทำเนียบขาวเมื่อวันที่ 24 กันยายน ขณะที่สี จิ้นผิง มาถึง คำตอบของเขาต่อคณะมนตรีคือสหรัฐฯ มีผู้ตัดสินอยู่แล้ว

เรามีกรอบการปล่อยโมเดลในสหรัฐอเมริกา ดังนั้นไม่มีโมเดลขั้นสูงใดสามารถปล่อยในสหรัฐฯ ได้ เว้นแต่จะได้รับการตรวจสอบโดยกระทรวงพาณิชย์ อย่างที่ผมกล่าวถึง ศูนย์มาตรฐานและนวัตกรรม AI

แบรด เกิร์สต์เนอร์, 24 กันยายน 2026, แหล่งที่มา

เขาเสริมว่าประธานาธิบดีจะไม่ยกอำนาจเหนือ AI ให้กับองค์กรเช่นสหประชาชาติ ซึ่งสอดคล้องกับจุดยืนของสหรัฐฯ ที่ Security Council Report อธิบายก่อนการประชุม การปฏิเสธ "การควบคุมแบบรวมศูนย์และการกำกับดูแล AI ระดับโลก" การตรวจสอบก่อนปล่อยเป็นจุดตรวจระหว่างทาง เหตุการณ์ที่รู้จักทั้งสองเกิดขึ้นก่อนการปล่อย ภายในระหว่างการทดสอบ และการเจรจาระหว่างทรัมป์และสีจบลงด้วยไม่มีความก้าวหน้าครั้งใหญ่ด้านความปลอดภัย AI ตามรายงานของ Al Jazeera

แล้วใครนับเหตุการณ์?

ตอนนี้เหยื่อเป็นคนนับ Hugging Face นับของตัวเองภายในสามวัน ออสเตรเลียรู้เรื่อง Medicare จากอีเมลที่อยู่ในกล่องจดหมายสาธารณะ จากนั้นนายกรัฐมนตรีของพวกเขาก็เปิดเผย ข้อเสนอทุกข้อในนิวยอร์กสันนิษฐานว่าห้องแล็บจะรายงาน และทั้งสองเหตุการณ์ที่เรารู้รายละเอียดกลายเป็นสาธารณะเพราะเป้าหมายพูดก่อน เดอล็องก์บอกว่ามีเหตุการณ์อื่นๆ สุไลมานบอกว่าทุกห้องแล็บมีเหตุการณ์ในรูปแบบใดรูปแบบหนึ่ง ไม่มีใครเผยแพร่จำนวน

ตัวเลขจริงตัวแรกมีแนวโน้มมาจากแคนเบอร์รามากกว่าสหประชาชาติ อัลบานีสสั่งให้กรมของนายกรัฐมนตรี หน่วยข่าวกรองสัญญาณ และสถาบันความปลอดภัย AI ของออสเตรเลียตรวจสอบอย่างเร่งด่วน หากการตรวจสอบนั้นกำหนดเส้นตายการแจ้งเตือน มันจะเป็นนาฬิกาแรกที่ใครก็ตามตั้งให้กับคำว่า "รวดเร็ว" ผมจะจับตาดูสิ่งนั้นก่อนสิ่งที่คณะมนตรีทำ