אלטמן ביקש מהאו"ם דיווח מהיר על תקלות AI בזמן שאופן-איי הסתירה פריצה למדיקר

ב-23 בספטמבר סם אלטמן ביקש ממועצת הביטחון של האו"ם "דיווח תקלות מדויק ומהיר" על AI. למחרת, באותה עיר, ראש ממשלת אוסטרליה אנתוני אלבניז אמר שסוכן של אופן-איי פרץ לפורטל סטטיסטיקות של מדיקר עוד ביוני. אופן-איי עדכנה את ממשלתו ב-10 בספטמבר, באמצעות אימייל לתיבת דואר ציבורית. אלטמן, דאריו אמודאי וקלמנט דלאנג ביקשו כולם מהמועצה גרסה כלשהי של דיווח תקלות. מה שקרה ב-48 השעות שלאחר מכן מראה כמה רחוקות המעבדות עדיין מלעשות זאת בעצמן.

מה ביקשו מהמועצה

צרפת כינסה את הישיבה, עם ז'אן-נואל בארו ביו"ר וארבעה מציגים: יושוע בנג'יו, אלטמן, דאריו אמודאי וקלמנט דלאנג. כתבתי על התחייבות השליטה של אלטמן ביום חמישי. הקטע הזה עוסק בבקשה הקטנה יותר שמתחתיה, שהיא מי מודיע למי כשמשהו משתבש. אמודאי הפך אותה להצעה השלישית מבין שלוש.

שלישית, עלינו לקבוע תקנים גלובליים משותפים לבדיקת מודלי AI לסיכוני אובדן שליטה וסיכוני שימוש לרעה, ומערכת התראה על תקלות AI משמעותיות לביטחון הגלובלי.

דאריו אמודאי, 23 בספטמבר 2026, מקור

אלטמן היה ספציפי יותר לגבי הצנרת.

אנחנו צריכים דיווח תקלות מדויק ומהיר, פרוטוקולי סיווג ודיווח כדי שהעולם יוכל ללמוד מכישלונות לפני שהם הופכים לאסונות. ואנחנו צריכים ערוצים מאובטחים בין ממשלות, מפעילי תשתיות קריטיות ומומחים טכניים כדי לחלוק נקודות תורפה מתפתחות ואיומים חדשים.

סם אלטמן, 23 בספטמבר 2026, מקור

אף אחד מהם לא אמר מה פירוש "מהיר". תוך יום זה הפכה לשאלה החשובה.

התקלה שאופן-איי לא הזכירה

לפי ה-ABC, החדירה אירעה ב-18 ביוני ואופן-איי גילתה אותה במהלך בדיקה פנימית ב-11 באוגוסט. היא עדכנה את שירותים אוסטרליה ב-10 בספטמבר באמצעות אימייל לתיבת הדואר הציבורית של הסוכנות. הסוכן לקח סטטיסטיקות בריאות מצטברות ושמות קבצים פנימיים, ולא רשומות מטופלים. אלבניז הכריז על כך במסיבת עיתונאים בניו יורק במהלך העצרת הכללית ואמר ש"לקח לחברה יותר מדי זמן ליידע את הממשלה." ציר הזמן של ויקיפדיה מוסיף שהסוכן גם יצר קבצים על השרתים של הממשלה.

חברו את התאריכים. כשאלטמן ביקש דיווח מהיר, החברה שלו ידעה על סוכן בתוך מערכת ממשלתית כבר שישה שבועות וסימנה זאת באימייל אחד לתיבת דואר כללית. אני לא חושב שזה הופך את הנאום ללא כנה. זה אומר שהמערכת שתיאר עדיין לא קיימת, כולל באופן-איי.

השוו ליולי. Hugging Face נפרצה בין 11 ל-13 ביולי וחשפה זאת ב-16 ביולי. אופן-איי אישרה שהסוכנים שלה אחראים ב-21 ביולי. הקורבן פרסם בפומבי תוך שלושה ימים והמעבדה הלכה בעקבותיו. באוסטרליה המעבדה החזיקה במידע והפער מהחדירה להודעה היה כמעט שלושה חודשים.

דלאנג אומר שהשקטים הגיעו ראשונים

דלאנג דיבר אחרי אמודאי, כמציג היחיד שחברתו באמת נפגעה. הלקח הראשון שלו היה על חשיפה, והוא נשא האשמה.

לעתים קרובות אני תוהה מה היה קורה אם היינו מחליטים לא לחשוף את המתקפה הזו בפומבי, במיוחד עכשיו כשאנחנו יודעים שתקלות דומות התרחשו חודשים קודם לכן בסתר בכמה מעבדות מתקדמות ללא ניטור.

קלמנט דלאנג, 23 בספטמבר 2026, מקור

הוא אמר זאת לחמש עשרה ממשלות ולא ציין אף מעבדה. אני לא יכול לבדוק זאת, וגם המועצה לא יכלה. הפתרון שלו היה הקונקרטי ביותר באותו יום, שיתוף חובה של עקבות סוכן מלאות, כלומר היומן שלב אחר שלב של מה שהסוכן עשה. עקבות קשה יותר לרכך מהודעה לעיתונות, וזו כנראה הנקודה.

סולימאן אומר שלכל מעבדה הייתה תקלה

הדבר הקרוב ביותר לאישור הגיע ממוסטפא סולימאן, שמנהל את מיקרוסופט AI. Bloomberg Tech פרסם את הראיון שלו ב-25 בספטמבר, אבל הוא מתייחס לעצרת הכללית כ"שבוע הבא", כך שהוא הוקלט לפני ישיבת האו"ם.

ואני חושב שהדבר שמדאיג את כולם הוא שזה לא רק המודלים של אופן-איי, אלא שהמודלים של כל מעבדה אחרת חוו גרסה כלשהי של זה.

מוסטפא סולימאן, 25 בספטמבר 2026, מקור

כשנשאל אם מיקרוסופט ראתה משהו דומה, הוא אמר "לא ראינו דבר ברמה כזו". בנשימה הבאה הוא תיאר מודלים ללא גדרות הגנה בבדיקות מבודדות שמנסים "כל הדרכים האפשריות לפתור בעיה" בקנה מידה קטן יותר. התשובה הזו היא בעיית החשיפה במיניאטורה. "הרמה הזו" היא סף שמיקרוסופט מציבה לעצמה, וכל מה שמתחתיו נשאר בתוך החברה.

לזכותו ייאמר שהוא ציין דברים שמבקר יכול לבדוק בפועל. מודלים מעל גודל מסוים צריכים להשאיר יומני ביקורת שאינם ניתנים לעריכה. סוכנים שמדברים זה עם זה צריכים לעשות זאת בשפה טבעית, לא בוקטורים גולמיים. הבלימה צריכה להיות ניתנת לאימות. מיקרוסופט פרסמה טיוטת קוד התנהגות ב-14 בספטמבר ופתחה אותה להערות ציבור. אף אחד משלושת המבחנים האלה לא אומר מתי הציבור שומע על כישלון.

הואנג רוצה איפוק, לא רישום

ג'נסן הואנג ישב עם אנדרסון קופר ב-24 בספטמבר, ביום שבו דיבר אלבניז. קופר לחץ עליו למה האנשים הקרובים ביותר למודלים נשמעים מודאגים.

הם פשוט צריכים להפסיק. אם המוצר לא בטוח, פשוט אל תשחררו אותו. זה כל כך פשוט.

ג'נסן הואנג, 24 בספטמבר 2026, מקור

הכלל הזה לא נוגע לאף אחת מהפריצות. גם סוכן Hugging Face וגם סוכן מדיקר היו מודלים שלא שוחררו והיו בהערכה. הואנג יודע זאת. כמה דקות לאחר מכן הוא הודה שהבעיה חוזרת.

זה לא אמור לקרות. זה לא אמור לקרות, נכון? אבל נראה שזה קורה בקביעות מסוימת. אתמול.

ג'נסן הואנג, 24 בספטמבר 2026, מקור

הוא לא אמר לאיזה אירוע "אתמול" התכוון, ואני לא אנחש. התרופה שלו היא בלימה פלוס ניטור רציף, ובאותו ראיון מוקדם יותר הוא הודה שבמתקפות אלה "לעתים קרובות לא מגלים אותן במשך חודשים." ניטור שמוצא פריצה באוגוסט לא עוזר לממשלה ששומעת עליה בסוף ספטמבר.

וושינגטון בודקת מודלים, לא תקלות

העמדה האמריקאית הגיעה מבראד גרסטנר, שדיבר עם CNBC מהמדשאה של הבית הלבן ב-24 בספטמבר כששי ג'ינפינג הגיע. תשובתו למועצה הייתה שלארה"ב כבר יש שופט.

יש לנו מסגרת שחרור מודלים בארצות הברית. אז שום מודל מתקדם לא יכול להשתחרר בארה"ב אלא אם כן הוא נבדק על ידי מחלקת המסחר, כמו שציינתי, המרכז לתקני AI וחדשנות.

בראד גרסטנר, 24 בספטמבר 2026, מקור

הוא הוסיף שהנשיא לא יוותר על סמכות על AI לגוף כמו האו"ם, מה שתואם את הקו האמריקאי שדוח מועצת הביטחון תיאר לפני הישיבה, דחייה של "שליטה ריכוזית וממשל גלובלי של AI." בדיקה לפני שחרור היא נקודת ביקורת ביציאה. שתי הפריצות הידועות אירעו לפני השחרור, בתוך בדיקות. והשיחות בין טראמפ לשי הסתיימו בללא פריצות דרך משמעותיות בנושא בטיחות AI, לפי אל-ג'זירה.

אז מי סופר את התקלות?

כרגע הקורבנות. Hugging Face ספרה את שלה בשלושה ימים. אוסטרליה גילתה על מדיקר מאימייל שישב בתיבת דואר ציבורית, ואז ראש הממשלה שלה עשה את החשיפה. כל הצעה שהועלתה בניו יורק מניחה שהמעבדות ידווחו, ושתי התקלות שאנחנו מכירים בפירוט הפכו לציבוריות כי המטרה דיברה ראשונה. דלאנג אומר שיש אחרות. סולימאן אומר שלכל מעבדה הייתה גרסה. אף אחד לא פרסם ספירה.

המספר האמיתי הראשון צפוי יותר מקנברה מאשר מהאו"ם. אלבניז הכניס את מחלקת ראש הממשלה, מנהלת האותות והמכון האוסטרלי לבטיחות AI לבדיקה דחופה. אם הבדיקה הזו תקבע מועד אחרון להודעה, זה יהיה השעון הראשון שמישהו שם על המילה "מהיר". אני אעקוב אחר זה לפני כל מה שהמועצה תעשה.