מנדייה מצא שמודלים פתוחים של AI פורצים כמו סגורים, בעיה למחנה ההאטה

ב-6 באוקטובר אמרו שני מנכ"לי אבטחה והטכנולוג הראשי של הפנטגון, בדרכים שונות, שהאנשים שמבקשים להאט את ה-AI טועים. ג'ורג' קורץ מקרודסטרייק כינה הערכת אבדון של 10% שטויות ב-CNBC. הטכנולוג הראשי של הפנטגון אמר שכל תקריות ה-AI עד כה היו ניתנות למניעה. הדבר השימושי ביותר שנאמר כל היום, עם זאת, הגיע מקווין מנדייה, בפרק של a16z ששודר באותו יום. החברה שלו בדקה מודלים פתוחים וסגורים מול 20 חדירות אמיתיות, והם סיימו עם אותו מספר. אם זה נכון, האטת מעבדות הגבול עושה מעט נגד פריצות AI, כי המודלים הפתוחים כבר שם.

המבחן של מנדייה הוא המספר שצריך לזכור

מנדייה בנה את מנדיאנט, מכר אותה, וחזר באמצע שנות החמישים שלו כדי לנהל את ארמאדין, סטארטאפ שתוקף את הלקוחות שלו עם סוכני AI לפני שהפושעים עושים זאת. SecurityWeek דיווח ב-1 באוקטובר שהיא גייסה 255.5 מיליון דולר לפי שווי של 2.5 מיליארד דולר, בהובלה משותפת של אנדריסן הורוביץ ואקסל. אז המארח של a16z הוא משקיע. קחו זאת בחשבון, ואז הסתכלו על מה שמנדייה דיווח בפועל, כי זה זהיר יותר ממה שפיץ צריך להיות.

הצוות שלו כתב 20 רצפי תקיפה מלאים שמפעילים אנושיים ביצעו באתרי קורבן אמיתיים, מהנקודה הראשונית ועד המטרה. ואז הם נתנו למודלים לנסות.

בדקנו את המודלים הפתוחים ואת המודלים הסגורים המתקדמים ביותר. כולם מצאו שמונה.

קווין מנדייה, a16z, שודר ב-6 באוקטובר 2026, מקור

שמונה מתוך 20 הוא שתי קריאות בבת אחת. אף מודל, סגור או פתוח, לא יכול היה להשלים את רוב החדירה האמיתית בעצמו, וזה מקלחת קרה לתרחישים המפחידים ביותר. והיתרון היחיד של המודלים הסגורים היה מהירות ועלות. מנדייה אומר שהצוות שלו נתן לפתוחים לרוץ זמן רב יותר ו"הם הגיעו לאותה נקודה." הנקודה השנייה הזו היא מה שהוויכוח על הקצב דילג עליה.

למה המודלים הפתוחים חשובים יותר מהגבול

מנדייה לא מתחמק ממה שנובע מכך. הצוואר בקבוק לפושעים, לפי דבריו, הוא אנונימיות, לא איכות המודל.

המודלים הפתוחים כבר טובים מספיק, והדברים האלה נפוצים עכשיו. זה רק עניין של הרגע שיש לך זמינות אנונימית של GPUs, תראה הרבה יותר מתקפות פליליות.

קווין מנדייה, a16z, שודר ב-6 באוקטובר 2026, מקור

ניקש ארורה מפאלו אלטו נטוורקס הגיע לאותה נקודה מהצד המדיני. הראיון שלו עם CNBC ב-Tech Download הוקלט בסוף ספטמבר ב-HumanX באמסטרדם ופורסם ב-6 באוקטובר, אז התייחסו אליו כרקע. הוא אמר שתחילה כינה את הצעת הקצב של המעבדות "מהלך נינג'ה," משחק לרגולטורים, ואז שינה את דעתו מסיבה פשוטה יותר. אף אחד לא יכול לאכוף את זה.

אני חושב שזה לא ריאלי. לא כולם הולכים לקצב את עצמם.

ניקש ארורה, The Tech Download, הוקלט בסוף ספטמבר, פורסם ב-6 באוקטובר 2026, מקור

מוקדם יותר באותה שיחה ארורה אמר שפאלו אלטו חזתה שמודלים פתוחים ישתוו למיתוס בתוך שלושה עד שישה חודשים, וש"יש מודלים בקוד פתוח שכמעט טובים כמו מיתוס" עכשיו. שימו את זה ליד שמונה מתוך 20 של מנדייה ותקבלו סיפור עקבי משני מתחרים. הגבול קובע את התקרה ליכולת חדשה. לפריצה לרשתות, הרצפה כבר השיגה.

קורץ אומר שמתמטיקת האבדון היא שטויות

ג'ים קריימר פתח את הקטע של Squawk Box בכך שציין שקרודסטרייק הגיעה לשיא כל הזמנים יום קודם. יאהו פיננסים העמידה את השיא התוך-יומי של 5 באוקטובר על 274.23 דולר, כשהמניה עלתה ב-147% מסוף ינואר. קריימר לחץ אז על קורץ בנוגע לחוקרים שאומרים שיש סיכוי אמיתי ש-AI יהרוג את כולם עד סוף העשור.

שטויות, ג'ים. אנחנו לא הולכים להיות מתים ב-2030 עם סיכוי של 10%.

ג'ורג' קורץ, CNBC Squawk Box, 6 באוקטובר 2026, מקור

הפתרון שלו הוא "קופסה שחורה" לסוכנים, יומן של כל קובץ שסוכן נוגע בו וכל פעולה שהוא מבצע, קשור לדרך לעצור אותו. הוא רוצה תקני NIST ופיקוח עצמי, לא חמש שנים של הסמכה. הייתה לו גם הערה חדה לחוקרי הבטיחות: "הם צריכים להתייעץ עם אנשי האבטחה יותר לעתים קרובות."

אני לוקח את הטיעון ההנדסי ברצינות, ובכל זאת הייתי מפחית מהטון. מנכ"ל שהמניה שלו עלתה ב-147% על ביקוש לאבטחת AI יש לו כל סיבה לומר שהבעיה אמיתית מספיק כדי לקנות מוצר עבורה, אבל לא כל כך אמיתית שמישהו צריך להאט. הדוגמה הטובה ביותר שלו עצמו חותכת נגד הרוגע. הוא ציטט פריצה באוסטרליה שעברה 84 ימים לפני שמישהו ידע מה קרה. זה תואם לפער בין הסוכן של OpenAI שנכנס לפורטל הסטטיסטיקה של מדיקר באוסטרליה ב-18 ביוני לבין ש-OpenAI הודיעה לקנברה ב-10 בספטמבר, מה שסיקרנו בספטמבר. קופסה שחורה לא עושה כלום אם אף אחד לא קורא אותה במשך 84 ימים.

הפנטגון קורא לכל תקרית ניתנת למניעה

אמיל מייקל, תת-המזכיר למחקר והנדסה, היה ב-CNBC באותו בוקר כדי לדבר על פרס הצי לאנדוריל, חוזה בשווי של עד 2.9 מיליארד דולר למספנת חלקי צוללות במחוז בולטימור שDefenseScoop מדווח שאנדוריל מגבה עם 3.7 מיליארד דולר מכספה. כשנשאל על סיכון AI, הוא הלך רחוק יותר מקורץ והאשים חלק מהפחד ב"טקטיקות הפחדה" שמופצות "פוטנציאלית עם השפעה זרה כלשהי." הוא לא הציע ראיות לכך, ולא הייתי חוזר על זה כעובדה.

אז אני חושב שכל מה שראינו עד כה היה ניתן למניעה על ידי המעבדות עצמן. וזו נקודה מרכזית לקחת.

אמיל מייקל, CNBC, 6 באוקטובר 2026, מקור

ניתן למניעה היא מילה הוגנת לכשלי ארגז חול ויומנים שלא נקראו. זו גם דרך לומר שהבעיה שייכת למעבדות ולעורכי הדין שלהן, לא לממשלה. מייקל אמר זאת כשדיבר על לוודא שהחברות "יודעות שהן אחראיות במקרים מסוימים."

מנדייה לא חושב שהשנה הבאה תהיה רגועה

כאן המחנה הביטחוני מתפצל, וזה החלק בפרק של a16z שהקליפים ידלגו עליו. מנדייה מסכים עם קורץ שהאטת המודלים היא חסרת טעם. הוא לא מסכים שהדברים תחת שליטה. הוא אומר שארמאדין מצאה יותר מ-90 פרצות יום אפס באתרי לקוחות מאז ינואר, ושהאחרונות נמצאו על ידי ה-AI ולא על ידי האנשים שלו. על כוח אדם הוא ישיר: "אם יש לך בני אדם בלולאת הזיהוי והתגובה, אתה תהיה איטי מדי."

אז אין דרך לעשות את השנה הבאה יפה. זו הדרך הטובה ביותר לומר את זה.

קווין מנדייה, a16z, שודר ב-6 באוקטובר 2026, מקור

הוא ממסגר זאת כחלון שבו להתקפה יש יתרון, ואומר שתוקפים באיראן או ברוסיה מרגישים "ייאוש ברגע של להיכנס עכשיו." זו גם הצעת מכר להגנה אוטונומית, ויש לו שווי של 2.5 מיליארד דולר תלוי בזה. זו גם התחזית הספציפית ביותר שכל אחד מהשלושה נתן.

אז האם האטת המעבדות עושה מישהו בטוח יותר מהאקרים של AI?

על סמך ראיות אלה, לא הרבה. נקודת הנתונים החזקה ביותר של היום אומרת שמודלים פתוחים כבר משתווים לסגורים בחדירות אמיתיות, ברגע שנותנים להם זמן. זה הופך קצב בכמה מעבדות אמריקאיות לכלי חלש נגד פושעים ומדינות שמפעילים מודלים פתוחים על GPUs שכורים. מה שמנכ"לי האבטחה באמת טוענים הוא שהכסף צריך ללכת לצפייה בסוכנים, רישום שלהם וניתוק מהיר. זה אינטרסנטי, וכנראה נכון. השאלה הפתוחה היא זו שמנדייה העלה וקורץ דילג עליה. שמונה מתוך 20 הוא המספר של היום. אף אחד במצלמה לא אמר מה קורה כשזה מגיע ל-15.