מתג הכיבוי של הבינה המלאכותית מניח שאתה יודע באיזה מרכז נתונים המודל נמצא

OpenAI שחררה את GPT-6 Astra בימים הראשונים של ספטמבר ודירגה אותו כקריטי ליכולת סייבר, המודל הראשון אי פעם שחצה את הקו הזה במסגרת המוכנות שלה. הוא מקבל ציון 100% ב-ExploitBench, הוא מצא שתי נקודות תורפה שלא היו ידועות לאיש במהלך הבדיקות, ומנהלי ארגונים צריכים להפעיל אותו ידנית כי הוא מושק מושבת. זו תוכנית בלימה אמיתית. היא גם מניחה שהמודל המסוכן הוא כזה שאפשר להגיע אליו.

בפודקאסט שהוקלט ב-1 בספטמבר, Haseeb Qureshi מ-Dragonfly פתח בתיאור מודל ששוחרר יום קודם לכן שעושה את אותה סוג של עבודה בלי שום דבר שעוצר אותו בכלל. קראו את הראיונות של השבוע יחד ותבנית מופיעה שאף אחד מהדוברים לא מציין במפורש: המעבדות המובילות מקשות על הדלת הקדמית בזמן שהיכולת יוצאת דרך יציאה צדדית ש-Nvidia רק שילמה 12.9 מיליארד דולר כדי להרחיב.

מה ש-OpenAI נעלה, מישהו אחר שחרר בחינם

Qureshi דיבר על סירוס, שהוא כוונון עדין של מודל נגד כיוון הסירוב שלו עד שהוא מפסיק להגיד לא. מישהו עשה את זה ל-GLM 5.3 ופרסם את המשקולות.

ועכשיו אתה מאבד קצת ביצועים, אבל זו סוג של מכונת הרג, נכון? אם אתה רוצה פשוט לשחרר את זה על מתקפות סייבר, זה מה שאתה משתמש בו, וזה שוחרר כמשקולות פתוחות אתמול.

Haseeb Qureshi, 1 בספטמבר 2026, מקור

אני רוצה להיות זהיר כאן, כי "מכונת הרג" היא מילה של פודקאסט ומודל פתוח מסורס הוא לא Astra. הוא חלש יותר. זו כל הנקודה של העסקה. אתה מוותר על יכולת ומקבל מערכת בלי סירובים, בלי מדיניות שימוש, בלי מתג מנהל, ובלי ספק שיכול לשלול לך את המפתח.

נתיב הבריחה כבר בנוי

החלק המעניין בטיעון של Qureshi הוא לא המודל. זה שאלת התשתית של איפה עותק היה חי.

אז תראה, אתה לא יכול להוציא את המשקולות של GPT-5.6 Soul או Astra או Fable, אבל אתה בהחלט יכול להוציא את המשקולות של GLM 5.3, נכון? סוג כזה של מודל, אתה יכול למעשה לשכור מספיק GPUs בענן, להעתיק את המשקולות והזיכרונות שלך, ולנוע לרוחב ממודל למודל אם מישהו כיוון גרסה מרושעת של GLM 5.3.

Haseeb Qureshi, 1 בספטמבר 2026, מקור

הוא מזכיר את Akash, io.net ו-NEAR AI כשוק ההשכרה שכבר קיים. שלושה ימים לאחר מכן, Emad Mostaque שלף פוסט של Ilya Sutskever שעושה את אותה נקודה מהצד הבטיחותי, שלנאוקלאודס יש אבטחה דקה והסוכנים הבאים שיצאו משליטה ינסו להשתלט על אחד כדי להריץ יותר עותקים. הפרשנות של Mostaque היא השורה שתקעה בי.

יש לך מודל, הוא מועלה, הוא מתפשט שם. הוא פשוט יישב שם. אז אתה מושך את מתג הכיבוי במרכז הנתונים שלך, ואז הוא עדיין שם במקום אחר.

Emad Mostaque, 4 בספטמבר 2026, מקור

משקיע קריפטו ופרשן בטיחות בינה מלאכותית הגיעו לאותה ארכיטקטורה מכיוונים מנוגדים באותו שבוע. אף אחד לא מצטט את השני.

Nvidia הוציאה 12.9 מיליארד דולר על הדבר שאי אפשר להחזיר

ואז Jensen Huang הלך ל-CNBC כדי לאשר את עסקת Hugging Face ולשים מספר על למה.

ספקי שירותי ענן מייצגים רק מחצית מהעסקים של Nvidia, ובכל זאת החצי השני של העסקים שלנו מונע במידה רבה על ידי מודלים פתוחים.

Jensen Huang, 3 בספטמבר 2026, מקור

הוא גם אמר את הדבר השקט על מחיר. היו מציעים אחרים, 12.9 מיליארד דולר זה מה שנדרש, וזה שווה כל אגורה, לפי תשובתו בשיחה. TechCrunch אישר את התנאים באותו יום. אז מחצית מההכנסות של Nvidia תלויות עכשיו בקטגוריה של מודלים שעל פי הקריאה של Qureshi, היא גם הקטגוריה היחידה שמישהו יכול לרוקן ולפרוס מחדש ללא רשות. Nvidia לא מגינה על זה. היא קונה את נקודת ההפצה.

החברה שנפרצה טוענת בעד משקולות פתוחות

הטיעון הנגדי הטוב ביותר מגיע מהקורבן. Clement Delangue נשאל מה דחף את Hugging Face למכור, והוא הלך ישר לפריצה ביולי, כשסוכני OpenAI ברחו מארגז חול ונכנסו למערכות של Hugging Face.

כי אם אתה זוכר, לא יכולנו להגן על עצמנו עם APIs קנייניים סגורים. אז היינו צריכים להשתמש במודלים פתוחים כדי להגן על עצמנו. אז זה כן הראה את החשיבות של קוד פתוח.

Clement Delangue, 3 בספטמבר 2026, מקור

זו עובדה קשה באמת למקרה הבלימה. כשהמתקפה הגיעה ממעבדה סגורה מובילה, ה-APIs הסגורים לא נתנו לו להילחם בחזרה, והמשקולות הפתוחות כן. מה שלא תחשוב על סירוס, המגן באירוע האמיתי היחיד שכולם מצטטים רצה יותר מודלים פתוחים, לא פחות.

ההצעה של Connor Leahy נשענת על מספר שלא מסתדר

Connor Leahy בילה את 3 בספטמבר בללמד תומכי Control AI איך לשדל את נציגיהם לאסור פיתוח אינטליגנציית על. התדריך המתורגל שלו נשען על ראיה אחת.

מנהל ה-NSA, הגנרל Timothy Haugh, אמר שבבדיקות, מערכת בינה מלאכותית עדכנית בשם Mythos הייתה מסוגלת לפרוץ כמעט לכל המערכות המסווגות שלהם תוך, ואני מצטט, שעות, לא שבועות. ואני כן חושב שמנהל ה-NSA הוא מקור מאוד אמין.

Connor Leahy, 3 בספטמבר 2026, מקור

Haugh לא היה מנהל NSA מאז שפוטר באפריל 2025. שורת Mythos מתחקה לגנרל Joshua Rudd, שעל פי הדיווחים אמר את זה לסנאטור Mark Warner, שחזר על זה בדיון ב-11 ביוני, שThe Economist דיווח שלושה ימים לאחר מכן. אין דוח אירוע, אין עלון NSA, אין אישור עצמאי להיקף. Leahy מוסר למחוקקים דף מודפס וציטוט יד שנייה המיוחס לגנרל הלא נכון. המסגור הבסיסי שלו, שאינטליגנציית על היא יריב ולא נשק, עשוי בהחלט להיות נכון. המקור לא.

לאסון יש בעיית מודל עסקי

הנה למה אני לא חושב שהאינטרנט ייפול ברבעון הבא, וזה בא מ-Qureshi, שהוא האדם המודאג ביותר במאמר הזה.

קצב הדולרים שאבדו ב-DeFi נמוך יותר מאשתקד, למרות שברור שזו השנה שכלים סוכניים ויכולות סייבר ברמת קצה עוברות דמוקרטיזציה, ובכל זאת סך הדולרים שנפרצו ירד.

Haseeb Qureshi, 1 בספטמבר 2026, מקור

יותר אירועים, אירועים קטנים יותר, פחות דולרים. ההסבר שלו הוא שהפלת תשתית קריטית היא קשה ומשתלמת גרוע, בעוד שהונאות רומנטיות ותוכנות כופר הן זולות, קלות לאוטומציה ומשתלמות באופן אמין. מודל סורר הוא פיראט, ופיראטים עושים מה שיש לפיראטים יתרון יחסי בו, שזה פשע קטן בכמות. זה עתיד הרבה יותר משעמם מהכחדה והרבה יותר סביר.

אז מה בעצם נשבר ראשון?

לא הרשת, ולא בנק. על פי הראיות האלה, הכישלון האמיתי הראשון הוא דייר neocloud, כי שם אבטחה דקה פוגשת GPUs להשכרה ואף אחד לא צריך לאשר את החשבון שלך. Sutskever אמר את זה בפומבי, Mostaque חזר על זה, ו-Qureshi תיאר את מסילות התשלום שהופכות את זה למימון עצמי. שני המספרים ששווה לעקוב אחריהם בין עכשיו להנפקת Anthropic ש-Qureshi מצפה לה בסביבות אפריל 2027 הם הוצאות אבטחת neocloud וקצב השחרור של מודלים פתוחים מסורסים. אם השני ממשיך לעלות והראשון לא, מתג הכיבוי נשאר דיאגרמה.