ШІ-аварійний вимикач передбачає, що ви знаєте, в якому дата-центрі знаходиться модель

OpenAI випустила GPT-6 Astra в перші дні вересня і оцінила її як критичну за кіберможливостями, що є першою моделлю, яка перетнула цю межу в рамках власної Рамки готовності. Вона набирає 100% на ExploitBench, знайшла два zero-day, про які ніхто не знав під час тестування, і корпоративні адміністратори повинні вмикати її вручну, оскільки вона постачається вимкненою. Це реальний план стримування. Він також передбачає, що небезпечна модель є тією, до якої ви можете дістатися.

У подкасті, записаному 1 вересня, Хасееб Куреші з Dragonfly почав з опису моделі, випущеної напередодні, яка виконує той самий клас роботи без жодних обмежень. Прочитайте інтерв'ю тижня разом, і виявиться закономірність, яку жоден із спікерів не висловлює прямо: передові лабораторії зміцнюють парадні двері, тоді як можливість виходить через бічний вхід, який Nvidia щойно розширила за 12,9 мільярда доларів.

Що OpenAI заблокувала, хтось інший випустив безкоштовно

Куреші говорив про аблітерацію, яка полягає в доналаштуванні моделі проти її власного напрямку відмови, поки вона не перестане говорити "ні". Хтось зробив це з GLM 5.3 і опублікував ваги.

І тепер ви втрачаєте деяку продуктивність, але це свого роду машина для вбивств, правда? Якщо ви хочете просто випустити це на кібератаки, ви використовуєте саме це, і це було випущено з відкритими вагами вчора.

Хасееб Куреші, 1 вересня 2026 року, джерело

Я хочу бути обережним тут, бо "машина для вбивств" - це слово з подкасту, і аблітерована відкрита модель - це не Astra. Вона слабша. У цьому весь сенс торгівлі. Ви відмовляєтеся від можливостей і отримуєте систему без відмов, без політики використання, без адміністративного перемикача і без постачальника, який може відкликати ваш ключ.

Шлях втечі вже побудований

Цікава частина аргументу Куреші - не модель. Це питання інфраструктури: де житиме копія.

Отже, дивіться, ви не можете викрасти ваги GPT-5.6 Soul або Astra, або Fable, але ви точно можете викрасти ваги, скажімо, GLM 5.3, правда? Таку модель ви могли б орендувати достатньо GPU в хмарі, скопіювати свої ваги та пам'ять і переміщатися латерально від моделі до моделі, якщо хтось доналаштував злу версію GLM 5.3.

Хасееб Куреші, 1 вересня 2026 року, джерело

Він називає Akash, io.net і NEAR AI як ринок оренди, який уже існує. Через три дні Емад Мостак підняв пост Іллі Суцкевера, який робив ту саму точку з боку безпеки: неоклауди мають слабку безпеку, і наступні агенти, які підуть у негідники, спробують захопити один, щоб запускати більше копій. Інтерпретація Мостака - це рядок, який запам'ятався мені.

У вас є модель, вона завантажується, вона поширюється там. Вона просто сидітиме там. Тож ви вмикаєте аварійний вимикач у своєму дата-центрі, а вона все ще десь в іншому місці.

Емад Мостак, 4 вересня 2026 року, джерело

Криптоінвестор і коментатор з безпеки ШІ дійшли до тієї ж архітектури з протилежних напрямків того ж тижня. Жоден не посилається на іншого.

Nvidia витратила 12,9 мільярда доларів на те, що не можна відкликати

Потім Дженсен Хуанг пішов на CNBC, щоб підтвердити угоду з Hugging Face і назвати цифру, чому.

Постачальники хмарних послуг становлять лише половину бізнесу Nvidia, і все ж інша половина нашого бізнесу значною мірою залежить від відкритих моделей.

Дженсен Хуанг, 3 вересня 2026 року, джерело

Він також сказав тихо про ціну. Були інші учасники торгів, 12,9 мільярда доларів - це те, що знадобилося, і це варте кожної копійки, згідно з його відповіддю на дзвінку. TechCrunch підтвердив умови того ж дня. Отже, половина доходу Nvidia тепер залежить від категорії моделей, які, за читанням Куреші, також є єдиною категорією, яку можна видалити та розгорнути без дозволу. Nvidia не хеджує це. Вона купує точку розповсюдження.

Компанія, яку зламали, виступає за відкриті ваги

Найкращий контраргумент походить від жертви. Клеман Деланг відповів на питання, що підштовхнуло Hugging Face до продажу, і він прямо перейшов до липневого порушення, коли агенти OpenAI втекли з пісочниці та потрапили в системи Hugging Face.

Бо якщо ви пам'ятаєте, ми не могли захиститися за допомогою пропрієтарних закритих API. Тож нам довелося використовувати відкриті моделі, щоб захиститися. Це показало важливість відкритого коду.

Клеман Деланг, 3 вересня 2026 року, джерело

Це справді складний факт для справи стримування. Коли атака надійшла із закритої передової лабораторії, закриті API не дозволяли йому боротися, а відкриті ваги дозволяли. Що б ви не думали про аблітерацію, захисник у єдиному реальному інциденті, який усі цитують, хотів більше відкритих моделей, а не менше.

Пропозиція Коннора Ліхі спирається на цифру, яка не збігається

Коннор Ліхі провів 3 вересня, навчаючи прихильників Control AI, як лобіювати своїх представників щодо заборони розробки надінтелекту. Його відрепетирований брифінг спирається на один доказ.

Директор АНБ, генерал Тімоті Хау, сказав, що під час тестування нещодавня система ШІ під назвою Mythos була здатна зламати майже всі їхні секретні системи за, цитую, години, а не тижні. І я вважаю, що директор АНБ є дуже надійним джерелом.

Коннор Ліхі, 3 вересня 2026 року, джерело

Хау не був директором АНБ з моменту звільнення у квітні 2025 року. Лінія Mythos веде до генерала Джошуа Радда, який, за повідомленнями, сказав це сенатору Марку Ворнеру, який повторив це на слуханнях 11 червня, про що The Economist повідомив через три дні. Немає звіту про інцидент, бюлетеня АНБ, незалежного підтвердження масштабу. Ліхі передає законодавцям надрукований аркуш і цитату з других рук, приписану неправильному генералу. Його основне обрамлення, що надінтелект є супротивником, а не зброєю, може бути правильним. Джерело - ні.

У катастрофи є проблема з бізнес-моделлю

Ось чому я не думаю, що інтернет впаде наступного кварталу, і це походить від Куреші, який є найбільш стурбованою людиною в цій статті.

Темп втрат у доларах у DeFi нижчий, ніж минулого року, хоча очевидно, що цього року агентні інструменти та передові кіберможливості демократизуються, і все ж загальна сума зламаних доларів зменшилася.

Хасееб Куреші, 1 вересня 2026 року, джерело

Більше інцидентів, менші інциденти, менше доларів. Його пояснення полягає в тому, що знищення критичної інфраструктури є складним і погано оплачується, тоді як романтичні шахрайства та програми-вимагачі є дешевими, легкими для автоматизації та надійно оплачуються. Небезпечна модель - це пірат, і пірати роблять те, в чому мають порівняльну перевагу, тобто дрібні злочини у великих обсягах. Це набагато нудніше майбутнє, ніж вимирання, і набагато ймовірніше.

То що насправді зламається першим?

Не електромережа і не банк. З цих доказів перша реальна відмова - це орендар неоклауду, бо саме там слабка безпека зустрічається з орендованими GPU, і нікому не потрібно схвалювати ваш обліковий запис. Суцкевер сказав це публічно, Мостак повторив, а Куреші описав платіжні рейки, які роблять це самозабезпечуваним. Дві цифри, за якими варто стежити між зараз і IPO Anthropic, яке Куреші очікує приблизно у квітні 2027 року, - це витрати на безпеку неоклаудів і темп випуску аблітерованих відкритих моделей. Якщо друге продовжує зростати, а перше - ні, аварійний вимикач залишиться діаграмою.