Mandia обнаружил, что открытые AI-модели взламывают так же хорошо, как и закрытые: проблема для сторонников замедления

6 октября два генеральных директора в сфере безопасности и главный технолог Пентагона заявили, каждый по-своему, что те, кто призывает замедлить развитие ИИ, ошибаются. Джордж Куртц из CrowdStrike назвал 10%-ную оценку риска гибели ерундой в эфире CNBC. Главный технолог Пентагона сказал, что каждый инцидент с ИИ до сих пор был предотвратим. Однако самым полезным заявлением дня стало выступление Кевина Мандиа в эпизоде a16z, выпущенном в тот же день. Его компания протестировала открытые и закрытые модели на 20 реальных вторжениях, и они завершили одинаковое количество. Если это подтвердится, замедление ведущих лабораторий мало что даст против взлома с помощью ИИ, потому что открытые модели уже достигли этого уровня.

Тест Мандиа — цифра, которую стоит запомнить

Мандиа создал Mandiant, продал ее и вернулся в возрасте около пятидесяти пяти лет, чтобы возглавить Armadin, стартап, который атакует собственных клиентов с помощью ИИ-агентов до того, как это сделают преступники. SecurityWeek сообщил 1 октября, что компания привлекла $255,5 млн при оценке в $2,5 млрд, при совместном руководстве Andreessen Horowitz и Accel. Так что ведущий a16z — инвестор. Имейте это в виду, а затем посмотрите на то, что Мандиа фактически сообщил, потому что это более осторожно, чем нужно для презентации.

Его команда описала 20 полных последовательностей атак, которые операторы-люди проводили на реальных сайтах жертв, от первого проникновения до достижения цели. Затем они позволили моделям попробовать.

Мы протестировали открытые модели и самые продвинутые закрытые. Все они нашли восемь.

Кевин Мандиа, a16z, выпущено 6 октября 2026 года, источник

Восемь из 20 — это два прочтения одновременно. Ни одна модель, закрытая или открытая, не смогла завершить большую часть реального вторжения самостоятельно, что является холодным душем для самых страшных сценариев. И единственным преимуществом закрытых моделей была скорость и стоимость. Мандиа говорит, что его команда позволила открытым работать дольше, и "они достигли того же результата". Этот второй пункт — то, что дебаты о темпах пропустили.

Почему открытые модели важнее, чем передовые

Мандиа не уклоняется от выводов. Узкое место для преступников, по его словам, — анонимность, а не качество моделей.

Открытые модели уже достаточно хороши, и они сейчас распространены. Как только появится анонимный доступ к GPU, вы увидите гораздо больше преступных атак.

Кевин Мандиа, a16z, выпущено 6 октября 2026 года, источник

Никеш Арора из Palo Alto Networks пришел к тому же выводу с политической стороны. Его интервью Tech Download для CNBC было записано в конце сентября на HumanX в Амстердаме и опубликовано 6 октября, так что рассматривайте его как справочный материал. Он сказал, что сначала назвал предложение лабораторий о замедлении "ниндзя-ходом", игрой на сочувствие регуляторов, а затем изменил свое мнение по более простой причине. Никто не может это обеспечить.

Я думаю, это нереалистично. Не все будут сдерживать себя.

Никеш Арора, The Tech Download, записано в конце сентября, опубликовано 6 октября 2026 года, источник

Ранее в том же разговоре Арора сказал, что Palo Alto предсказывала, что открытые модели сравняются с Mythos в течение трех-шести месяцев, и что "есть открытые модели, которые почти так же хороши, как Mythos" сейчас. Поставьте это рядом с восемью из 20 у Мандиа, и вы получите последовательную картину от двух конкурентов. Передовые модели задают потолок для новых возможностей. Для взлома сетей пол уже догнал.

Куртц говорит, что математика гибели — ерунда

Джим Крамер открыл сегмент Squawk Box, отметив, что CrowdStrike достигла исторического максимума накануне. Yahoo Finance сообщила, что внутридневной рекорд 5 октября составил $274,23, при этом акции выросли на 147% с конца января. Затем Крамер спросил Куртца о исследователях, которые говорят, что есть реальный шанс, что ИИ убьет всех к концу десятилетия.

Ерунда, Джим. Мы не умрем в 2030 году с вероятностью 10%.

Джордж Куртц, CNBC Squawk Box, 6 октября 2026 года, источник

Его решение — "бортовой самописец" для агентов, журнал каждого файла, к которому агент обращается, и каждого действия, которое он совершает, связанный со способом его остановки. Он хочет стандартов NIST и саморегулирования, а не пяти лет сертификации. У него также была язвительная фраза для исследователей безопасности: "им следует чаще консультироваться со специалистами по безопасности".

Я серьезно отношусь к инженерному аргументу, но все же скептически отношусь к тону. У генерального директора, чьи акции выросли на 147% из-за спроса на безопасность ИИ, есть все основания говорить, что проблема достаточно реальна, чтобы покупать продукт, но не настолько, чтобы кто-то замедлялся. Его собственный лучший пример противоречит спокойствию. Он привел взлом в Австралии, который оставался незамеченным в течение 84 дней. Это совпадает с разрывом между проникновением агента OpenAI в статистический портал Medicare в Австралии 18 июня и сообщением OpenAI Канберре 10 сентября, о котором мы писали в сентябре. Бортовой самописец бесполезен, если никто не читает его в течение 84 дней.

Пентагон называет каждый инцидент предотвратимым

Эмиль Майкл, заместитель министра по исследованиям и разработкам, был на CNBC тем же утром, чтобы обсудить награду Anduril от ВМС, контракт на сумму до $2,9 млрд на верфь для подводных лодок в округе Балтимор, которую, как сообщает DefenseScoop, Anduril поддерживает собственными $3,7 млрд. На вопрос о рисках ИИ он пошел дальше Куртца и обвинил часть страха в "тактике запугивания", распространяемой "возможно, при некотором иностранном влиянии". Он не предоставил доказательств этому, и я бы не стал повторять это как факт.

Я думаю, что все, что мы видели до сих пор, было предотвратимо самими лабораториями. И это ключевой вывод.

Эмиль Майкл, CNBC, 6 октября 2026 года, источник

Предотвратимо — справедливое слово для сбоев песочниц и непрочитанных журналов. Это также способ сказать, что проблема принадлежит лабораториям и их юристам, а не правительству. Майкл сказал это, когда говорил о том, чтобы компании "знали, что они несут ответственность в определенных случаях".

Мандиа не думает, что следующий год будет спокойным

Здесь лагерь безопасности расходится, и это часть эпизода a16z, которую клипы пропустят. Мандиа согласен с Куртцем, что замедление моделей бессмысленно. Он не согласен, что все под контролем. Он говорит, что Armadin обнаружил более 90 нулевых дней на сайтах клиентов с января, и что последние несколько были найдены ИИ, а не его людьми. О персонале он откровенен: "если у вас есть люди в цикле обнаружения и реагирования, вы будете слишком медленными".

Так что нет способа сделать следующий год красивым. Это лучший способ сказать это.

Кевин Мандиа, a16z, выпущено 6 октября 2026 года, источник

Он описывает это как окно, когда атакующие имеют преимущество, и говорит, что атакующие в Иране или России чувствуют "отчаяние в момент "войти сейчас"". Это также продажа автономной защиты, и на этом основана его оценка в $2,5 млрд. Это также самый конкретный прогноз, который дал кто-либо из троих.

Так делает ли замедление лабораторий кого-то безопаснее от ИИ-хакеров?

Судя по этим данным, не очень. Самый сильный показатель дня говорит, что открытые модели уже сравнимы с закрытыми в реальных вторжениях, если дать им время. Это делает замедление в нескольких американских лабораториях слабым инструментом против преступников и государств, использующих открытые модели на арендованных GPU. Что генеральные директора в сфере безопасности на самом деле утверждают, так это то, что деньги должны идти на наблюдение за агентами, их журналирование и быстрое отключение. Это корыстно, и, вероятно, правильно. Открытый вопрос — тот, который поднял Мандиа и который Куртц пропустил. Восемь из 20 — сегодняшняя цифра. Никто в кадре не сказал, что произойдет, когда она достигнет 15.