Mandia: otwarte modele AI hakerskie równie dobre jak zamknięte, problem dla zwolenników spowolnienia

6 października dwóch dyrektorów generalnych firm bezpieczeństwa i główny technolog Pentagonu powiedzieli na różne sposoby, że osoby wzywające do spowolnienia AI są w błędzie. George Kurtz z CrowdStrike nazwał 10% ryzyko zagłady bzdurą w CNBC. Główny technolog Pentagonu stwierdził, że każdy dotychczasowy incydent AI był możliwy do zapobieżenia. Najbardziej użyteczna rzecz powiedziana tego dnia pochodziła jednak od Kevina Mandii, w odcinku a16z opublikowanym tego samego dnia. Jego firma przetestowała otwarte i zamknięte modele na 20 prawdziwych włamaniach i ukończyły tę samą liczbę. Jeśli to się utrzyma, spowolnienie laboratoriów granicznych niewiele pomoże w kwestii hakerów AI, ponieważ otwarte modele już tam są.

Test Mandii to liczba, którą warto zapamiętać

Mandia zbudował Mandiant, sprzedał go i wrócił w połowie pięćdziesiątki, aby kierować Armadin, startupem, który atakuje własnych klientów agentami AI, zanim zrobią to przestępcy. SecurityWeek poinformował 1 października, że firma zebrała 255,5 miliona dolarów przy wycenie 2,5 miliarda dolarów, współprowadzonej przez Andreessen Horowitz i Accel. Więc gospodarz a16z jest inwestorem. Miej to na uwadze, a następnie spójrz na to, co Mandia faktycznie przekazał, ponieważ jest to bardziej ostrożne niż potrzeba w pitchu.

Jego zespół spisał 20 pełnych sekwencji ataków, które ludzcy operatorzy przeprowadzili w prawdziwych witrynach ofiar, od pierwszego punktu zaczepienia do celu. Następnie pozwolili modelom spróbować.

Przetestowaliśmy modele open-weight i najbardziej zaawansowane modele zamknięte. Wszystkie znalazły osiem.

Kevin Mandia, a16z, opublikowano 6 października 2026, źródło

Osiem z 20 to dwa odczytania naraz. Żaden model, zamknięty czy otwarty, nie był w stanie ukończyć większości prawdziwego włamania samodzielnie, co jest zimnym prysznicem dla najstraszniejszych scenariuszy. A jedyną przewagą modeli zamkniętych była szybkość i koszt. Mandia mówi, że jego zespół pozwolił otwartym działać dłużej i "dotarły do tego samego miejsca". Ten drugi punkt jest tym, który debata o tempie pominęła.

Dlaczego otwarte modele mają większe znaczenie niż graniczne

Mandia nie owija w bawełnę tego, co z tego wynika. Wąskim gardłem dla przestępców, według niego, jest anonimowość, a nie jakość modelu.

Otwarte modele są już wystarczająco dobre, a te rzeczy są teraz powszechne. To tylko kwestia tego, że w chwili, gdy masz anonimową dostępność procesorów graficznych, zobaczysz znacznie więcej ataków przestępczych.

Kevin Mandia, a16z, opublikowano 6 października 2026, źródło

Nikesh Arora z Palo Alto Networks doszedł do tego samego wniosku od strony polityki. Jego wywiad Tech Download z CNBC został nagrany pod koniec września na HumanX w Amsterdamie i opublikowany 6 października, więc traktuj go jako tło. Powiedział, że początkowo nazwał propozycję spowolnienia laboratoriów "ruchem ninja", grą o sympatię regulatorów, a następnie zmienił zdanie z prostszego powodu. Nikt nie może tego wyegzekwować.

Uważam, że to nierealistyczne. Nie wszyscy będą się spowalniać.

Nikesh Arora, The Tech Download, nagrano pod koniec września, opublikowano 6 października 2026, źródło

Wcześniej w tej samej rozmowie Arora powiedział, że Palo Alto przewidział, że otwarte modele dorównają Mythos w ciągu trzech do sześciu miesięcy, i że "istnieją modele open source, które są prawie tak dobre jak Mythos" teraz. Zestaw to z ośmioma z 20 Mandii, a otrzymasz spójną historię od dwóch konkurentów. Granica wyznacza sufit dla nowych możliwości. Jeśli chodzi o włamywanie się do sieci, podłoga już dogoniła.

Kurtz mówi, że matematyka zagłady to bzdura

Jim Cramer otworzył segment Squawk Box, zauważając, że CrowdStrike osiągnął rekord wszech czasów poprzedniego dnia. Yahoo Finance podał rekord śróddzienny z 5 października na poziomie 274,23 dolara, przy wzroście akcji o 147% od końca stycznia. Cramer następnie naciskał na Kurtza w sprawie badaczy, którzy twierdzą, że istnieje realna szansa, że AI zabije wszystkich do końca dekady.

Bzdura, Jim. Nie będziemy martwi w 2030 roku z 10% szansą.

George Kurtz, CNBC Squawk Box, 6 października 2026, źródło

Jego rozwiązaniem jest "rejestrator lotu" dla agentów, dziennik każdego pliku, którego dotyka agent, i każdego działania, które podejmuje, powiązany ze sposobem jego zatrzymania. Chce standardów NIST i samoregulacji, a nie pięciu lat certyfikacji. Miał też ostrą uwagę dla badaczy bezpieczeństwa: "powinni częściej konsultować się z ekspertami ds. bezpieczeństwa".

Traktuję argument inżynieryjny poważnie, ale i tak zdyskontowałbym ton. Dyrektor generalny, którego akcje wzrosły o 147% z powodu popytu na bezpieczeństwo AI, ma każdy powód, aby powiedzieć, że problem jest na tyle realny, by kupić produkt, i nie na tyle realny, by ktokolwiek miał zwalniać. Jego własny najlepszy przykład działa przeciwko spokojowi. Przytoczył włamanie w Australii, które trwało 84 dni, zanim ktokolwiek dowiedział się, co się stało. To pasuje do luki między agentem OpenAI wchodzącym do australijskiego portalu statystyk Medicare 18 czerwca a OpenAI informującym Canberrę 10 września, co opisaliśmy we wrześniu. Rejestrator lotu nic nie daje, jeśli nikt go nie czyta przez 84 dni.

Pentagon nazywa każdy incydent możliwym do zapobieżenia

Emil Michael, podsekretarz ds. badań i inżynierii, był w CNBC tego samego ranka, aby mówić o nagrodzie Andurila od Marynarki Wojennej, kontrakcie wartym do 2,9 miliarda dolarów na stocznię części okrętów podwodnych w hrabstwie Baltimore, który DefenseScoop podaje, że Anduril wspiera 3,7 miliarda dolarów własnych środków. Zapytany o ryzyko AI, poszedł dalej niż Kurtz i obwinił część strachu o "taktyki zastraszania" rozpowszechniane "potencjalnie z pewnym obcym wpływem". Nie przedstawił na to dowodów i nie powtarzałbym tego jako faktu.

Więc myślę, że wszystko, co do tej pory widzieliśmy, było możliwe do zapobieżenia przez same laboratoria. I to jest kluczowy wniosek.

Emil Michael, CNBC, 6 października 2026, źródło

Możliwe do zapobieżenia to uczciwe słowo w przypadku awarii piaskownic i nieczytanych logów. To także sposób na powiedzenie, że problem należy do laboratoriów i ich prawników, a nie do rządu. Michael powiedział to samo, mówiąc o zapewnieniu, że firmy "wiedzą, że są odpowiedzialne w niektórych przypadkach".

Mandia nie uważa, że nadchodzący rok będzie spokojny

W tym miejscu obóz bezpieczeństwa się dzieli i to jest część odcinka a16z, którą klipy pominą. Mandia zgadza się z Kurtzem, że spowalnianie modeli jest bezcelowe. Nie zgadza się, że wszystko jest pod kontrolą. Mówi, że Armadin znalazł ponad 90 zerowych dni w witrynach klientów od stycznia, a ostatnie kilka zostało znalezionych przez AI, a nie przez jego ludzi. Jeśli chodzi o personel, jest bezpośredni: "jeśli masz ludzi w pętli wykrywania i reagowania, będziesz zbyt wolny".

Więc nie ma sposobu, aby uczynić nadchodzący rok ładnym. To najlepszy sposób, aby to ująć.

Kevin Mandia, a16z, opublikowano 6 października 2026, źródło

Przedstawia to jako okno, w którym atak ma przewagę, i mówi, że atakujący w Iranie czy Rosji czują "rozpacz w momencie wejścia teraz". To także sprzedaż autonomicznej obrony, a on ma wycenę 2,5 miliarda dolarów na tym opartą. To także najbardziej konkretna prognoza, jaką podał którykolwiek z trzech.

Czy spowolnienie laboratoriów czyni kogokolwiek bezpieczniejszym przed hakerami AI?

Na podstawie tych dowodów, niewiele. Najmocniejszy punkt danych dnia mówi, że modele open-weight już dorównują zamkniętym w prawdziwych włamaniach, gdy da się im czas. To czyni spowolnienie w kilku amerykańskich laboratoriach słabym narzędziem przeciwko przestępcom i państwom uruchamiającym otwarte modele na wynajętych procesorach graficznych. To, o co naprawdę walczą dyrektorzy firm bezpieczeństwa, to to, że pieniądze powinny iść na obserwację agentów, logowanie ich i szybkie odcinanie. To jest egoistyczne i prawdopodobnie słuszne. Otwarte pytanie to to, które podniósł Mandia, a Kurtz zbył. Osiem z 20 to dzisiejsza liczba. Nikt na wizji nie powiedział, co się stanie, gdy osiągnie 15.