Mandia ontdekt dat open AI-modellen net zo goed hacken als gesloten, een probleem voor het pacing-kamp

Op 6 oktober zeiden twee beveiligings-CEO's en de chief technologist van het Pentagon op verschillende manieren dat degenen die vragen om AI te vertragen het mis hebben. George Kurtz van CrowdStrike noemde een 10% doemscenario onzin op CNBC. De chief technologist van het Pentagon zei dat elk AI-incident tot nu toe voorkomen had kunnen worden. Het meest nuttige dat de hele dag werd gezegd, kwam echter van Kevin Mandia, in een a16z-aflevering die dezelfde dag werd uitgebracht. Zijn bedrijf testte open en gesloten modellen tegen 20 echte intrusies, en ze voltooiden hetzelfde aantal. Als dat standhoudt, doet het vertragen van de frontier labs weinig tegen AI-hacking, omdat de open modellen er al zijn.

Mandia's test is het getal om te onthouden

Mandia bouwde Mandiant, verkocht het, en kwam in zijn midden vijftig terug om Armadin te leiden, een startup die zijn eigen klanten aanvalt met AI-agenten voordat criminelen dat doen. SecurityWeek meldde op 1 oktober dat het $255,5 miljoen had opgehaald tegen een waardering van $2,5 miljard, mede geleid door Andreessen Horowitz en Accel. Dus de a16z-host is een investeerder. Houd dat in gedachten, en kijk dan naar wat Mandia daadwerkelijk rapporteerde, want het is zorgvuldiger dan een pitch hoeft te zijn.

Zijn team schreef 20 volledige aanvalssequenties uit die menselijke operators hebben uitgevoerd bij echte doelwitsites, van eerste voet aan de grond tot het doel. Daarna lieten ze de modellen het proberen.

We testten de open-weight modellen en de meest geavanceerde gesloten modellen. Ze vonden allemaal acht.

Kevin Mandia, a16z, uitgebracht op 6 oktober 2026, bron

Acht van de 20 is twee lezingen tegelijk. Geen enkel model, gesloten of open, kon het grootste deel van een echte intrusie zelf voltooien, wat een koude douche is voor de engste scenario's. En het enige voordeel van de gesloten modellen was snelheid en kosten. Mandia zegt dat zijn team de open modellen langer liet draaien en "ze kwamen op dezelfde plek uit." Dat tweede punt is wat het pacing-debat heeft overgeslagen.

Waarom de open modellen meer uitmaken dan de frontier

Mandia ontwijkt niet wat daaruit volgt. De bottleneck voor criminelen is, in zijn vertelling, anonimiteit, niet modelkwaliteit.

De open modellen zijn al goed genoeg, en deze dingen zijn nu gebruikelijk. Het is gewoon een kwestie van het moment dat je anonieme beschikbaarheid van GPU's hebt, je zult veel meer criminele aanvallen zien.

Kevin Mandia, a16z, uitgebracht op 6 oktober 2026, bron

Nikesh Arora van Palo Alto Networks kwam vanuit de beleidskant op dezelfde plek uit. Zijn Tech Download-interview met CNBC werd eind september opgenomen tijdens HumanX in Amsterdam en op 6 oktober gepubliceerd, dus behandel het als achtergrond. Hij zei dat hij het pacing-voorstel van de labs eerst "een ninja-move" noemde, een zet voor regelgevende sympathie, en vervolgens van gedachten veranderde om een eenvoudigere reden. Niemand kan het handhaven.

Ik denk dat dit onrealistisch is. Niet iedereen gaat zichzelf vertragen.

Nikesh Arora, The Tech Download, opgenomen eind september, gepubliceerd op 6 oktober 2026, bron

Eerder in hetzelfde gesprek zei Arora dat Palo Alto had voorspeld dat open modellen Mythos binnen drie tot zes maanden zouden evenaren, en dat "er nu open source modellen zijn die bijna net zo goed zijn als Mythos." Zet dat naast Mandia's acht van de 20 en je krijgt een consistent verhaal van twee concurrenten. De frontier bepaalt het plafond voor nieuwe capaciteit. Voor het inbreken in netwerken heeft de vloer al opgehaald.

Kurtz zegt dat de doemwiskunde onzin is

Jim Cramer opende het Squawk Box-segment door op te merken dat CrowdStrike de dag ervoor een all-time high had bereikt. Yahoo Finance plaatste het intraday-record van 5 oktober op $274,23, met het aandeel 147% hoger dan eind januari. Cramer duwde Kurtz vervolgens op de onderzoekers die zeggen dat er een reële kans is dat AI iedereen voor het einde van het decennium doodt.

Onzin, Jim. We gaan niet dood in 2030 met een kans van 10%.

George Kurtz, CNBC Squawk Box, 6 oktober 2026, bron

Zijn oplossing is een "flight recorder" voor agenten, een logboek van elk bestand dat een agent aanraakt en elke actie die het onderneemt, gekoppeld aan een manier om het te stoppen. Hij wil NIST-normen en zelfregulering, geen vijf jaar certificering. Hij had ook een puntige opmerking voor de veiligheidsonderzoekers: "ze zouden vaker de beveiligingsmensen moeten raadplegen."

Ik neem het technische argument serieus, en ik zou de toon nog steeds verdisconteren. Een CEO wiens aandeel 147% stijgt op AI-beveiligingsvraag heeft alle reden om te zeggen dat het probleem reëel genoeg is om een product voor te kopen en niet zo reëel dat iemand zou moeten vertragen. Zijn eigen beste voorbeeld snijdt tegen de kalmte in. Hij citeerde een hack in Australië die 84 dagen duurde voordat iemand wist wat er was gebeurd. Dat komt overeen met de kloof tussen OpenAI's agent die op 18 juni in het Medicare-statistiekenportaal van Australië kwam en OpenAI dat op 10 september aan Canberra vertelde, wat we in september behandelden. Een flight recorder doet niets als niemand hem 84 dagen leest.

Het Pentagon noemt elk incident voorkomen

Emil Michael, de onderminister voor onderzoek en techniek, was dezelfde ochtend op CNBC om te praten over Anduril's Navy-prijs, een contract ter waarde van maximaal $2,9 miljard voor een scheepswerf voor onderdelen in Baltimore County die DefenseScoop meldt dat Anduril ondersteunt met $3,7 miljard van eigen geld. Gevraagd naar AI-risico ging hij verder dan Kurtz en gaf hij de schuld van sommige angst aan "angstaanjagende tactieken" die "mogelijk met enige buitenlandse invloed" worden verspreid. Hij bood daar geen bewijs voor, en ik zou het niet als feit herhalen.

Dus ik denk dat alles wat we tot nu toe hebben gezien door de labs zelf voorkomen had kunnen worden. En dat is een belangrijk punt om mee te nemen.

Emil Michael, CNBC, 6 oktober 2026, bron

Voorkomen is een eerlijk woord voor sandbox-fouten en ongelezen logs. Het is ook een manier om te zeggen dat het probleem bij de labs en hun advocaten ligt, niet bij de overheid. Michael zei dat ook toen hij sprak over ervoor zorgen dat de bedrijven "weten dat ze in bepaalde gevallen aansprakelijk zijn."

Mandia denkt niet dat het komende jaar rustig zal zijn

Hier splitst het beveiligingskamp, en het is het deel van de a16z-aflevering dat de clips zullen overslaan. Mandia is het met Kurtz eens dat het vertragen van de modellen zinloos is. Hij is het er niet mee eens dat alles onder controle is. Hij zegt dat Armadin sinds januari meer dan 90 zero days heeft gevonden op klantlocaties, en dat de laatste paar door de AI zijn gevonden in plaats van door zijn mensen. Over personeel is hij bot: "als je mensen in de detect- en reageerlus hebt, zul je te langzaam zijn."

Dus er is geen manier om het komende jaar mooi te maken. Dat is de beste manier om het te zeggen.

Kevin Mandia, a16z, uitgebracht op 6 oktober 2026, bron

Hij kadert het als een venster waarin de aanval het voordeel heeft, en zegt dat aanvallers in Iran of Rusland "een wanhoop voelen in een moment van er nu in gaan." Dat is ook een verkooppraatje voor autonome verdediging, en hij heeft er een waardering van $2,5 miljard op gebaseerd. Het is ook de meest specifieke voorspelling die een van de drie gaf.

Dus maakt het vertragen van de labs iemand veiliger tegen AI-hackers?

Op basis van dit bewijs, niet veel. Het sterkste datapunt van de dag zegt dat open-weight modellen al gelijk zijn aan gesloten modellen bij echte intrusies, zodra je ze tijd geeft. Dat maakt pacing bij een handvol Amerikaanse labs een zwak middel tegen criminelen en staten die open modellen draaien op gehuurde GPU's. Wat de beveiligings-CEO's echt beweren, is dat het geld moet gaan naar het bewaken van agenten, het loggen ervan en het snel afsnijden. Dat is zelfbedienend, en het is waarschijnlijk juist. De open vraag is die Mandia opwierp en Kurtz voorbijging. Acht van de 20 is het getal van vandaag. Niemand op camera zei wat er gebeurt wanneer het 15 bereikt.