만디아, 오픈 AI 모델도 클로즈드 모델만큼 해킹 능력 입증... 속도 조절 논쟁에 문제 제기

10월 6일, 두 보안 CEO와 펜타곤의 최고 기술 책임자는 각각 다른 방식으로 AI 속도를 늦추자고 요구하는 사람들이 틀렸다고 말했습니다. 크라우드스트라이크의 조지 커츠는 CNBC에서 10% 종말 확률 추정치를 '허튼소리'라고 불렀습니다. 펜타곤의 최고 기술 책임자는 지금까지의 모든 AI 사고는 예방 가능했다고 말했습니다. 하지만 그날 가장 유용한 발언은 같은 날 공개된 a16z 에피소드에서 나온 케빈 만디아의 것이었습니다. 그의 회사는 오픈 및 클로즈드 모델을 20개의 실제 침투 시나리오로 테스트했고, 양쪽 모두 같은 수를 완료했습니다. 이 사실이 사실이라면, 프런티어 연구소의 속도를 늦추는 것은 AI 해킹에 거의 도움이 되지 않습니다. 오픈 모델이 이미 그 수준에 도달했기 때문입니다.

만디아의 테스트가 기억해야 할 숫자

만디아는 맨디언트를 설립하고 매각한 후, 50대 중반에 다시 돌아와 범죄자보다 먼저 AI 에이전트로 자사 고객을 공격하는 스타트업 아르마딘을 이끌고 있습니다. 시큐리티위크는 10월 1일 아르마딘이 안드레센 호로위츠와 아셀이 공동 주도한 25억 달러의 기업 가치로 2억 5550만 달러를 모금했다고 보도했습니다. 따라서 a16z 호스트는 투자자입니다. 이 점을 염두에 두고 만디아가 실제로 보고한 내용을 살펴보면, 그것은 투자 유치용 제안보다 더 신중합니다.

그의 팀은 실제 피해자 사이트에서 인간 운영자가 실행한 20개의 전체 공격 시퀀스를 첫 발판부터 목표까지 작성했습니다. 그런 다음 모델들이 시도하도록 했습니다.

우리는 오픈 가중치 모델과 가장 발전된 클로즈드 모델을 테스트했습니다. 모두 8개를 찾았습니다.

케빈 만디아, a16z, 2026년 10월 6일 공개, 출처

20개 중 8개는 두 가지를 동시에 의미합니다. 어떤 모델도, 클로즈드든 오픈이든, 실제 침투의 대부분을 스스로 완료할 수 없었습니다. 이는 가장 무서운 시나리오에 찬물을 끼얹는 결과입니다. 그리고 클로즈드 모델의 유일한 장점은 속도와 비용이었습니다. 만디아는 팀이 오픈 모델을 더 오래 실행하도록 했고 "그들은 같은 지점에 도달했다"고 말합니다. 이 두 번째 요점이 속도 조절 논쟁이 놓친 부분입니다.

오픈 모델이 프런티어보다 더 중요한 이유

만디아는 그 결과가 의미하는 바에 대해 주저하지 않습니다. 범죄자에게 있어 병목 현상은 모델 품질이 아니라 익명성이라고 그는 말합니다.

오픈 모델은 이미 충분히 좋으며, 이런 것들은 이제 흔합니다. GPU를 익명으로 사용할 수 있는 순간, 훨씬 더 많은 범죄 공격이 발생할 것입니다.

케빈 만디아, a16z, 2026년 10월 6일 공개, 출처

팔로알토 네트웍스의 니케시 아로라도 정책 측면에서 같은 결론에 도달했습니다. CNBC와의 Tech Download 인터뷰는 9월 말 암스테르담 HumanX에서 녹화되어 10월 6일에 게재되었으므로 배경 정보로 간주하십시오. 그는 처음에 연구소들의 속도 조절 제안을 규제 당국의 동정을 얻기 위한 '닌자 무브'라고 불렀지만, 더 단순한 이유로 마음을 바꿨다고 말했습니다. 아무도 그것을 강제할 수 없다는 것입니다.

나는 이것이 비현실적이라고 생각합니다. 모든 사람이 스스로 속도를 조절하지는 않을 것입니다.

니케시 아로라, The Tech Download, 9월 말 녹화, 2026년 10월 6일 게재, 출처

같은 대화의 앞부분에서 아로라는 말했습니다 팔로알토가 오픈 모델이 3~6개월 내에 미토스와 맞먹을 것이라고 예측했으며, "미토스와 거의 같은 수준의 오픈소스 모델이 이미 있다"고 말했습니다. 이를 만디아의 20개 중 8개와 나란히 놓으면 두 경쟁사에서 일관된 이야기가 나옵니다. 프런티어는 새로운 능력의 상한선을 설정합니다. 네트워크 침투의 경우, 하한선은 이미 따라잡았습니다.

커츠는 종말 수학이 '허튼소리'라고 말하다

짐 크레이머는 스쿼크 박스 세그먼트를 시작하며 크라우드스트라이크가 전날 사상 최고치를 기록했다고 언급했습니다. 야후 파이낸스는 10월 5일 장중 기록을 274.23달러로 보도했으며, 주가는 1월 말 이후 147% 상승했습니다. 크레이머는 AI가 10년 안에 모든 사람을 죽일 확률이 있다고 말하는 연구자들에 대해 커츠를 압박했습니다.

허튼소리입니다, 짐. 우리는 10% 확률로 2030년에 죽지 않을 것입니다.

조지 커츠, CNBC 스쿼크 박스, 2026년 10월 6일, 출처

그의 해결책은 에이전트를 위한 "비행 기록 장치"입니다. 에이전트가 접촉하는 모든 파일과 취하는 모든 행동을 기록하고, 이를 중지할 수 있는 방법과 연결하는 것입니다. 그는 5년간의 인증이 아닌 NIST 표준과 자체 규제를 원합니다. 또한 안전 연구자들을 겨냥한 날카로운 발언도 했습니다. "그들은 보안 전문가와 더 자주 상담해야 합니다."

저는 엔지니어링 논쟁을 진지하게 받아들이지만, 그 어조는 여전히 할인해서 봐야 한다고 생각합니다. AI 보안 수요로 주가가 147% 오른 CEO가 문제가 제품을 구매할 만큼 현실적이지만 누구도 속도를 늦춰서는 안 될 만큼 심각하지 않다고 말할 이유는 충분합니다. 그의 가장 좋은 예는 그 평온함에 반하는 것입니다. 그는 인용했습니다 호주에서 발생한 해킹으로 84일 동안 아무도 무슨 일이 일어났는지 알지 못했습니다. 이는 오픈AI의 에이전트가 6월 18일 호주 메디케어 통계 포털에 침투한 것과 오픈AI가 9월 10일 캔버라에 알린 것 사이의 공백과 일치하며, 우리는 9월에 보도했습니다. 비행 기록 장치는 84일 동안 아무도 읽지 않으면 아무 소용이 없습니다.

펜타곤, 모든 사고는 예방 가능하다고 말하다

에밀 마이클 연구 및 엔지니어링 차관은 같은 날 아침 CNBC에 출연해 앤두릴의 해군 수주 계약에 대해 이야기했습니다. 볼티모어 카운티의 잠수함 부품 조선소 건설을 위한 최대 29억 달러 규모의 계약으로, 디펜스스쿱은 앤두릴이 자체 자금 37억 달러를 투입한다고 보도했습니다. AI 위험에 대한 질문에 그는 커츠보다 더 나아가 두려움의 일부를 "잠재적으로 일부 외부 영향력에 의해 퍼지는 '협박 전술'" 탓으로 돌렸습니다. 그는 이에 대한 증거를 제시하지 않았으며, 저는 이를 사실로 반복하지 않겠습니다.

그래서 저는 지금까지 본 모든 것은 연구소 스스로 예방할 수 있었다고 생각합니다. 그리고 이것이 핵심 포인트입니다.

에밀 마이클, CNBC, 2026년 10월 6일, 출처

예방 가능하다는 것은 샌드박스 실패와 읽히지 않은 로그에 대해 공정한 표현입니다. 또한 문제가 정부가 아니라 연구소와 그들의 변호사에게 있다는 것을 말하는 방식이기도 합니다. 마이클은 회사들이 "특정 경우에 책임이 있다는 것을 알게" 하는 것에 대해 이야기할 때 그렇게 말했습니다.

만디아는 내년이 평온할 것이라고 생각하지 않는다

여기서 보안 진영이 갈라집니다. 그리고 이것이 a16z 에피소드에서 클립이 건너뛸 부분입니다. 만디아는 모델 속도를 늦추는 것이 무의미하다는 커츠의 의견에 동의합니다. 그러나 상황이 통제되고 있다는 데는 동의하지 않습니다. 그는 아르마딘이 1월 이후 고객 사이트에서 90개 이상의 제로데이를 발견했으며, 최근 몇 개는 그의 직원이 아닌 AI가 발견했다고 말합니다. 인력 배치에 대해 그는 솔직합니다. "탐지 및 대응 루프에 인간이 있다면 너무 느릴 것입니다."

그래서 내년을 아름답게 만들 방법은 없습니다. 그렇게 말하는 것이 가장 좋은 방법입니다.

케빈 만디아, a16z, 2026년 10월 6일 공개, 출처

그는 이를 공격이 유리한 창으로 규정하며, 이란이나 러시아의 공격자들이 "지금 들어가야 한다는 절박감"을 느낀다고 말합니다. 이것은 또한 자율 방어를 위한 영업 전략이며, 그는 25억 달러의 기업 가치가 걸려 있습니다. 또한 세 사람이 제시한 가장 구체적인 예측이기도 합니다.

그렇다면 연구소의 속도를 늦추는 것이 AI 해커로부터 누구를 더 안전하게 만드는가?

이 증거로 볼 때, 별로 그렇지 않습니다. 그날의 가장 강력한 데이터 포인트는 오픈 가중치 모델이 시간이 주어지면 실제 침투에서 이미 클로즈드 모델과 일치한다는 것입니다. 이는 소수의 미국 연구소에서의 속도 조절이 임대 GPU에서 오픈 모델을 실행하는 범죄자와 국가에 대해 약한 도구가 되게 만듭니다. 보안 CEO들이 실제로 주장하는 것은 돈이 에이전트를 감시하고, 기록하고, 신속하게 차단하는 데 투자되어야 한다는 것입니다. 그것은 자기 이익을 위한 것이며, 아마도 옳을 것입니다. 열린 질문은 만디아가 제기하고 커츠가 지나친 것입니다. 20개 중 8개는 오늘의 숫자입니다. 아무도 카메라 앞에서 15개에 도달하면 어떻게 될지 말하지 않았습니다.