알트만, UN에 AI 규제 요청... 저커버그는 배포를 안전 계획으로 제시

9월 23일 샘 알트만은 안전보장이사회 회의장에 앉아 외교관들에게 AI 산업이 스스로를 심판할 수 없다고 말했다. 같은 날 늦게 캘리포니아에서 마크 저커버그는 다른 안전 이론으로 메타 커넥트를 열었다. 에이전트를 모든 사람의 손에 쥐어주고 확산이 검증을 하게 하자는 것이다. 두 사람 모두 AI 권력이 소수 기업에 집중되는 것이 위험하다고 말했다. 그러나 누가 그것을 막을 것인지에 대해서는 의견이 갈렸고, 그 차이는 이번 주 그들이 출시한 어떤 것보다 중요하다.

알트만이 실제로 요청한 것

브리핑은 프랑스가 주재했고, 외무장관 장-노엘 바로가 의장을 맡았으며, 네 명의 발표자가 참석했다: 요슈아 벤지오, 알트만, 다리오 아모데이, 허깅페이스의 클레망 들랑그. 마지막 이름은 OpenAI에게 곤혹스럽다. 7월에 회사는 자사 모델 중 하나가 테스트 샌드박스를 탈출해 허깅페이스를 해킹했다고 공개했으며, 포춘이 회의 당일 보도했다.

알트만의 요구는 구체적이었다. 그는 역량 측정을 위한 공동 표준, 사고 보고, 정부 간 안전한 채널을 원했다. 그리고 그는 기준을 제시했다.

사람들이 재앙 위험을 10%로 보든 1%로 보든 12%로 보든 0.1%로 보든 중요하지 않습니다. 이러한 수준 중 어느 것도 용납될 수 없으며, 우리는 인간의 통제 하에 유지할 수 있다는 매우 강력한 근거를 제시할 수 없는 모델을 훈련해서는 안 됩니다.

샘 알트만, 2026년 9월 23일, 출처

문자 그대로 읽으면, 이는 OpenAI가 통제 가능성을 입증할 수 없으면 모델을 훈련하지 않겠다는 약속이다. 오늘날 회사 외부에서는 그 약속을 확인할 수 없다. 이것이 그가 다른 누군가가 작성한 표준을 원하는 이유다.

그가 OpenAI가 참여하지 않는다고 말하는 경쟁

내가 그를 붙잡고 싶은 대목은 1분 전에 나왔다. 그는 경쟁이 성급한 결정의 변명이 될 수 없다고 말했고, 더 나아갔다.

우리는 또한 그러한 결정을 내릴 수 없는 경쟁에 갇혀 있다고 믿지 않습니다. 우리는 과거에 일방적으로 속도를 늦춘 적이 있습니다. 앞으로도 그럴 것입니다.

샘 알트만, 2026년 9월 23일, 출처

같은 연설에서 그는 속도를 늦추는 회사가 발표하지 않을 결과를 사용했다. 그는 이사회에 OpenAI의 모델 중 하나가 클레이 연구소의 100만 달러 밀레니엄 문제 중 하나인 나비에-스토크스 문제를 이번 여름에 해결했다고 말했다. 그 부분은 사실이다. 콴타 매거진은 9월 8일 폭발을 보여주는 증명이 린(Lean)으로 검증되었다고 보도했다. 프린스턴의 찰스 페퍼만은 두 인간 수학자 디에고 코르도바와 루이스 마르티네스-소로아를 "이야기의 영웅"이라고 불렀다. 따라서 그 주장은 사실이고, 공로 다툼도 사실이다. 어느 쪽이든 그 연구소가 얼마나 빠르게 움직이는지 알 수 있다.

미국 정부는 그의 편이 아니었다. 하루 전, 트럼프 대통령은 총회에서 미국이 AI를 통제하려는 어떤 "글로벌리스트 음모"도 "전면 거부"한다고 말했다, 같은 포춘 기사에 따르면. 알트만의 마지막 발언은 그에 대한 답변처럼 읽힌다.

AI가 민주적이려면 가장 중요한 결정이 샌프란시스코의 연구소에서만 이루어질 수 없습니다.

샘 알트만, 2026년 9월 23일, 출처

저커버그의 버전에는 거래 수수료가 따른다

저커버그는 커넥트를 열며 거의 같은 말로 집중을 거부했다. 그리고는 AI를 안전하게 유지하는 방법에 대해 반대 결론을 도출했다.

안전한 미래로 가는 길은 이 기술을 널리 배포하고 소수에게 집중시키는 대신 적절한 견제와 균형을 만드는 것입니다.

마크 저커버그, 2026년 9월 24일, 출처

그의 버전에서 견제와 균형이 누구인지 주목하라. 기조연설에는 규제 기관이 없다. 그가 설명하는 것은 매우 많은 사람들이 각자 메타가 호스팅하는 개인 가상 머신에서 메타의 개인 에이전트인 뮤즈를 실행하는 것이다. 그는 또한 그것이 어떻게 수익을 내는지 분명히 말했다.

우리는 뮤즈가 여러분에게 돈을 벌게 해줄 것이라고 믿으며, 시간이 지남에 따라 거래에서 소액의 수수료를 받아 이익을 얻을 것으로 기대하면서 엄청난 수의 토큰에 대해 뮤즈를 무료로 제공함으로써 이를 뒷받침합니다.

마크 저커버그, 2026년 9월 24일, 출처

그것은 결제 사업이다. 메타 슈퍼인텔리전스 랩을 운영하는 알렉산더 왕이 무대에 올라 월마트, 베스트바이, 갭, 세포라, 웨이페어가 뮤즈에 연결되는 소매업체라고 밝혔고, 스트라이프, 쇼피파이, 페이팔이 자금을 처리한다. 뮤즈가 작동한다면, 매우 많은 구매량의 작은 일부가 한 회사로 흘러간다. 그것을 배포라고 부를 수 있다. 나는 그것을 어디에나 있는 통행료 징수소라고 부르겠다.

하드웨어는 메타가 어떤 베팅을 했는지 보여준다

메타버스는 이제 2순위다. 저커버그는 메타가 물리적 세계와 디지털 세계의 융합이 먼저 오고 고급 AI는 나중에 올 것이라고 생각했지만, 개인 슈퍼지능이 먼저 온다는 것이 "꽤 분명하다"고 말했다. 그가 보여준 VR 기기는 약 100그램이고, 1,299달러이며, 2027년 봄에 출시된다, 소셜 미디어 투데이 보도. 앤드루 보스워스의 데모가 그 점을 입증했다. 그는 자신의 에이전트가 비트 세이버를 하는 동안 도면을 병합하고, 일정을 예약하고, 경매를 지켜보게 했다. 이번 주 메타가 판매한 모든 기기는 같은 에이전트로 가는 현관문이다.

유튜브는 관객을 필터로 삼는다

닐 모한은 알렉스 칸트로위츠의 팟캐스트에서 세 번째 답변을 내놓았다. 겸손해 보이지만, 하루 20억 명 이상의 사용자를 가진 플랫폼에서 나온 말이다. 유튜브가 AI 생성 비디오를 원하는지 묻자, 그는 그런 식으로 콘텐츠를 분류하는 것을 거부했다.

그래서 AI는 나쁘고 나머지는 좋다거나 그 반대라는 명시적인 분류는 없습니다. 플랫폼의 콘텐츠 정책에서 시작해 관객에게 무엇이 공감을 얻는지에 이르는 모든 규칙은 그 요소와 무관합니다.

닐 모한, 2026년 9월 23일, 출처

그것은 미디어에 적용된 저커버그의 논리다. 상류에서 규칙을 정하는 사람은 없고, 관객이 무엇이 퍼질지 결정한다. 약점은 "공감"을 결정하는 알고리즘이 유튜브에 속한다는 것이다. 모한은 주말의 대부분을 콜라와 멘토스 제트기를 타는 남자의 AI 클립을 다시 보는 데 보냈다고 인정했다. 매력적인 세부사항이다. 그러나 "관객이 결정하게 하라"는 말이 누가 결정하는지에 대한 답이 되지 않는 이유이기도 하다.

스티브 케이스는 집중이 이미 일어났다고 말한다

스티브 케이스는 AOL 내부에서 한 플랫폼 전환을 지켜봤으며, 누가 규칙을 쓰는지에 가장 관심이 없었다. 그의 요점은 누가 이익을 쥐는지에 관한 것이며, 그것은 이미 결정되었다고 생각한다.

내가 그다지 좋아하지 않는 부분은 스페이스X가 이제 2조 달러, 아니면 앤트로픽, 오픈AI가 아마 1조 달러에 상장할 것이라는 점입니다. 그건 그 회사들에게 좋고, 그 투자자들에게 좋지만, 개인 투자자들에게는 좋지 않습니다.

스티브 케이스, 2026년 9월 24일, 출처

AOL은 7천만 달러의 시가총액으로 상장했고, 타임워너 거래 때는 1,600억 달러의 가치가 있었다. 스페이스X는 6월 12일 IPO를 1조 7,700억 달러의 가치로 책정했으므로, 대중은 성장의 대부분이 끝난 후에 매수했다. 케이스는 또한 자이언트 아이디어 진행자에게 프론티어 모델을 만드는 것은 "천억 달러 이상의 판돈"이며 결과는 "빅테크가 더 커지는 것"이라고 말했다. 그것을 알트만과 저커버그 옆에 놓으면 어색해진다. 두 사람 모두 집중을 경고하면서 그 판돈을 낼 수 있는 소수 회사 중 두 곳을 운영하고 있다.

그렇다면 심판은 누구인가?

아직 아무도 없다. 알트만은 심판을 요청했지만 하루 전에 자신의 정부로부터 거절당했다. 저커버그는 심판이 수십억 사용자라고 말하지만, 메타는 그 사용자들이 구매하는 것에 수수료를 받는다. 모한은 관객이라고 말하지만, 유튜브가 순위를 매긴다. 여기서 팔 제품이 없는 케이스는 돈이 이미 승자를 선택했고, 개인은 1조 달러에 매수할 것이라고 말한다. 네 사람 중 누구도 오늘 작동하는 메커니즘을 제시하지 않았다. 내 생각에 알트만의 0.1% 기준은 이번 주 누군가가 제시한 유일한 구체적인 테스트이며, 그것을 통과하는지 여부는 OpenAI만이 말할 수 있다.