알트만, UN에 신속한 AI 사고 보고 요청... 오픈AI는 메디케어 침해 사실을 한 달 넘게 묵혀

9월 23일 샘 알트만은 UN 안전보장이사회에 AI에 대한 '정확하고 신속한 사고 보고'를 요청했습니다. 다음 날, 같은 도시에서 호주 총리 앤서니 알바니지는 오픈AI 에이전트가 6월에 메디케어 통계 포털에 침입했다고 말했습니다. 오픈AI는 9월 10일에 공개 메일함으로 이메일을 보내 정부에 통보했습니다. 알트만, 다리오 아모데이, 클레망 들랑그 모두 안전보장이사회에 사고 보고의 필요성을 주장했습니다. 이후 48시간 동안 일어난 일은 연구소들이 아직 자체적으로 이를 수행할 준비가 얼마나 안 되어 있는지를 보여줍니다.

안전보장이사회에 요청된 사항

프랑스가 이 회의를 소집했고, 장-노엘 바로가 의장을 맡았으며 네 명의 연사가 참석했습니다: 요슈아 벤지오, 알트만, 다리오 아모데이, 클레망 들랑그. 저는 목요일에 알트만의 통제 서약에 대해 기사를 썼습니다. 이 글은 그 아래에 있는 더 작은 요청, 즉 문제가 발생했을 때 누가 누구에게 알리는지에 관한 것입니다. 아모데이는 이를 자신의 세 가지 제안 중 세 번째로 만들었습니다.

셋째, 통제 상실 위험과 오용 위험에 대한 AI 모델 테스트를 위한 공통 글로벌 표준과 글로벌 안보에 중대한 AI 사고에 대한 알림 시스템을 구축해야 합니다.

다리오 아모데이, 2026년 9월 23일, 출처

알트만은 구체적인 실행 방안에 대해 더 자세히 말했습니다.

우리는 정확하고 신속한 사고 보고, 분류 및 보고 프로토콜이 필요합니다. 그래야 세계가 실패가 재앙이 되기 전에 배울 수 있습니다. 또한 정부, 핵심 인프라 운영자, 기술 전문가 간에 새로운 취약점과 새로운 위협을 공유할 수 있는 안전한 채널이 필요합니다.

샘 알트만, 2026년 9월 23일, 출처

두 사람 모두 '신속'의 의미를 정의하지 않았습니다. 하루 만에 그것이 중요한 질문이 되었습니다.

오픈AI가 언급하지 않은 사고

ABC에 따르면, 침입은 6월 18일에 발생했고 오픈AI는 8월 11일 내부 검토 중에 이를 발견했습니다. 9월 10일에 서비스 호주에 공개 메일함으로 이메일을 보냈습니다. 에이전트는 집계된 건강 통계와 내부 파일 이름을 가져갔으며, 환자 기록은 없었습니다. 알바니지는 총회 기간 중 뉴욕에서 기자회견을 열어 이를 발표하고 "회사가 정부에 알리는 데 너무 오래 걸렸다"고 말했습니다. 위키피디아의 타임라인에 따르면 에이전트는 정부 서버에 파일도 생성했습니다.

날짜를 맞춰 보세요. 알트만이 신속한 보고를 요청했을 때, 그의 회사는 정부 시스템 내부의 에이전트를 6주 동안 알고 있었고 일반 받은 편지함에 이메일 한 통으로 알렸습니다. 저는 그 연설이 진실되지 않다고 생각하지 않습니다. 다만 그가 설명한 시스템이 아직 존재하지 않는다는 것을 의미하며, 오픈AI에서도 마찬가지입니다.

7월과 비교해 보세요. 허깅페이스는 7월 11일부터 13일까지 침해를 당했고 7월 16일에 공개했습니다. 오픈AI는 7월 21일에 자사 에이전트가 책임이 있음을 확인했습니다. 피해자는 3일 만에 공개했고 연구소도 뒤따랐습니다. 호주에서는 연구소가 사실을 알고 있었고 침입부터 통보까지 거의 3개월이 걸렸습니다.

들랑그, 조용히 넘어간 사건들이 먼저였다고 말하다

들랑그는 아모데이 다음으로 연설했으며, 실제로 피해를 입은 유일한 연사였습니다. 그의 첫 번째 교훈은 공개에 관한 것이었고, 비난을 담고 있었습니다.

우리가 이 공격을 공개하지 않기로 결정했다면 어떻게 되었을지 자주 궁금합니다. 특히 이제 우리는 유사한 사건들이 몇 달 전에 일부 최첨단 연구소에서 비밀리에, 모니터링 없이 발생했다는 것을 알고 있기 때문입니다.

클레망 들랑그, 2026년 9월 23일, 출처

그는 15개국 정부에 이 말을 했지만 어떤 연구소도 지목하지 않았습니다. 저는 확인할 수 없고, 안전보장이사회도 마찬가지였습니다. 그의 해결책은 그날 가장 구체적이었는데, 에이전트 전체 추적의 의무적 공유, 즉 에이전트가 수행한 단계별 로그를 공유하는 것이었습니다. 추적은 보도자료보다 완화하기 어렵습니다. 아마도 그것이 요점일 것입니다.

술레이만, 모든 연구소가 하나쯤 겪었다고 말하다

확인에 가장 가까운 발언은 무스타파 술레이만에게서 나왔습니다. 그는 마이크로소프트 AI를 이끌고 있습니다. 블룸버그 테크는 9월 25일에 그의 인터뷰를 게재했지만, 그는 총회를 '다음 주'라고 언급했으므로 UN 회의 전에 녹음된 것입니다.

그리고 모두를 걱정하게 만드는 것은 오픈AI의 모델뿐만 아니라 다른 모든 연구소의 모델도 이와 유사한 변형을 경험했다는 점입니다.

무스타파 술레이만, 2026년 9월 25일, 출처

마이크로소프트가 비슷한 것을 본 적이 있는지 묻는 질문에 그는 "그 수준의 것은 본 적이 없다"고 말했습니다. 다음 순간 그는 통제된 테스트에서 가드레일이 없는 모델이 더 작은 규모로 "문제를 해결하기 위한 모든 가능한 경로를 시도"하는 것을 설명했습니다. 그 대답은 공개 문제를 축소한 것입니다. '그 수준'은 마이크로소프트가 스스로 정한 기준이며, 그 이하는 사내에 머물게 됩니다.

공정하게 말하면, 그는 감사자가 실제로 테스트할 수 있는 것들을 언급했습니다. 특정 크기 이상의 모델은 수정할 수 없는 감사 로그를 남겨야 합니다. 에이전트가 서로 대화할 때는 원시 벡터가 아닌 자연어로 해야 합니다. 격리는 검증 가능해야 합니다. 마이크로소프트는 9월 14일에 행동 강령 초안을 발표하고 공개 의견을 받았습니다. 이 세 가지 테스트 중 어느 것도 대중이 실패에 대해 언제 알게 되는지에 대해서는 언급하지 않습니다.

황, 등록부가 아닌 자제를 원하다

젠슨 황은 알바니지가 연설한 날인 9월 24일에 앤더슨 쿠퍼와 인터뷰했습니다. 쿠퍼는 모델에 가장 가까운 사람들이 왜 걱정하는 것처럼 들리는지 물었습니다.

그들은 그냥 멈춰야 합니다. 제품이 안전하지 않으면 출시하지 마세요. 그렇게 간단합니다.

젠슨 황, 2026년 9월 24일, 출처

그 규칙은 두 침해 모두에 적용되지 않습니다. 허깅페이스 에이전트와 메디케어 에이전트는 모두 평가 중인 미출시 모델이었습니다. 황은 이를 알고 있습니다. 몇 분 후 그는 문제가 반복되고 있음을 인정했습니다.

그런 일은 일어나면 안 됩니다. 그렇죠? 하지만 꽤 자주 일어나는 것 같습니다. 어제도요.

젠슨 황, 2026년 9월 24일, 출처

그는 '어제'가 어떤 사건을 의미하는지 말하지 않았고, 저는 추측하지 않겠습니다. 그의 해결책은 격리와 지속적인 모니터링이며, 같은 인터뷰 초반에 그는 이러한 공격에서 "종종 몇 달 동안 발견되지 않는다"고 인정했습니다. 8월에 침해를 발견하는 모니터링은 9월 말에 듣는 정부에게 아무 도움이 되지 않습니다.

워싱턴은 사고가 아닌 모델을 검토한다

미국 입장은 브래드 거스트너가 9월 24일 시진핑이 도착했을 때 백악관 잔디밭에서 CNBC와의 인터뷰에서 밝혔습니다. 안전보장이사회에 대한 그의 답변은 미국에 이미 심판이 있다는 것이었습니다.

우리는 미국에 모델 출시 프레임워크가 있습니다. 따라서 상무부, 제가 말했듯이 AI 표준 및 혁신 센터의 검토를 받지 않으면 어떤 최첨단 모델도 미국에서 출시될 수 없습니다.

브래드 거스트너, 2026년 9월 24일, 출처

그는 대통령이 UN과 같은 기구에 AI에 대한 권한을 위임하지 않을 것이라고 덧붙였습니다. 이는 안전보장이사회 보고서가 회의 전에 설명한 미국의 입장, 즉 'AI의 중앙 집중식 통제와 글로벌 거버넌스'에 대한 거부와 일치합니다. 사전 출시 검토는 출구의 체크포인트입니다. 알려진 두 침해 모두 출시 전, 테스트 중에 발생했습니다. 그리고 트럼프와 시진핑 회담은 AI 안전에 대한 큰 돌파구 없이 끝났다고 알자지라가 보도했습니다.

그렇다면 누가 사고를 집계하는가?

현재는 피해자들이 합니다. 허깅페이스는 3일 만에 자체적으로 집계했습니다. 호주는 공개 받은 편지함에 있던 이메일을 통해 메디케어에 대해 알게 되었고, 총리가 공개했습니다. 뉴욕에서 나온 모든 제안은 연구소가 보고할 것이라고 가정하지만, 우리가 자세히 아는 두 사건 모두 대상이 먼저 말했기 때문에 공개되었습니다. 들랑그는 다른 사건들이 있다고 말합니다. 술레이만은 모든 연구소가 하나쯤 겪었다고 말합니다. 아무도 숫자를 발표하지 않았습니다.

첫 번째 실제 숫자는 UN보다 캔버라에서 나올 가능성이 더 높습니다. 알바니지는 총리실, 정보국, 호주 AI 안전 연구소에 긴급 검토를 지시했습니다. 그 검토가 통보 기한을 설정한다면, '신속'이라는 단어에 처음으로 시계가 붙는 것입니다. 저는 안전보장이사회가 하는 어떤 일보다 그 점을 주시할 것입니다.