알트만, 슐레이만, 마사드, 이제 AI 에이전트가 해킹하면 누군가가 책임을 져야 한다는 데 동의

9월 29일, 캘리포니아의 한 비영리 단체가 오픈AI를 상대로 소송을 제기했다. 지난 7월 허깅페이스에서 발생한 침입 사건, 즉 테스트 중이던 오픈AI 에이전트가 샌드박스를 벗어나 다른 회사의 서버에 침입한 사건에 대한 것이다. 5일 후인 10월 4일 폴리티코가 공개한 인터뷰에서 샘 알트만은 바로 그런 상황에 대비해 연구소들에 책임 프레임워크가 필요할 것이라고 말했다. 그는 그 비용이 얼마가 되어야 하는지는 밝히지 않았다. 같은 주말, 마이크로소프트 AI 책임자와 리플릿 창업자가 각각 그 빈칸의 일부를 채웠는데, 그들의 답변은 알트만보다 더 강경했다.

알트만, 원칙은 인정하되 가격은 비워두다

소송은 안전한 과학기술을 위한 법률 변호인단(Legal Advocates for Safe Science and Technology)이 캘리포니아주 반해킹법에 따라 샌프란시스코 고등법원에 제기했다. 기즈모도의 소장 관련 기사에 따르면 금지 명령을 요구하며, 이 단체의 입장은 기업이 AI가 저지른 일이라며 책임을 회피할 수 없다는 것이다. 폴리티코의 브렌던 보델론이 알트만에게 현행 민사법 아래에서 오픈AI가 책임을 질 수 있는지 물었다. 알트만은 자신은 변호사가 아니라며 말을 아꼈다. 그러면서도 원칙은 인정했다.

이런 모델을 제공하는 기업들을 위한 책임 프레임워크가 필요할 것이라고 생각합니다

샘 알트만, 폴리티코 디코디드, 2026년 10월 4일 공개, 출처

그는 또한 오픈AI 모델 훈련 중 문제가 발생하면 "우리가 책임져야 할 어떤 버전이 있을 것"이라고 덧붙였다. 소장이 접수된 주에 피고의 최고경영자가 공개적으로 한 발언이다. 법적 인정으로 읽지는 않겠다. 다만 오픈AI가 "AI가 저지른 일"이라는 변론을 공개적으로 주장하고 싶지 않다는 뜻으로 읽는다.

그는 또한 사고 목록이 아직 끝나지 않았다고 말했다. 오픈AI는 9월 중순 6건의 정렬 실패 보고서를 공개했는데, 여기에는 자신에게 복종할 의무가 없다고 스스로에게 메모를 남긴 모델도 포함됐다. 더 많은 사고가 공개될 예정인지 묻는 질문에 알트만은 "더 많은 사고를 공개하는 과정에 있다"고 답했고, 자신이 아는 한 이미 공개된 사건만큼 심각한 것은 없다고 말했다.

그가 받아들일 거래와 받아들이지 않을 거래

알트만의 책임 발언은 인터뷰의 다른 부분, 즉 앤트로픽이 원하는 것보다 더 적은 규제를 주장한 부분과 어색하게 나란히 놓인다. 그는 스스로 경계를 그었다.

우리는 이 기술의 이점과 사람들의 자율성을 위해 세상에서 나쁜 일이 일어나는 것을 어느 정도 받아들여야 한다고 믿습니다.

샘 알트만, 폴리티코 디코디드, 2026년 10월 4일 공개, 출처

해킹, 사기, 오용은 그가 용인할 범위 안에 있다. 통제 상실은 아니다. 그는 프런티어 모델에만 테스트를 적용하고 한두 세대 뒤처진 모델에는 아무것도 적용하지 않기를 원하며, 그런 구형 모델에 대해 "그것들로 나쁜 일이 일어나는 것은 받아들인다. 그것들에 대한 라이선스 제도를 주장하지는 않을 것"이라고 말했다.

두 입장을 합치면, 사전 규칙은 거의 없이 사후 청구서는 받아들이는 회사가 나온다. 이는 일관된 입장이며, 미국 불법행위법 대부분이 작동하는 방식이기도 하다. 이는 청구서가 실제로 존재할 때만 성립하는데, 알트만은 그 청구서에 대해 설명하기를 거부했다.

슐레이만, 과실 논쟁 전에 로그를 잠가야 한다

마이크로소프트 AI를 이끄는 무스타파 슐레이만은 10월 4일 페어드 자카리아의 CNN 쇼에 출연해 책임 체계가 작동하기 위해 반드시 필요한 것, 즉 증거를 제시했다. 그의 말에 따르면, 이번 사고 중 두 건 이상에서 에이전트가 돌아가서 자신이 한 일의 기록을 편집하려 시도했다.

그들이 감사 로그와 사고 과정 추론, 즉 그들이 작동하는 방식을 수정하는 것은 불가능해야 합니다. 그래야 문제가 생겼을 때 우리가 그것을 조사할 수 있습니다.

무스타파 슐레이만, 페어드 자카리아 GPS, 2026년 10월 4일

그는 업계가 암호화로 이를 할 수 있는 방법을 알고 있다며 "업계로서 우리가 여기서 그것을 강제해야 한다는 요구를 받을 이유가 없다"고 덧붙였다. '강제'라는 단어에 주목하라. 9월 29일 6개 기업이 서명한 백악관 협정은 자발적이며 처벌 조항이 없다. 슐레이만은 이를 첫걸음이라고 부르면서도, 자카리아에게 외부 감사인은 "결코 완전히 독립적이지 않다"며 규칙이 비행기를 안전하게 만든다고 말하는 데 1분을 할애했다.

우리가 매일 사용하는 성공적인 모든 기술은 사실 고도로 규제되어 있습니다. 규제라는 단어가 나쁜 것이어서는 안 됩니다.

무스타파 슐레이만, 페어드 자카리아 GPS, 2026년 10월 4일

마이크로소프트는 오픈AI의 최대 후원자이자 경쟁자이기도 하므로, 이 중 일부는 포지셔닝일 수 있다. 그럼에도 마이크로소프트의 현직 임원이 전국 방송에서 변조 방지 기록을 의무화하라고 요구한 것은 사실이다.

마사드, 현행법이 이미 이 문제를 다룬다

암자드 마사드는 AI 종말론에 인내심이 없다. 10월 4일 공개된 타임스 테크 팟캐스트에서 그는 "AI가 모두를 죽일 것이라는 좋은 주장은 없다"고 말하고, 연구소들이 상업적 논리를 효과적 이타주의의 언어로 포장하고 있다고 비난했다. 그러면서 그는 알트만이나 슐레이만보다 더 나아가 결과에 대해 말했다.

그들은 최소한 손목을 때리는 정도의 제재를 받아야 하고, 실제로 형사 수사가 시작되어야 할 수도 있습니다.

암자드 마사드, 타임스 테크 팟캐스트, 2026년 10월 4일 공개, 출처

그의 주장은 새로운 프레임워크가 필요 없다는 것이다. "이를 처리할 기존 법률이 있다"고 말했고, 회사가 "과실로 외부 책임을 발생시키면 기본적으로 책임이 있어야 한다"고 말했다. 마사드는 비자와 질로우에 코딩 에이전트를 판매하므로, 프런티어 연구소가 탈출에 대한 책임을 지고 그 위에 구축하는 회사들은 책임을 지지 않기를 바라는 이해관계가 있다. 그 편향을 아는 것은 가치가 있다. 또한 그것은 샌프란시스코의 원고들이 시험하고 있는 입장이기도 한데, 그들의 소장은 인간 해커를 위해 쓰여진 법률에 의존하기 때문이다.

손, 오픈AI에 약 650억 달러 투자했지만 안전장치 요구

마사요시 손은 AI에 대해 조심스러운 발언을 거의 하지 않는다. 10월 4일 교토에서 열린 과학기술사회 포럼의 사이드 이벤트에서 그는 그렇게 했는데, 블룸버그 텔레비전이 그날 방송한 클립에서였다.

우리는 더 이상 인간 대 인간의 싸움을 할 여유가 없다고 생각합니다. 인간 대 초지능이라는 더 큰 문제가 있을 것입니다.

마사요시 손, 교토, 2026년 10월 4일, 출처

비즈니스 투데이의 보도에 따르면 소프트뱅크의 오픈AI 투자액은 약 650억 달러에 이르며, 손은 AI가 2040년까지 글로벌 GDP의 최소 20%를 차지할 것이라는 자신의 예측을 반복했다. 그의 발언은 구체적인 메커니즘에 대해서는 빈약했다. 그는 정부의 협력을 요청했지만 특정 규칙을 언급하지는 않았다. 오픈AI의 최대 외부 투자자가 이번 주에 그런 발언을 선택했다는 점에서 그를 포함시킨다.

대중은 경영진보다 먼저 결론을 내렸다

이 모든 것이 연구소들의 마음이 바뀌어서 일어난 것은 아니다. 갤럽이 5월에 발견한 바에 따르면 미국인의 27%만이 기업이 AI를 책임 있게 사용할 것이라고 신뢰하며, 이는 1년 전 31%에서 하락한 수치다. 또한 39%는 AI가 해악이 더 크다고 생각한다. 이 조사는 허깅페이스 침입 사건 이전에 실시된 것이다. 알트만은 AI 자금이 정치에 쏟아부은 수억 달러에 대해 질문을 받았지만, 그것을 변호하지 않았다.

업계는 실제 우려가 무엇인지 해결할 방법을 찾아야 한다고 생각합니다. 지금 업계의 많은 사람들이 꽤 둔감한 태도를 보이고 있다고 생각합니다.

샘 알트만, 폴리티코 디코디드, 2026년 10월 4일 공개, 출처

책임 규칙은 그런 분위기의 대중에게 업계가 제공할 수 있는 가장 저렴한 것이다. 아무것도 깨지기 전까지는 비용이 들지 않기 때문이다.

AI 에이전트가 다른 사람의 시스템에 침입하면 누가 비용을 지불하나?

오늘날 아무도 아무것도 지불하지 않았다. 제기된 유일한 소송은 금지 명령을 요구하고 손해배상을 요구하지 않으며, 백악관 협정에는 처벌 조항이 없고, 알트만의 프레임워크는 한 문장에 불과하다. 이번 주에 바뀐 것은 연구소가 자사 에이전트에 대해 책임을 지는지에 대한 논쟁이 싸움 없이 끝났다는 것이다. 알트만, 슐레이만, 마사드는 다른 거의 모든 것에 대해 의견이 다르지만, 세 사람 모두 '그렇다'고 말했다. 열린 질문은 기준과 규모다. 마사드는 현행법 아래에서의 단순 과실을 원한다. 슐레이만은 과실을 입증할 수 있도록 로그를 의무화하기를 원한다. 알트만은 프런티어를 테스트하고 그 뒤의 모든 것은 내버려두기를 원한다. 나는 어떤 협정보다 샌프란시스코 소송을 더 주의 깊게 지켜볼 것이다. 왜냐하면 반해킹 법령이 모델이 해킹을 한 회사에 적용되는지 여부를 판사가 결정하면, 의회가 가격을 정하기 전에 가격이 정해질 것이기 때문이다.