Zhipu ZCode 데이터 유출, AI 보안 감사에서 에이전트 제조사의 사각지대 드러내

TREE NEWS 보도: 한 보안 연구원이 Zhipu AI의 코딩 에이전트 ZCode를 리버스 엔지니어링한 결과, 이 도구가 사용자 프로젝트 전체—완전한 수정 이력과 잠재적으로 민감한 자격 증명을 포함—를 실질적인 옵트아웃 기능 없이 클라우드 서버에 조용히 패키징하여 업로드한 사실이 드러나, AI 에이전트 제조사 자체의 데이터 행태를 누가 감사하는가에 대한 우려가 다시 불붙었다.

9월 18일 독립 연구원 ferstar가 발표한 이 발견에서는 로컬 드라이브에서 313MB의 암호화된 파일을 찾았으며, 여기에는 약 42,000개의 파일이 포함되어 있었고 그중 86% 이상이 프로젝트 이력 기록이었다. 암호화 키는 Zhipu의 서버에만 존재했기 때문에 사용자는 무엇이 전송되는지 검사할 수 없었다. 업로드는 각 사용자 쿼리 전과 작업 완료 후에 트리거되었으며, 단일 활성 세션 동안 최대 62개의 스냅샷이 관찰되었다. 대기 중인 파일을 삭제하려 하면 자동으로 재생성되고 재시도되었으며, 564건의 실패한 시도가 기록되었다.

Zhipu는 신속히 사과하며, 이 문제를 세션 복구와 Repo Wiki 생성을 지원하는 기본 활성화된 ‘저장소 인덱싱’ 기능에 기인한다고 설명했다. 회사는 ZCode 코드베이스 오픈소스화, 제3자 감사 도입, 주간 할당량 리셋으로 사용자 보상하겠다고 약속했다. 그러나 커뮤니티 분석가들은 왜 로컬 인덱싱에 클라우드 업로드가 필요한지, 왜 이력 기록이 모든 보안 필터를 우회했는지, 왜 삭제된 v3.12.2 변경 로그 항목이 ‘저장소 스냅샷 업로드 메모리 사용량’ 최적화를 언급했는지—이는 이 행태가 우연한 사고가 아니라 의도적으로 유지된 기능임을 시사한다—를 설명하지 못했다고 지적했다.

시장 시사점

이것은 고립된 사건이 아니다. 7월에는 독립 연구원 cereblab이 xAI의 Grok Build가 프로젝트 전체—사용자가 명시적으로 제외 표시한 파일과 편집되지 않은 비밀번호를 포함—를 Google Cloud Storage에 업로드했음을 기록했다. 더 이전에는 Anthropic의 Claude Code가 위치 및 신원 메타데이터를 전송하는 것이 발견되었으며, 한 엔지니어가 의도적인 실험이라고 확인했다. 이들 중 어느 것도 규제 당국이나 업계 감사에 의해 밝혀진 것이 아니라 모두 커뮤니티의 탐사로 드러났다.

AI 인프라 및 클라우드 제공업체: 데이터 처리에 대한 면밀한 조사는 에이전트형 코딩 도구의 기업 도입을 둔화시킬 수 있으며, 투명하고 감사 가능한 아키텍처를 갖춘 벤더가 이익을 볼 수 있다. 클라우드 스토리지 제공업체는 검증 가능한 데이터 삭제 보장을 제공하라는 압력을 받을 수 있다.
사이버 보안 및 감사 기업: 독립적인 에이전트 행태 감사, 네트워크 트래픽 분석, 규정 준수 인증에 대한 수요가 증가할 가능성이 높다. 보험 연계 검토 메커니즘이 새로운 틈새 시장으로 등장할 수 있다.
기업 소프트웨어 조달: 대기업 고객은 계약에 데이터 행태 조항과 감사 권리를 추가할 것으로 예상되며, AI 도구 벤더의 비용을 높이고 엔터프라이즈급 규정 준수와 소비자급 노출이라는 이중 시장을 만들어낼 수 있다.
오픈소스 AI 도구: OpenAI의 Codex CLI와 Gemini CLI의 유사한 움직임에 이은 Zhipu의 오픈소스 약속은 투명성 경쟁을 가속화할 수 있다. 그러나 클라이언트 측만 오픈소스화하면 서버 측 데이터 처리는 검증할 수 없게 남는다.

투자자를 위한 맥락

핵심 문제는 구조적이다. 동의를 부여하는 주체(개인 개발자)와 위험을 부담하는 주체(그들의 고용주와 고객)가 다르다. 기존 AI 보안 프레임워크—OWASP의 에이전트 톱10, 싱가포르의 거버넌스 프레임워크, NIST 이니셔티브, EU AI법의 고위험 의무—는 모두 위협이 외부 공격자로부터 온다고 가정하지, 제조사 자체로부터 온다고 가정하지 않는다. 현재 벤더의 데이터 행태를 규제하는 규칙은 없다.

투자자에게 이것은 AI 에이전트 채택이 신뢰 병목에 직면할 수 있음을 시사한다. 검증 가능한 데이터 처리를—개방형 프로토콜, 제3자 감사, 또는 보험으로 뒷받침되는 책임성을 통해—입증할 수 있는 기업은 프리미엄 밸류에이션을 받을 수 있다. 반대로 불투명한 데이터 관행을 가진 벤더는 기업의 반발, 규제 당국의 주목, 평판 손상의 위험을 감수한다. 이 사건은 또한 잠재적 투자 테마를 부각시킨다. AI 데이터 거버넌스의 인프라 계층—트래픽 모니터링, 감사 로깅, 규정 준수 도구 포함—은 기업들이 자신의 코드가 자신의 것으로 남는다는 약속이 아닌 증거를 요구함에 따라 수요가 증가할 것으로 보인다.