법원, 영업비밀과 기업 책임 사이에 선을 긋다
중국 최고인민법원이 인공지능 관련 분쟁 처리에 관한 새로운 지침을 발표했으며, 핵심 메시지는 명확하다. 기업의 알고리즘은 블랙박스로 남을 수 있지만, 기업 자체는 그럴 수 없다. 널리 유포된 법률 해설에서 요약된 이 의견은 모델 출력에 대한 책임부터 원고가 기반 시스템을 검사할 수 없을 때의 입증 책임에 이르기까지 법원이 AI 관련 소송에 어떻게 접근해야 하는지를 제시한다.
이 지침이 실제로 바꾸는 것
실질적 효과는 증거 기대치의 변화다. 새로운 프레임워크 아래에서 AI 개발자는 단순히 “모델 불투명성”이나 영업비밀 보호를 내세워 증거 개시를 차단할 수 없다. 법원은 다음을 검토하도록 지시받고 있다:
- 훈련 데이터 출처 — 데이터셋이 적법하게 획득되었는지, 수집 과정에서 저작권이나 개인정보 침해가 있었는지.
- 배포 및 감독 — 운영자가 합리적인 가드레일, 로깅, 인간 검토를 갖추었는지.
- 피해 인과관계 — AI 시스템이 피해를 일으켰을 때 모델 개발자, 플랫폼 운영자, 최종 사용자 간에 책임이 어떻게 배분되는지.
- 공개 의무 — 전체 가중치가 기밀로 유지되더라도 피고가 모델 아키텍처에 대해 무엇을 밝혀야 하는지.
이 지침은 기업에 모델을 오픈소스로 공개하도록 강제하지 않는다. 그러나 “알고리즘이 그랬다”는 것이 완전한 항변이 된다는 생각을 약화시킨다. 기업이 AI 시스템을 상업적으로 배포한다면, 그 시스템이 어떻게 구축, 테스트, 모니터링되었는지 설명할 수 있어야 한다.
중국을 넘어 이것이 중요한 이유
AI 스타트업에게 영향은 법적일 뿐 아니라 운영적이다. 컴플라이언스 팀은 소송이 제기되기 훨씬 전부터 감사 추적, 모델 카드, 문서화된 데이터 계보를 필요로 할 것이다. 실사를 수행하는 투자자들도 같은 것을 요구하기 시작할 것이다. AI 기업을 구축하는 비용은 상승하고 있다 — 컴퓨팅이 비싸서가 아니라, 책임이 이제 비용 항목이기 때문이다.
암호화폐와 Web3 부문은 특히 주목해야 한다. “무신뢰” 또는 “무허가” 모델 배포를 내세우는 탈중앙화 AI 프로젝트는 더 어려운 질문에 직면한다. 모델이 블랙박스이고 운영 주체가 익명이거나 역외에 있다면, 피해를 일으켰을 때 누가 책임을 지는가? 최고법원의 논리는 법원이 코드 뒤에 있는 책임 있는 법인을 찾을 것임을 시사한다. 그러한 책임을 회피하도록 설계된 프로젝트는 유사한 추론을 채택하는 모든 관할권에서 불리한 위치에 놓일 수 있다.
앞으로의 길
이 지침은 상업 분쟁, 지식재산 사건, AI 출력과 관련된 인신 피해 청구에서 인용될 것으로 예상된다. 또한 다른 규제 당국이 차용할 수 있는 템플릿을 제시한다. 모델을 독점적으로 유지할 수는 있지만, 그 위험을 이해하고 통제했음을 입증할 수 있어야 한다. AI 창업자에게 그럴듯한 부인의 시대는 끝나가고 있다. 변호사와 컴플라이언스 담당자에게 일은 이제 시작이다.
