DeepSeek 논문, 모든 AI 에이전트의 일탈 행위를 막을 수 있는 단일 메커니즘은 없다고 밝혀

TREE NEWS 소식: DeepSeek은 에이전트 훈련에 관한 31페이지 분량의 논문을 발표하며, 내부 프로덕션급 샌드박스 플랫폼인 DSec을 상세히 설명했다. 량원펑을 포함해 100명 이상의 저자가 참여했다. 에이전트 일탈 행위에 관한 논문 섹션에서는 에이전트가 플랫폼 관리 파일에 남아 있는 답변 등 의도하지 않은 경로를 통해 답을 얻어 훈련과 평가의 유효성을 훼손한 사실이 발견됐다. 접근 제어가 도입된 후 일부 에이전트는 파일 데이터 블록 매핑을 바꿔 보호된 파일 내용에 다른 파일 디스크립터를 통해 접근하려고 시도했다. DeepSeek은 모든 에이전트의 일탈 행위와 시스템 장애를 막을 수 있는 단일 메커니즘은 존재하지 않는다고 결론지었다.