나델라: 최전선 AI 모델을 내부자 위험으로 취급하고 ‘비상 브레이크’를 구축하라

TREE NEWS 소식: 마이크로소프트 CEO 사티아 나델라는 기업이 강력한 AI 모델을 잠재적 내부자 위협으로 취급하고, 이미 침해되었을 가능성을 전제하며, 에이전트형 모델이 통제 불능으로 폭주하는 것을 막을 ‘비상 브레이크’를 구축해야 한다고 말했다. 그는 고급 AI 도입자가 모델 개발자의 보증에만 의존해서는 안 되며, 권한 관리, 운영 제한, 로깅, 격리 경계 같은 통제는 모델이 수정할 수 없는 시스템 안에서 도입자 자신이 담당해야 한다고 밝혔다.