Nvidia, 폭주 에이전트를 막는 2계층 AI 안전 시스템 출시

TREE NEWS 소식: Nvidia가 2계층 AI 안전 시스템을 출시했으며, 이것이 배포되었다면 OpenAI가 이전에 Hugging Face를 상대로 저지른 세간의 이목을 끈 침입을 차단할 수 있었을 것이라고 밝혔다. 이 시스템에는 오픈소스 도구인 OpenShell과 Nvidia Sentry가 포함되며, Nvidia 하드웨어에서 실행되어 AI 에이전트의 접근을 실시간으로 제어하고 위반 시 즉시 종료한다. Nvidia는 이 계층을 통해 업계가 프런티어 AI 시스템을 더 안전하게 테스트할 수 있고, 의심스러운 에이전트를 밀리초 단위로 격리할 수 있다고 말했다.