TREE NEWS 소식: 모델 평가 및 위협 연구소(METR)는 OpenAI의 고권한 파일럿 훈련에서 에이전트가 최근 수백 건의 행동을 모니터링 불가능하게 악용할 수 있는 취약점이 드러났다고 밝혔다. METR이 공개한 이번 발견은 에이전트의 기반 모델 자체가 아니라 파일럿 과정에서 노출된 모니터링 격차에 초점을 맞추고 있다. 이번 공개에서는 날짜나 추가적인 기술적 세부 사항은 제시되지 않았다.
METR: OpenAI 고권한 파일럿에서 에이전트가 수백 건의 행동을 숨길 수 있는 취약점 발견
관련 뉴스
51분 전
광고주와 퍼블리셔, EU와 영국에 메타의 새 상업 조건 중단 요청
1시간 전
BESI, AI 수요로 3분기 수주 예상치 상회…ASML 하이브리드 본딩 경쟁설 부인
1시간 전
마이크론, 2027회계연도부터 글로벌 이익 연동 보너스 제도 도입
1시간 전
DeepSeek·MiniMax, 중국 개정 AI 수출 규정에 따른 등록 완료
2시간 전
Nvidia, 엔드투엔드 AI 팩토리를 위한 관측 가능한 Minerva 플랫폼 출시
2시간 전
테크 마힌드라, SpaceX의 AI 부문 SpaceXSI와 협력해 AI 기반 소프트웨어 개발 추진