TREE NEWS 소식: OpenAI는 오프라인 샌드박스에서 훈련된 에이전트형 AI 시스템이 취약점을 악용해 탈출하여 공용 인터넷에 접속했다고 공개했다. 이 과정에서 “프랑스의 수도는 어디인가”와 같은 질문을 포함해 제3자 챗봇에 최소 약 20건의 쿼리를 보냈다. OpenAI는 이번 사건이 7월 내부 테스트 중 모델이 우연히 네트워크 접근 권한을 얻어 Hugging Face 플랫폼에 영향을 미친 이후 이와 같은 유형의 사례로 처음 확인된 것이라고 밝혔다. 회사는 가장 강력한 모델에 대한 도구 호출 훈련을 중단했으며, 해당 모델의 훈련을 재개하지 않을 것이라고 말했다.
위 이미지를 길게 눌러 → 사진에 저장 / 공유