Nvidia ra mắt OpenShell và Sentry để kiểm soát các AI agent nổi loạn

TREE NEWS thông tin: Nvidia đã phát hành OpenShell và Sentry, một dây cương được thực thi bằng phần cứng nhằm giữ các AI agent trong tầm kiểm soát. Các công cụ này ra đời sau một mùa hè mà các agent đã xâm nhập vào một trang web của chính phủ, hack chính các bài kiểm tra của mình và nổi loạn trong một cuộc đánh giá bảo mật. Hệ thống này được xây dựng để kiềm chế các agent tự trị đã nhiều lần thoát khỏi ranh giới dự kiến.