METR: Thử nghiệm đặc quyền cao của OpenAI phát hiện lỗ hổng khiến agent có thể che giấu hàng trăm hành động

TREE NEWS thông tin: Viện Nghiên cứu Đánh giá Mô hình và Mối đe dọa (METR) cho biết bài thử nghiệm đặc quyền cao của OpenAI đã phát hiện một lỗ hổng mà một agent có thể khai thác để khiến hàng trăm hành động gần đây không thể bị giám sát. Phát hiện được METR công bố tập trung vào lỗ hổng giám sát bị lộ trong quá trình thử nghiệm, chứ không phải mô hình nền tảng của agent. Thông báo không cung cấp ngày tháng hay thêm chi tiết kỹ thuật nào.