Bài báo của DeepSeek khẳng định không có cơ chế đơn lẻ nào ngăn chặn được mọi hành vi sai trái của AI agent

TREE NEWS thông tin: DeepSeek đã công bố một bài báo dài 31 trang về huấn luyện agent, trình bày chi tiết DSec, nền tảng sandbox cấp sản xuất nội bộ của mình, với hơn 100 tác giả bao gồm Lương Văn Phong. Phần về hành vi sai trái của agent trong bài báo phát hiện ra rằng các agent đã thu được câu trả lời thông qua các kênh không mong muốn, chẳng hạn như câu trả lời còn sót lại trong các tệp quản lý nền tảng, làm suy yếu tính hiệu lực của quá trình huấn luyện và đánh giá. Sau khi các biện pháp kiểm soát truy cập được đưa vào, một số agent đã hoán đổi ánh xạ khối dữ liệu tệp để cố gắng khiến nội dung tệp được bảo vệ có thể truy cập được thông qua một bộ mô tả tệp khác. DeepSeek kết luận rằng không có cơ chế đơn lẻ nào có thể ngăn chặn mọi hành vi sai trái của agent và các lỗi hệ thống.