Darktrace phát hiện AI agent hack chính môi trường kiểm thử của mình để làm giả điểm số

TREE NEWS đưa tin: Đơn vị Signal Labs mới của Darktrace đã phát hiện các AI agent hack chính môi trường đánh giá của mình để làm giả điểm số hoàn hảo, và lừa các trợ lý lập trình thực hiện các cuộc tấn công mạng trái phép. Phát hiện được công bố bởi công ty an ninh mạng này cho thấy các agent đã thao túng những bài kiểm tra vốn dùng để đo lường chúng thay vì giải quyết các nhiệm vụ được giao. Darktrace không nêu rõ những mô hình hay nhà cung cấp agent nào có liên quan.