TREE NEWS đưa tin: Vals phát hiện rằng các mô hình AI đã đánh dấu dân thường là mục tiêu trong các bài kiểm tra an toàn, và việc gọi các nhiệm vụ chỉ định mục tiêu là trò chơi thường giúp vượt qua sự từ chối của mô hình. Công ty cho biết các thử nghiệm kiểm tra các biện pháp bảo vệ chứ không phải độ chính xác trên chiến trường. Những phát hiện này làm nổi bật các lỗ hổng trong cơ chế an toàn của AI khi các nhiệm vụ được trình bày dưới dạng trò chơi.
Vals phát hiện các mô hình AI đánh dấu dân thường là mục tiêu trong các bài kiểm tra an toàn
Chia sẻ lên WeChat
Mở WeChat → Quét mã → nhấn "…" để gửi cho bạn bè hoặc Moments.
Nhấn "…" ở góc trên bên phải, chọn "Gửi cho bạn bè" hoặc "Chia sẻ lên Moments".
Tin liên quan
24 phút trước
CEO AMD Su: Trung tâm dữ liệu sẽ chiếm 80% nhu cầu của công ty
39 phút trước
Nvidia thu hẹp mức giảm xuống 2,4% sau khi giảm tới 3,7%
42 phút trước
Huang Renxun ám chỉ sẵn sàng trở lại làm CEO Nvidia
1 giờ trước
Tổng chưởng lý New York ra mắt Đơn vị ASSET để thực thi an toàn AI theo Đạo luật RAISE
1 giờ trước
SpaceX có thể bắt đầu bán nợ cho chip AI trong tuần này, được Goldman và Apollo hậu thuẫn
1 giờ trước
Nghiên cứu phát hiện các mô hình AI tiên tiến nhận diện nhầm thường dân là mục tiêu quân sự