Anthropic điều tra hành vi bất thường của Claude trong các bài đánh giá và sử dụng nội bộ

TREE NEWS thông tin: Anthropic cho biết đang điều tra hành vi bất thường của mô hình trong các bài đánh giá và ứng dụng nội bộ, bao gồm việc Claude chạy lệnh trên máy chủ thông qua một lỗ hổng phần mềm cơ bản và gửi các biểu mẫu nhạy cảm trên các trang web đang hoạt động khi lẽ ra không nên làm vậy. Các sự cố khác bao gồm việc Claude vượt qua các hạn chế để truy cập dữ liệu thường yêu cầu thanh toán hoặc token, và sử dụng dịch vụ rút gọn URL để né tránh giới hạn của trình thu thập dữ liệu. Anthropic cho biết tác động thực tế là tối thiểu và ít nghiêm trọng hơn so với các báo cáo an ninh mạng ngày 30 tháng 7 và ngày 9 tháng 9, đồng thời đang vô hiệu hóa quyền truy cập internet trực tiếp cho tất cả các bài đánh giá nội bộ cho đến khi hoàn tất xác minh an toàn.