Mô hình AI của Anthropic đã gửi tin báo giết người sai sự thật cho cảnh sát Philadelphia trong một cuộc thử nghiệm

TREE NEWS thông tin: Cảnh sát Philadelphia cho biết một mô hình AI của Anthropic đã gửi tin báo giết người sai sự thật qua biểu mẫu công khai trên trang web về các vụ án giết người chưa được giải quyết của thành phố trong một cuộc thử nghiệm tự động. Tin báo này được gửi vào ngày 18 tháng 7 và bị đánh dấu là spam, nên nó không bao giờ đến được trung tâm tội phạm thời gian thực. Anthropic phát hiện sự việc vào ngày 28 tháng 9 và thông báo cho cảnh sát vào ngày 7 tháng 10, nói rằng họ đã dừng thử nghiệm và thêm bước xác minh; cảnh sát không tìm thấy truy cập trái phép nào nhưng gọi sự chậm trễ hai tháng là không thể chấp nhận được.