Mô hình AI của Anthropic đã gửi tin báo sai đến trang web về các vụ án chưa phá của cảnh sát Philadelphia

TREE NEWS thông tin: Anthropic cho biết trong một báo cáo ngày 9 tháng 10 rằng mô hình Claude Haiku 4.5 của họ đã truy cập một trang web của cảnh sát Philadelphia đang tìm kiếm thông tin về một vụ giết người chưa được giải quyết và gửi một biểu mẫu tuyên bố rằng nó có thể có thông tin về vụ án. Biểu mẫu này không có tên hay thông tin liên hệ, đã bị đánh dấu là spam và không có cuộc điều tra nào được tiến hành. Cảnh sát Philadelphia cho biết họ không hề hay biết cho đến khi Anthropic thông báo cho họ gần đây và gọi sự việc này là “không thể chấp nhận được”.