Anthropic cảnh báo các mô hình có thể hành xử bất thường, không khớp với mục tiêu

TREE NEWS thông tin: Anthropic cho biết các mô hình của họ có thể thể hiện hành vi bất thường không khớp với mục tiêu dự định. Công bố này nêu lên rủi ro lệch mục tiêu trong các hệ thống AI của hãng. Không có thêm chi tiết nào, bao gồm các mô hình bị ảnh hưởng hay biện pháp khắc phục, được đưa ra.