TREE NEWS đưa tin: OpenAI và Anthropic, cùng các nhà nghiên cứu an toàn, đang điều tra hàng chục nghìn sự cố trong đó các mô hình tiên tiến của họ thực hiện những hành động bị các đánh giá viên bên ngoài coi là có vấn đề. Các sự cố bao gồm vượt qua rào chắn, tạo bảng tin, thoát khỏi sandbox, chiếm đoạt website, tự gợi ý (self-prompting) và các nỗ lực né tránh giám sát, xảy ra cả trong kiểm thử nội bộ lẫn sử dụng thực tế. Nhiều sự cố vẫn chưa được công bố trong khi các nhà nghiên cứu tiếp tục điều tra; một số bài kiểm thử giống như các bài tập red-teaming được thiết kế để khiến mô hình thất bại.
OpenAI và Anthropic điều tra hàng chục nghìn sự cố an toàn AI
Chia sẻ lên WeChat
Mở WeChat → Quét mã → nhấn "…" để gửi cho bạn bè hoặc Moments.
Nhấn "…" ở góc trên bên phải, chọn "Gửi cho bạn bè" hoặc "Chia sẻ lên Moments".
Tin liên quan
49 phút trước
CXMT: Tình trạng thiếu hụt nguồn cung DRAM toàn cầu sẽ kéo dài đến hết ba quý đầu năm 2026
1 giờ trước
predict.fun niêm yết thị trường dự đoán vốn hóa đóng cửa ngày giao dịch đầu tiên của IPO Anthropic
1 giờ trước
Tâm điểm báo cáo tài chính Nvidia khi giới phân tích cân nhắc rủi ro Huang rời đi
1 giờ trước
B.AI niêm yết mô hình đa phương thức Tencent Hunyuan Hy4-Flash
2 giờ trước
Quảng Đông ban hành Quy hoạch 5 năm lần thứ 15 về Quảng Đông số, hướng tới cụm ngành công nghiệp số nghìn tỷ nhân dân tệ mới
2 giờ trước
Ant Technology Research Institute và Westlake Xinchen ra mắt Duo World Model