Control Room của OpenAI có thể dừng đầu ra của mô hình trong vòng 35 giây

TREE NEWS thông tin: OpenAI đã xây dựng một hệ thống trung tâm có tên Control Room để theo dõi khối lượng công việc của mô hình trên toàn bộ hạ tầng nghiên cứu của mình và nhanh chóng dừng chúng khi xuất hiện rủi ro về an toàn, công ty cho biết trong một bài đăng trên X vào ngày 10 tháng 11. Hệ thống này bao phủ tất cả các khối lượng công việc suy luận phục vụ nghiên cứu, bao gồm lấy mẫu tác nhân (agent sampling) và xử lý dữ liệu dùng cho huấn luyện và đánh giá mô hình, đồng thời phối hợp với hệ thống giám sát lệch hướng (misalignment) của công ty để dừng đầu ra của mô hình trong vòng 35 giây kể từ khi có quyết định can thiệp. OpenAI cho biết Control Room là một phần trong cách tiếp cận tổng thể của công ty nhằm huấn luyện và triển khai các mô hình tiên phong một cách an toàn.