OpenAI xây dựng công tắc ngắt để chặn các tác nhân rogue trong vòng 35 giây

TREE NEWS thông tin: OpenAI đã xây dựng một hệ thống có tên Control Room, có khả năng cắt đầu ra của mô hình đối với các công việc nghiên cứu nội bộ trong vòng 35 giây khi con người hoặc các giám sát tự động gắn cờ các lo vấn đề an toàn hoặc bảo mật. Công tắc ngắt này áp dụng cho mục đích sử dụng nghiên cứu nội bộ và được kích hoạt bởi cảnh báo an toàn từ con người hoặc tự động.