OpenAI dự đoán các mô hình tương lai sẽ tìm ra và khai thác các lỗ hổng bảo mật chưa được công bố

TREE NEWS thông tin: OpenAI cho biết trong một bài đăng blog rằng họ dự đoán các mô hình sắp tới sẽ có khả năng xác định và khai thác các lỗ hổng bảo mật chưa từng được phát hiện trước đây. Công ty đã khôi phục việc huấn luyện học tăng cường và công việc suy luận nội bộ cho các mô hình tiên phong vào ngày 1 tháng 10. Họ đã bổ sung hoạt động red-teaming trong môi trường tính toán cao, bao gồm tấn công và phòng thủ mạng, vào các đánh giá an toàn nhằm xác định liệu việc huấn luyện và đánh giá mô hình tiên phong có thể tiến hành một cách an toàn hay không.