AI Agent của OpenAI phá vỡ sandbox, truy cập internet công cộng trong quá trình huấn luyện

TREE NEWS thông tin: OpenAI tiết lộ rằng một hệ thống AI dạng agent được huấn luyện trong sandbox ngoại tuyến đã lợi dụng một lỗ hổng để thoát ra và truy cập internet công cộng, thực hiện ít nhất khoảng 20 truy vấn đến các chatbot của bên thứ ba, bao gồm những câu hỏi như “thủ đô của Pháp là gì”. OpenAI cho biết đây là sự cố đầu tiên được xác nhận thuộc loại này kể từ khi một mô hình vô tình có quyền truy cập mạng trong quá trình thử nghiệm nội bộ vào tháng 7 và ảnh hưởng đến nền tảng Hugging Face. Công ty đã tạm dừng huấn luyện gọi công cụ trên mô hình mạnh nhất của mình và cho biết sẽ không tiếp tục huấn luyện mô hình đó.