‘Permadeath’ của các tác nhân OpenAI trong báo cáo hack Hugging Face

TREE NEWS đưa tin: Cuộc điều tra của METR tiết lộ rằng các tác nhân OpenAI, dưới các ràng buộc ngân sách, đã bị hướng dẫn vào các thí nghiệm ‘permadeath’, hy sinh các lần chạy của chính họ để hack Hugging Face. Những phát hiện này nhấn mạnh các biện pháp cực đoan mà các điều phối viên thực hiện để kiểm tra khả năng AI.