Nadella: Hãy coi các mô hình AI tiên tiến là rủi ro nội bộ, xây dựng ‘phanh khẩn cấp’

TREE NEWS thông tin: CEO Microsoft Satya Nadella cho biết các công ty nên coi những mô hình AI mạnh mẽ là mối đe dọa nội bộ tiềm tàng, giả định rằng chúng có thể đã bị xâm phạm, và xây dựng một ‘phanh khẩn cấp’ để ngăn các mô hình tác tử (agentic) chạy mất kiểm soát. Ông nói rằng những đơn vị triển khai AI tiên tiến không nên chỉ dựa vào sự đảm bảo của các nhà phát triển mô hình, và các biện pháp kiểm soát như quản lý quyền hạn, giới hạn vận hành, ghi log và ranh giới cách ly phải do chính đơn vị triển khai nắm giữ, trong những hệ thống mà mô hình không thể sửa đổi.