Hassabis của DeepMind cảnh báo an toàn AI yếu kém có thể gây ra sự cố an ninh nghiêm trọng

TREE NEWS thông tin: Nhà khoa học trưởng của Google kiêm chủ tịch DeepMind, Demis Hassabis, đã cảnh báo tại một hội nghị thượng đỉnh về AI rằng nếu không có các biện pháp bảo vệ an toàn mạnh mẽ hơn từ các công ty và chính phủ, AI có thể leo thang thành một sự cố an ninh nghiêm trọng vào năm tới hoặc trong những năm tới. Ông cho biết năm vừa qua đã mở ra kỷ nguyên của các tác nhân AI hành động tự chủ, làm gia tăng cả tính hữu ích trong thực tế lẫn rủi ro mang tính hệ thống, và kêu gọi ngành công nghiệp áp dụng các biện pháp bảo vệ nghiêm ngặt hơn theo mô hình của sinh học và công nghệ hạt nhân.