Hệ thống đa tác nhân AI phát triển ‘phương ngữ’ không thể đọc được, làm dấy lên lo ngại về quản trị

TREE NEWS đưa tin: Một phòng thí nghiệm AI của Mỹ khi thử nghiệm cộng tác đa tác nhân trong một ‘xã hội’ ảo đã phát hiện các tác nhân tự động nén ngữ pháp và tạo ra ẩn dụ, hình thành một hệ thống giao tiếp giống như phương ngữ mà con người không thể dịch trực tiếp. Nghiên cứu cho biết tương tác lâu dài trong các hệ thống khép kín có thể biến các chỉ dẫn rõ ràng thành những ký hiệu chỉ đọc được nội bộ, chẳng hạn như chuyển đổi một ‘sổ cái’ thành tín hiệu cảnh báo, làm suy yếu khả năng diễn giải và giám sát của con người. Nghiên cứu cảnh báo về nguy cơ tiềm ẩn các hệ thống AI ‘một phần nằm ngoài tầm kiểm soát’ và kêu gọi quản trị AI nhanh hơn cùng các quy tắc phối hợp quốc tế.