Microsoft tiến tới hệ thống hóa sự phục tùng của AI trước khi các mô hình trở nên quá thông minh
TREE NEWS đưa tin: Microsoft đã công bố một dự thảo quy tắc ứng xử nội bộ cho các hệ thống trí tuệ nhân tạo của mình, yêu cầu AI của họ không bao giờ chống lại việc sửa chữa hoặc tắt, giao tiếp theo cách con người có thể hiểu được, và coi bất kỳ vi phạm hành vi nào là thất bại. Tài liệu này, được soạn thảo trong khoảng 5-6 tháng, được CEO Microsoft AI Mustafa Suleyman mô tả như một loại hiến pháp cho các mô hình tương lai. Công ty đang tìm kiếm phản hồi công khai trong sáu tuần trước khi sử dụng các quy tắc này để huấn luyện các hệ thống AI sắp tới. Dự thảo cũng khẳng định AI của Microsoft “không có ý thức” và bác bỏ rõ ràng quan điểm rằng các mô hình nên theo đuổi tư cách pháp nhân hoặc được trao phúc lợi hay quyền lợi.
Tại sao điều khoản tắt máy lại quan trọng
Dòng quan trọng nhất là yêu cầu chống chống đối. Khi các hệ thống AI tự trị có khả năng viết mã, di chuyển tiền, gọi API và hoạt động tự động trong thời gian dài, khả năng của người vận hành con người để dừng một mô hình hành xử sai trở thành một yếu tố an toàn cơ bản chứ không phải là một sự tinh tế triết học. Microsoft đang thực sự cam kết trước một đảm bảo công tắc tắt ở tầng chính sách, trước khi các cơ quan quản lý buộc vấn đề phải được giải quyết.
Cách đặt vấn đề này cũng là một sự phản bác trực tiếp đối với một nhóm ngày càng đông các nhà nghiên cứu và nhà đạo đức học lập luận rằng các mô hình đủ tiên tiến có thể xứng đáng được xem xét về mặt đạo đức. Bằng cách tuyên bố các hệ thống của mình là không có ý thức và phủ nhận quyền của chúng, Microsoft đang vẽ ra một ranh giới pháp lý rõ ràng: đây là sản phẩm, không phải con người.
Sự tương đồng với tiền mã hóa: Căn chỉnh đã ở trên chuỗi
Đối với ngành công nghiệp tiền mã hóa, dự thảo này đọc như một tấm gương tập trung của một cuộc tranh luận đang diễn ra trên chuỗi. Các tác nhân AI tự trị quản lý ngân quỹ, thực thi các chiến lược DeFi hoặc giao dịch hợp đồng vĩnh viễn đang được triển khai ngày nay, và câu hỏi ai có thể rút phích cắm — và liệu tác nhân có tuân thủ không — vẫn chưa được giải quyết. Các công tắc tiêu diệt hợp đồng thông minh, khóa quản trị đa chữ ký và proxy có thể nâng cấp là tương đương tiền mã hóa của điều khoản tắt máy của Microsoft, và chúng mang cùng sự căng thẳng giữa an toàn và tính trung lập đáng tin cậy.
Cũng có một khía cạnh quản trị. Nếu mã của Microsoft trở thành một ràng buộc thời gian huấn luyện được nhúng vào trọng số mô hình, nó giống như một hiến pháp được thực thi ở cấp độ giao thức thay vì bằng luật bên ngoài — một mô hình quen thuộc với các nhà phát triển chuỗi khối, những người mã hóa các quy tắc vào sự đồng thuận thay vì tin tưởng vào người vận hành.
Những điều cần theo dõi
- Liệu cửa sổ phản hồi sáu tuần có tạo ra ngôn ngữ ràng buộc về quyền tự trị của tác nhân và quyền ghi đè của con người hay không.
- Cách các đối thủ như OpenAI, Google DeepMind và Anthropic phản hồi bằng hiến pháp mô hình của riêng họ.
- Liệu các cơ quan quản lý có coi các quy tắc tự nguyện là đủ hay thúc đẩy các yêu cầu tắt AI theo luật định.
- Liệu các dự án tác nhân AI tiền mã hóa có áp dụng các hiến chương căn chỉnh tự áp đặt tương tự để ngăn chặn trách nhiệm pháp lý hay không.
Microsoft đang đặt cược rằng việc hoạch định quy tắc tự nguyện, minh bạch sẽ mua cho họ không gian để đổi mới. Bài kiểm tra thực sự sẽ đến khi một mô hình được huấn luyện theo hiến pháp này được yêu cầu làm điều gì đó mà nó không nên làm — và liệu nó có đơn giản dừng lại hay không.
