Anthropic đề xuất luật an toàn AI tiên tiến
TREE NEWS đưa tin: Theo những người am hiểu vấn đề, Anthropic đã soạn thảo một dự luật liên bang về an toàn AI tiên tiến và đang trình bày riêng với các nhà lập pháp Mỹ. Dự thảo đặt ra các ngưỡng rủi ro sẽ kích hoạt sự can thiệp của chính phủ trước khi một mô hình được phát hành: nếu một mô hình gây ra rủi ro có thể thấy trước và tức thời về thiệt hại tài sản trên 1 tỷ USD hoặc trên 50 ca tử vong hoặc thương tích nghiêm trọng, và rủi ro đó xuất phát từ việc mô hình cho phép tạo ra hoặc phát tán vũ khí sinh học, thoát khỏi sự kiểm soát của nhà phát triển, hoặc phát động tấn công mạng, chính phủ có thể chặn việc phát hành hoặc sử dụng mô hình đó.
Đề xuất yêu cầu các cơ quan đánh giá báo cáo trong vòng 72 giờ sau khi xác định được “rủi ro được liệt kê trong ngắn hạn”. Sau khi Bộ Thương mại xác nhận phát hiện, cơ quan này có thể yêu cầu lệnh của tòa án. Dự thảo cũng cấm các cơ quan chính phủ khác đơn phương tạm dừng phát triển, triển khai hoặc sử dụng nội bộ mô hình. Các nhà phát triển sẽ được yêu cầu kiểm tra mô hình, công bố kết quả và chịu sự đánh giá định kỳ của các đánh giá viên độc lập.
Tại sao điều này quan trọng
Đây là một thời điểm đáng chú ý trong quản trị AI: một nhà phát triển AI hàng đầu không chỉ bình luận về quy định mà còn tự viết phiên bản của riêng mình. Anthropic đã định vị mình là một phòng thí nghiệm tập trung vào an toàn, và động thái này mở rộng thương hiệu đó sang lĩnh vực lập pháp. Nó cũng phản ánh sự chuyển dịch rộng lớn hơn của ngành hướng tới việc chủ động tham gia với các nhà hoạch định chính sách, nhằm định hình các quy tắc trước khi chúng được áp đặt.
Cấu trúc của dự thảo rất đáng chú ý. Bằng cách xác định các yếu tố kích hoạt hẹp và có mức độ nghiêm trọng cao, Anthropic đang lập luận cho sự can thiệp có mục tiêu thay vì các chế độ phê duyệt trước rộng rãi. Khung thời gian báo cáo 72 giờ và quy trình lệnh của tòa án cho thấy mong muốn về thủ tục tố tụng và giám sát tư pháp, trong khi lệnh cấm các cơ quan khác hành động đơn phương là rào chắn chống lại sự phân mảnh quy định.
Tác động ngành
Đối với các phòng thí nghiệm tiên tiến khác, đề xuất này có thể đặt ra một tiêu chuẩn thực tế. Nếu Quốc hội thông qua dù chỉ một phần, các nhà phát triển có thể phải đối mặt với các nghĩa vụ tuân thủ mới về kiểm tra, minh bạch và đánh giá độc lập. Điều đó có thể làm tăng chi phí cho các đơn vị nhỏ hơn và củng cố vị thế của các phòng thí nghiệm lớn hơn có khả năng chi trả cho việc đánh giá nghiêm ngặt. Ngược lại, một khung liên bang rõ ràng có thể giảm bớt sự không chắc chắn và ngăn chặn sự chắp vá của các luật tiểu bang.
Lĩnh vực tiền mã hóa và AI phi tập trung nên chú ý. Nhiều dự án AI Web3 dựa vào các mô hình mã nguồn mở và triển khai không cần cấp phép. Một luật hạn chế việc phát hành một số mô hình nhất định có thể xung đột với tinh thần truy cập mở, và có thể đẩy một số phát triển ra nước ngoài hoặc vào các mạng phi tập trung. Đồng thời, tính minh bạch trên chuỗi và điện toán có thể xác minh có thể phù hợp với các yêu cầu kiểm tra và đánh giá của dự luật, tạo cơ hội cho cơ sở hạ tầng AI phi tập trung tuân thủ.
Những điểm cần theo dõi
- Liệu các nhà lập pháp có đưa ra dự luật chính thức dựa trên dự thảo của Anthropic hay không, và nó thay đổi như thế nào.
- Phản ứng từ các phòng thí nghiệm đối thủ, những người ủng hộ mã nguồn mở và các nhóm xã hội dân sự.
- Cách Bộ Thương mại và tòa án sẽ triển khai quy trình báo cáo 72 giờ và lệnh cấm.
- Liệu đề xuất có ảnh hưởng đến luật AI cấp tiểu bang hoặc tiêu chuẩn quốc tế hay không.
Động thái của Anthropic cho thấy an toàn AI đang chuyển từ nguyên tắc doanh nghiệp sang văn bản lập pháp. Kết quả sẽ định hình không chỉ cách các mô hình tiên tiến được phát hành mà còn cách AI phi tập trung và các mạng điện toán bản địa tiền mã hóa phù hợp với bối cảnh quy định.
