Anthropic âm thầm thúc đẩy dự luật an toàn AI với ngưỡng can thiệp của chính phủ là 1 tỷ USD

TREE NEWS đưa tin: Theo những người am hiểu vấn đề, Anthropic đã vận động hành lang kín đáo các nhà lập pháp Mỹ về một dự thảo luật an toàn AI, trong đó đặt ra tiêu chuẩn đặc biệt cao đối với sự can thiệp của liên bang vào các mô hình AI tiên phong. Dự luật do Anthropic hỗ trợ soạn thảo này sẽ chỉ cho phép chính phủ chặn việc phát hành hoặc sử dụng một mô hình AI nếu nó gây ra “rủi ro có thể thấy trước và sắp xảy ra” – được định nghĩa là tổn thất tiềm năng vượt quá 1 tỷ USD hoặc gây tử vong hoặc thương tích nghiêm trọng cho 50 người trở lên. Dự luật cũng giới hạn chặt chẽ thẩm quyền quản lý đối với Bộ Thương mại và các tòa án liên bang, đồng thời minh thị cấm các cơ quan khác thực hiện hành động độc lập.

Chuyện gì đã xảy ra

Các đại diện của Anthropic đã chào bán dự thảo cho các văn phòng quốc hội trong những tuần gần đây. Dự luật, bắt nguồn từ “Khung AI Tiên tiến” của công ty được công bố hồi đầu năm nay, sẽ yêu cầu các nhà phát triển kiểm tra các mô hình tiên phong, công bố kết quả đánh giá và chấp nhận đánh giá độc lập của bên thứ ba. Những người đánh giá này sẽ đăng ký với Bộ Thương mại và được các phòng thí nghiệm AI trả tiền – mặc dù dự luật quy định rằng khoản thù lao không được gắn với kết quả đánh giá. Nếu người đánh giá phát hiện “rủi ro được liệt kê sắp xảy ra”, họ phải báo cáo cho Bộ Thương mại trong vòng 72 giờ. Bộ Thương mại sau đó có thể yêu cầu lệnh của tòa án từ Tòa án Quận liên bang Hoa Kỳ cho Quận Columbia để đình chỉ hoạt động của mô hình.

Ba yếu tố kích hoạt cụ thể cho hành động quản lý là: việc sử dụng mô hình trong phát triển hoặc phổ biến vũ khí sinh học, mất kiểm soát bởi nhà phát triển, hoặc mô hình tạo điều kiện cho các cuộc tấn công mạng. Các tác động xã hội rộng lớn hơn hoặc biến dạng kinh tế sẽ không đủ điều kiện. Những người chỉ trích có thể lập luận rằng những điều kiện này quá hẹp, thực chất là cung cấp lá chắn pháp lý cho các phòng thí nghiệm tiên phong như Anthropic.

Hàm ý thị trường

Đối với các nhà đầu tư, dự luật – nếu được ban hành – sẽ làm giảm đáng kể sự không chắc chắn về quy định đối với các nhà phát triển AI hàng đầu. Ngưỡng can thiệp cao có nghĩa là hầu hết việc phát triển và triển khai mô hình AI sẽ diễn ra mà không có sự can thiệp của chính phủ, giảm nguy cơ dừng quy định đột ngột có thể làm gián đoạn lộ trình sản phẩm và dòng doanh thu. Điều này có thể đặc biệt tích cực đối với các cổ phiếu tập trung vào AI, bao gồm Amazon – nhà hậu thuẫn của Anthropic – và các nhà cung cấp đám mây khác lưu trữ khối lượng công việc AI, cũng như Nvidia và các nhà sản xuất chip khác cung cấp cơ sở hạ tầng AI.

Tuy nhiên, dự luật cũng tập trung giám sát vào Bộ Thương mại và một tòa án liên bang duy nhất, điều này có thể hợp lý hóa quy trình quản lý nhưng cũng làm dấy lên lo ngại về các điểm nghẽn tiềm ẩn. Việc loại trừ các cơ quan khác, bao gồm Bộ Quốc phòng và các cơ quan an ninh quốc gia, khỏi hành động độc lập có thể hạn chế khả năng giải quyết nhanh chóng các rủi ro bảo mật liên quan đến AI của họ. Đối với lĩnh vực công nghệ rộng lớn hơn, dự luật báo hiệu một bước chuyển sang môi trường quản lý có thể dự đoán được hơn, điều này có thể khuyến khích đầu tư nhưng cũng có thể thu hút chỉ trích từ những người ủng hộ các biện pháp bảo vệ AI mạnh mẽ hơn.

Trong không gian tiền mã hóa, trọng tâm hẹp của dự luật về an toàn AI không trực tiếp giải quyết sự hội tụ AI-tiền mã hóa, nhưng một khuôn khổ quản lý rõ ràng hơn cho AI có thể gián tiếp mang lại lợi ích cho các dự án AI phi tập trung bằng cách giảm bớt sự không chắc chắn về tuân thủ. Tuy nhiên, ngưỡng can thiệp cao của dự luật có thể không làm hài lòng những người kêu gọi giám sát chặt chẽ hơn đối với các mô hình AI có thể được sử dụng cho mục đích độc hại, chẳng hạn như tạo deepfake hoặc thao túng thị trường.

Điểm chính

Ngưỡng can thiệp cao: Chính phủ chỉ có thể chặn các mô hình AI nếu chúng gây ra rủi ro sắp xảy ra vượt quá 1 tỷ USD tổn thất hoặc gây ra 50+ ca tử vong/thương tích nghiêm trọng – một ngưỡng bảo vệ hầu hết việc phát triển AI khỏi sự can thiệp của quy định.
Thẩm quyền tập trung: Giám sát được giới hạn trong Bộ Thương mại và một tòa án liên bang cụ thể, minh thị loại trừ các cơ quan khác như Bộ Quốc phòng khỏi hành động độc lập.
Tác động đến nhà đầu tư: Giảm rủi ro quy định có thể thúc đẩy cổ phiếu liên quan đến AI, đặc biệt là các nhà cung cấp đám mây và nhà sản xuất chip, nhưng có thể làm dấy lên lo ngại về giám sát an toàn không đầy đủ.
Đặt câu hỏi về tính độc lập của đánh giá: Dự luật cho phép các phòng thí nghiệm AI trả tiền cho người đánh giá độc lập, mặc dù có các biện pháp bảo vệ để ngăn ngừa xung đột lợi ích.