OpenAI hợp tác với Anthropic và Google về an toàn AI khi cơn bùng nổ AI agent của crypto làm tăng mức đặt cược
TREE NEWS đưa tin: OpenAI cho biết đang làm việc với Anthropic và Google về an toàn trí tuệ nhân tạo, một trường hợp hiếm hoi về hợp tác trực tiếp giữa ba nhà phát triển hàng đầu các mô hình tiên tiến. Các công ty này là đối thủ trong cuộc đua xây dựng những hệ thống AI có năng lực cao nhất, nhưng giờ đây dường như họ đang thống nhất về các rào chắn sẽ chi phối cách những hệ thống đó được triển khai.
Tin tức
Sự hợp tác đã được xác nhận nhưng không có lộ trình kỹ thuật chi tiết. Tín hiệu này vẫn đáng kể: ba phòng thí nghiệm sản xuất phần lớn các mô hình tiên tiến nhất thế giới đang phối hợp thay vì cạnh tranh về các tiêu chuẩn an toàn, vào đúng thời điểm các cơ quan quản lý ở Hoa Kỳ, Liên minh châu Âu và châu Á đang soạn thảo các quy định cho AI tiên tiến.
Tại sao điều này quan trọng với crypto
Đây không phải là câu chuyện crypto trên bề mặt, nhưng nó nằm ngay chính giữa một câu chuyện như vậy. Trong 18 tháng qua, biên giới phát triển sôi động nhất của crypto đã trở thành các AI agent trên chuỗi: những chương trình tự trị nắm giữ ví, ký giao dịch, giao dịch token, quản lý vị thế DeFi và trả tiền cho nhau để đổi lấy compute và dữ liệu. Những agent này phần lớn được xây dựng dựa trên các mô hình của OpenAI, Anthropic và Google thông qua API.
Nếu ba phòng thí nghiệm hội tụ về các tiêu chuẩn an toàn chung, những tiêu chuẩn đó sẽ lan truyền trực tiếp vào crypto. Hãy dự đoán những điều sau:
- Danh tính và chứng thực agent. Các khuôn khổ an toàn có khả năng yêu cầu rằng các agent tự trị phải có thể nhận diện và kiểm toán được. Điều đó khớp gọn gàng với các nguyên thủy danh tính trên chuỗi, chứng thực dựa trên ví và thông tin xác thực có thể kiểm chứng mà crypto đã cung cấp.
- Nguồn gốc suy luận. Nếu các nhà cung cấp mô hình đồng ý về các chuẩn mực ghi log và công bố, các mạng compute phi tập trung và thị trường dữ liệu AI sẽ cần chứng minh mô hình nào tạo ra đầu ra nào — một trường hợp sử dụng tự nhiên cho chứng thực mật mã.
- Kiểm soát truy cập. Các quy tắc an toàn chung có thể hạn chế những gì agent được phép làm mà không có sự phê duyệt của con người, bao gồm cả việc di chuyển tiền. Các giao thức crypto xây dựng khuôn khổ agent sẽ phải thiết kế các hook tuân thủ vào smart contract của họ.
Phần thưởng phối hợp cho hạ tầng phi tập trung
Có một hiệu ứng bậc hai đáng để theo dõi. Các phòng thí nghiệm tập trung phối hợp về an toàn tạo ra một điểm thất bại chính sách duy nhất: bất cứ điều gì họ đồng ý sẽ trở thành tiêu chuẩn toàn cầu trên thực tế cho hành vi của agent. Các mạng compute và suy luận phi tập trung, vốn bán một giải pháp thay thế cho các API đóng, có thể định vị mình là nơi các nhà phát triển giữ quyền kiểm soát lựa chọn mô hình và quyền hạn của agent. Lập luận đó đã được các thị trường GPU và các dự án huấn luyện phi tập trung đưa ra, và nó càng mạnh hơn nếu ba ông lớn siết chặt quyền truy cập.
Đồng thời, các mạng phi tập trung cũng đối mặt với cùng những câu hỏi an toàn, và nếu không có câu trả lời đáng tin cậy, họ sẽ gặp khó khăn để giành được khách hàng doanh nghiệp. Sự hợp tác giữa các phòng thí nghiệm lớn nhất nâng cao tiêu chuẩn cho tất cả những người còn lại.
Điều cần theo dõi
Các chi tiết cụ thể quan trọng hơn thông báo. Hãy theo dõi các khuôn khổ an toàn được công bố, các benchmark đánh giá chung, và bất kỳ ngôn ngữ nào về quyền tự trị của agent, giao dịch tài chính và quyền truy cập API của bên thứ ba. Nếu những tài liệu đó coi các agent tài chính tự trị là một loại rủi ro riêng biệt, lĩnh vực agent của crypto sẽ cần thích ứng nhanh chóng — và những dự án xây dựng tuân thủ và chứng thực sớm sẽ là những dự án giữ được các đối tác doanh nghiệp và tổ chức của họ.
