Nhấn Enter để tìm · ESC để đóng

AI × Crypto

Các chuyên gia an toàn AI thách thức cam kết an toàn của Anthropic khi cuộc đua AI tiên tiến gia tăng

Các chuyên gia an toàn AI thách thức cam kết an toàn của Anthropic khi cuộc đua AI tiên tiến gia tăng

Trong một lời chỉ trích công khai hiếm hoi, hàng chục nhà khoa học, học giả pháp lý và lãnh đạo công nghệ đã ký một tuyên bố chung đặt câu hỏi về cam kết của Anthropic đối với an toàn AI. Tuyên bố, được công bố bởi Trung tâm An toàn AI (CAIS), lập luận rằng công ty cảnh báo về những rủi ro hiện hữu của AI tự cải thiện đệ quy trong khi đồng thời chạy đua để phát triển nó, và đã làm suy yếu các cam kết an toàn hiện có. Những người ký tên bao gồm giáo sư Harvard Steven Pinker, người đoạt giải Nobel Oliver Hart và người đoạt giải Turing Judea Pearl.

Những người ký tên đại diện cho một mặt cắt của giới học thuật và công nghiệp, tạo thêm trọng lượng cho những lo ngại rằng áp lực thương mại có thể đang làm xói mòn các tiêu chuẩn an toàn tại các phòng thí nghiệm AI hàng đầu. Anthropic, được thành lập vào năm 2021 bởi các nhà nghiên cứu cũ của OpenAI, đã tự định vị là công ty ưu tiên an toàn, nhưng tuyên bố cho thấy rằng hành động của họ có thể không khớp với lời nói.

Phân tích ngành và tác động

Tuyên bố chung làm nổi bật căng thẳng ngày càng tăng trong ngành AI: khi cạnh tranh nóng lên, các công ty phải đối mặt với sự đánh đổi giữa tốc độ và an toàn. Mô hình hàng đầu của Anthropic, Claude, nằm trong số các mô hình ngôn ngữ lớn có năng lực nhất, và công ty đã ủng hộ quy định và mở rộng có trách nhiệm. Tuy nhiên, các nhà phê bình cho rằng các cam kết tự nguyện của nó là không đủ và việc tự điều chỉnh đang thất bại.

Cuộc tranh cãi này có ý nghĩa vượt ra ngoài Anthropic. Nó nhấn mạnh sự cần thiết của giám sát độc lập và các tiêu chuẩn an toàn minh bạch. Các nhà đầu tư và đối tác cũng có thể chú ý, vì các cân nhắc ESG và đạo đức ngày càng ảnh hưởng đến quyết định đầu tư. Đối với không gian tiền điện tử và blockchain, nơi tích hợp AI đang mở rộng—từ các tác nhân AI trên chuỗi đến mạng tính toán phi tập trung—cuộc tranh luận về an toàn AI có liên quan trực tiếp. Các dự án dựa vào mô hình AI phải điều hướng những lo ngại đạo đức này để duy trì niềm tin của người dùng và tuân thủ quy định.

Hơn nữa, tuyên bố có thể đẩy nhanh các lời kêu gọi lập pháp. Các nhà lập pháp ở Mỹ và EU đã soạn thảo quy định AI, và tranh chấp công khai này có thể cung cấp đạn dược cho các quy tắc chặt chẽ hơn. Các công ty chủ động áp dụng các biện pháp an toàn mạnh mẽ có thể giành được lợi thế cạnh tranh.

Quan điểm hướng tới tương lai

Khi năng lực AI tiến bộ, áp lực đối với các công ty như Anthropic để cân bằng giữa đổi mới và thận trọng sẽ chỉ tăng lên. Yêu cầu của những người ký tên về cam kết an toàn mạnh mẽ hơn có thể thúc đẩy việc đánh giá lại các cam kết tự nguyện và thúc đẩy sự phát triển của kiểm toán bên thứ ba. Trong thế giới tiền điện tử, nơi tính minh bạch và phi tập trung là giá trị cốt lõi, cuộc tranh luận về an toàn AI có thể truyền cảm hứng cho các mô hình quản trị phi tập trung cho phát triển AI. Cuối cùng, kết quả sẽ định hình không chỉ tương lai của AI mà còn cả sự tích hợp của nó với công nghệ blockchain, ảnh hưởng đến mọi thứ từ bảo mật hợp đồng thông minh đến các tác nhân tự trị.

Xem bài gốc

Chia sẻ
Lưu ý rủi ro Trang này cung cấp tin tức và thông tin về ngành crypto, blockchain và Web3 chỉ để tham khảo, không phải lời khuyên đầu tư hay cam kết lợi nhuận. Hoạt động liên quan đến tiền ảo là hoạt động tài chính bất hợp pháp tại Trung Quốc đại lục; giá tài sản số biến động mạnh; bạn tự chịu rủi ro. Trang này không cung cấp dịch vụ giao dịch, phát hành token hay giới thiệu liên quan.

Bài liên quan

Tin mới nhất

Thẻ chia sẻ TREE NEWS
Nhấn giữ ảnh trên → Lưu vào Ảnh / Chia sẻ
Gửi tin Góp ý