OpenAI và Anthropic mô phỏng thảm họa AI: Bài kiểm tra căng thẳng cho ngân hàng và hạ tầng trọng yếu
TREE NEWS đưa tin: OpenAI và Anthropic đã tiến hành một mô phỏng chung về kịch bản thảm họa AI, được thiết kế để kiểm tra khả năng phục hồi của hạ tầng trọng yếu, bao gồm hệ thống ngân hàng và lưới điện. Cuộc diễn tập này, với sự tham gia của các nhóm red-team đối với các mô hình AI tiên tiến trong môi trường được kiểm soát, nhằm xác định các lỗ hổng mang tính hệ thống có thể phát sinh từ việc triển khai AI độc hại, sự lệch hướng của mô hình, hoặc các thất bại tự trị dây chuyền. Dù thông tin chi tiết vẫn còn ít ỏi, sáng kiến này cho thấy nhận thức ngày càng tăng trong các phòng thí nghiệm AI hàng đầu rằng thế hệ mô hình tiếp theo đặt ra những rủi ro vượt xa thông tin sai lệch hay mất việc làm—vươn tới lĩnh vực sụp đổ hạ tầng vật chất và tài chính.
Tại sao điều này quan trọng với tiền mã hóa và DeFi
Ngành công nghiệp tiền mã hóa, đặc biệt là tài chính phi tập trung (DeFi), có mức độ phơi nhiễm đặc biệt trước các cú sốc hệ thống do AI dẫn dắt. Các hợp đồng thông minh quản lý hàng tỷ USD tổng giá trị khóa (TVL) ngày càng được quản lý hoặc giám sát bởi các tác nhân AI. Nếu một mô hình AI bị trục trặc hoặc bị vũ khí hóa, nó có thể kích hoạt thanh lý tự động, thao túng oracle, hoặc rút cạn thanh khoản trên các giao thức liên kết với nhau. Khác với ngân hàng truyền thống, DeFi không có ngân hàng trung ương làm chỗ dựa. Một cuộc tấn công AI phối hợp nhắm vào nguồn giá hoặc cơ chế quản trị có thể lan truyền qua các thị trường cho vay như Aave hay Compound, gây ra những tổn thất không thể đảo ngược.
Hơn nữa, mô phỏng này làm nổi bật một khoảng trống nghiêm trọng: hầu hết các mạng blockchain và giao thức DeFi thiếu các cầu dao (circuit breaker) chuyên biệt cho AI một cách vững chắc. Trong khi tài chính truyền thống có công tắc ngắt (kill switch) và cầu dao, tính tổ hợp (composability) của DeFi có nghĩa là một tác nhân AI bị khai thác duy nhất có thể rút cạn nhiều giao thức trong vài phút. Cuộc diễn tập của OpenAI và Anthropic nên đóng vai trò như một hồi chuông cảnh tỉnh cho các nhà phát triển tiền mã hóa để tích hợp các lớp an toàn AI, chẳng hạn như giới hạn tốc độ cho các tác nhân tự trị và giám sát đa chữ ký của con người đối với các giao dịch giá trị cao.
Góc nhìn hướng tới tương lai: Quy định và khả năng phục hồi
Có thể kỳ vọng các cơ quan quản lý sẽ để mắt tới. Bộ Tài chính Hoa Kỳ và các cơ quan EU đã và đang soạn thảo các khuôn khổ cho AI trong tài chính, và mô phỏng này cung cấp cơ sở cho việc giám sát chặt chẽ hơn các tác nhân AI tương tác với tài sản on-chain. Đối với tiền mã hóa, con đường phía trước bao gồm sự hợp tác chủ động với các phòng thí nghiệm AI để phát triển các tiêu chuẩn an toàn chung, phát hiện bất thường on-chain, và quản trị AI phi tập trung. Sự hội tụ giữa AI và blockchain là không thể tránh khỏi, nhưng nếu không có kiểm tra căng thẳng nghiêm ngặt, cuộc khủng hoảng tài chính tiếp theo có thể không được kích hoạt bởi một cuộc tháo chạy ngân hàng—mà bởi một thuật toán đã vượt khỏi tầm kiểm soát.
