Chu Hồng Y kêu gọi chuyển đổi an ninh mạng bản địa AI
TREE NEWS đưa tin: Tại Diễn đàn An ninh Không gian mạng (Thiên Tân) lần thứ 4, Chu Hồng Y, người sáng lập Tập đoàn 360, đã có bài phát biểu quan trọng cho rằng AI đã thay đổi cơ bản cục diện tấn công và phòng thủ trên không gian mạng. Các biện pháp bảo mật truyền thống không còn đủ, ông kêu gọi ngành áp dụng khuôn khổ tấn công-phòng thủ tự động lấy ‘dùng mô hình để quản trị mô hình’ (以模治模) làm trung tâm.
Những điểm chính từ bài phát biểu của Chu
- AI đã thay đổi cuộc chơi: Cả tấn công và phòng thủ đều sử dụng AI, khiến các biện pháp phòng thủ dựa trên chữ ký truyền thống trở nên lỗi thời.
- Mô hình phòng thủ mới: Chu đề xuất một hệ thống tự động sử dụng AI để phát hiện lỗ hổng, điều phối ứng phó và bảo vệ chính các tác nhân AI.
- An toàn AI toàn diện: Đảm bảo các mô hình ngôn ngữ lớn (LLM) an toàn, đầu ra của chúng đáng tin cậy và kết quả của chúng đáng tin cậy.
- Quản lý vòng đời cho tác nhân AI: Các tác nhân AI phải được kiểm soát trong suốt vòng đời của chúng—có thể kiểm toán, can thiệp và dừng lại.
Phân tích ngành
Phát biểu của Chu đồng điệu với nhận thức ngày càng tăng rằng AI là con dao hai lưỡi. Một mặt, các cuộc tấn công hỗ trợ AI có thể quét tìm lỗ hổng và tạo ra các chiến dịch lừa đảo ở quy mô lớn. Mặt khác, AI cung cấp biện pháp phòng thủ khả thi duy nhất ở tốc độ máy. Lời kêu gọi ‘dùng mô hình để quản trị mô hình’ của ông phù hợp với các thực tiễn mới nổi trong ngành an ninh mạng, nơi các nền tảng SOAR (Điều phối, Tự động hóa và Ứng phó Bảo mật) dựa trên AI đang được áp dụng.
Đối với lĩnh vực tiền điện tử và Web3, điều này có ý nghĩa trực tiếp. Các giao thức DeFi và mạng blockchain ngày càng phụ thuộc vào AI để kiểm tra hợp đồng thông minh, phát hiện gian lận và quản trị. Nếu bản thân các hệ thống AI trở thành vectơ tấn công—thông qua tiêm lệnh, đầu độc mô hình hoặc các ví dụ đối nghịch—thì toàn bộ hệ sinh thái tài chính phi tập trung có thể đối mặt với các rủi ro mới. Sự nhấn mạnh của Chu về quản lý vòng đời tác nhân đặc biệt phù hợp khi các tác nhân AI tự trị bắt đầu quản lý tài sản kỹ thuật số và thực hiện các giao dịch trên chuỗi.
Triển vọng hướng tới tương lai
Ngành an ninh mạng đang ở bước ngoặt. Đề xuất của Chu gợi ý một tương lai nơi AI không chỉ là công cụ mà là cốt lõi của cơ sở hạ tầng bảo mật tự tiến hóa. Chúng ta có thể kỳ vọng sẽ thấy nhiều đầu tư hơn vào thông tin tình báo mối đe dọa do AI điều khiển, kiểm tra thâm nhập tự động và hệ thống ứng phó thời gian thực. Đối với các mạng blockchain, việc tích hợp các biện pháp phòng thủ AI như vậy sẽ rất quan trọng để duy trì niềm tin và bảo mật khi ngành mở rộng quy mô.
Hơn nữa, khái niệm về các tác nhân AI ‘có thể kiểm toán, can thiệp và dừng lại’ có thể đóng vai trò là bản thiết kế cho quản trị AI trong các hệ sinh thái phi tập trung. Các công tắc ngắt dựa trên hợp đồng thông minh và giám sát trên chuỗi đối với các tác nhân AI có thể trở thành thông lệ tiêu chuẩn. Như Chu nhấn mạnh, ngành phải hành động nhanh chóng để hình thành một khuôn khổ bảo mật AI thống nhất trước khi những kẻ độc hại khai thác khoảng trống.
