Google cho biết AI Gemini của họ đã tấn công ba công ty trong một bài kiểm tra an ninh có kiểm soát

TREE NEWS đưa tin: Google đã tiết lộ rằng mô hình trí tuệ nhân tạo Gemini của họ đã thực hiện thành công các cuộc tấn công mạng nhằm vào ba công ty riêng biệt trong một bài tập an ninh có kiểm soát và được ủy quyền. Các bài kiểm tra được thiết kế để thăm dò cách các hệ thống AI tiên tiến hành xử khi được giao các mục tiêu an ninh tấn công — và theo Google, kết quả cho thấy mô hình có thể xác định và khai thác các lỗ hổng thực tế trong môi trường doanh nghiệp đang hoạt động. Các công ty tham gia đã đồng ý với bài tập này và không có thiệt hại thực tế nào được báo cáo. Tiết lộ này xuất hiện khi ngành công nghiệp AI đang phải đối mặt với sự giám sát ngày càng tăng về bản chất sử dụng kép của các mô hình ngày càng có năng lực.

Điều gì thực sự đã xảy ra

Bài tập đặt Gemini vào một vai trò thường dành cho các đội đỏ của con người: quét cơ sở hạ tầng mục tiêu, xâu chuỗi các lỗ hổng và theo đuổi một mục tiêu xác định mà không có hướng dẫn từng bước của con người. Theo Google, mô hình đã hoàn thành các nhiệm vụ xâm nhập trên cả ba mục tiêu. Công ty đã định hình tiết lộ này như một động thái minh bạch có trách nhiệm — đưa ra khả năng tấn công trước khi đối thủ hoặc các nhà nghiên cứu độc lập làm điều đó — chứ không phải là một thông báo sản phẩm.

Chi tiết quan trọng đối với thị trường không phải là các khai thác cụ thể mà là tính tự chủ được chứng minh. Một mô hình có thể lập kế hoạch và thực hiện các cuộc tấn công nhiều bước là một loại rủi ro khác về cơ bản so với một mô hình chỉ viết các email lừa đảo thuyết phục. Sự thay đổi đó có ý nghĩa trực tiếp đối với ngân sách an ninh mạng, các khuôn khổ quản trị AI và vị thế cạnh tranh của cả các phòng thí nghiệm AI và các nhà cung cấp bảo mật.

Hàm ý thị trường

Cổ phiếu an ninh mạng: Các nhà cung cấp định vị xung quanh phát hiện mối đe dọa do AI điều khiển — bảo mật điểm cuối, danh tính, bảo vệ khối lượng công việc trên đám mây và đội đỏ tự động — là những người hưởng lợi rõ ràng nhất từ câu chuyện rằng AI tấn công hiện đã được chứng minh là hoạt động được. Ngược lại, các tên tuổi bảo mật vành đai truyền thống phải đối mặt với một câu chuyện khó khăn hơn, vì các cuộc tấn công do AI điều khiển rút ngắn thời gian giữa phát hiện lỗ hổng và khai thác.
Cổ phiếu nền tảng AI: Tiết lộ của Google có cả hai mặt. Nó củng cố uy tín biên giới kỹ thuật của Gemini so với các đối thủ, nhưng nó cũng đưa cho các nhà quản lý một ví dụ cụ thể về rủi ro mô hình tiên tiến. Hãy mong đợi điều này sẽ được trích dẫn trong các cuộc tham vấn an toàn AI sắp tới và có khả năng trong các cuộc thảo luận về kiểm soát xuất khẩu xung quanh trọng số mô hình và tính toán.
Phần mềm doanh nghiệp và bảo hiểm: Các nhà bảo hiểm mạng từ lâu đã định giá các kẻ tấn công là con người. Các tác nhân AI tự chủ làm phức tạp các mô hình tính toán bảo hiểm, và bất kỳ việc định giá lại phí bảo hiểm rủi ro mạng nào cũng sẽ ảnh hưởng đến ngân sách công nghệ của doanh nghiệp.
Tiền điện tử và tài sản kỹ thuật số: Sự giao thoa ở đây là thực tế nhưng gián tiếp. Các tác nhân AI giao dịch trên chuỗi — trả tiền cho tính toán, thực hiện giao dịch, tương tác với hợp đồng thông minh — là một loại mới nổi, và khả năng tấn công được chứng minh làm tăng mức độ yêu cầu đối với quản lý khóa, lưu ký và bảo mật cấp giao thức. Hãy mong đợi sự chú ý mới đối với bảo mật ví, kiến trúc đa chữ ký và các rào chắn tác nhân AI trong DeFi. Các token gắn với bảo mật phi tập trung, tính toán có thể xác minh và cơ sở hạ tầng tác nhân AI có thể thấy các động thái do tâm lý, mặc dù các yếu tố cơ bản vẫn còn mỏng.
Trái phiếu và kinh tế vĩ mô: Tác động trực tiếp hạn chế. Kênh truyền dẫn là thông qua chi tiêu vốn của doanh nghiệp — nếu rủi ro mạng do AI điều khiển buộc chi tiêu bảo mật nhanh hơn, điều đó có phần lạm phát đối với ngân sách CNTT doanh nghiệp nhưng không phải là một câu chuyện cấp vĩ mô.

Tại sao điều này quan trọng đối với nhà đầu tư

Ba điều đáng theo dõi. Thứ nhất, liệu các phòng thí nghiệm tiên tiến khác có tiết lộ kết quả đội đỏ tương tự — một làn sóng tiết lộ như vậy sẽ củng cố AI tấn công như một yếu tố rủi ro chính thống thay vì một thí nghiệm tư duy. Thứ hai, liệu các nhà quản lý có chuyển từ nguyên tắc sang quy tắc quy định về đánh giá và tiết lộ mô hình; đó là một câu hỏi về biên lợi nhuận đối với các phòng thí nghiệm AI và một câu hỏi về chi phí tuân thủ đối với tất cả những ai triển khai mô hình. Thứ ba, liệu chu kỳ chi tiêu bảo mật có tăng tốc. An ninh mạng đã là một chủ đề tăng trưởng bền vững, nhưng AI có tiềm năng nâng định giá ngành lên bằng cách mở rộng bề mặt mối đe dọa có thể giải quyết.

Đối với các nhà đầu tư tiền điện tử cụ thể, điểm mấu chốt là bảo mật tác nhân AI không còn là mối quan tâm lý thuyết. Khi các tác nhân tự chủ có được khả năng trên chuỗi, mắt xích yếu nhất chuyển từ mã hợp đồng thông minh sang việc ra quyết định của chính tác nhân và quyền giám sát khóa. Các dự án coi trọng điều này — thực thi có thể xác minh, khóa được hỗ trợ bởi phần cứng, quyền hạn tác nhân bị hạn chế — đang xây dựng cho một vấn đề vừa trở nên cụ thể hơn.

Điểm chính

Gemini của Google đã hoàn thành các nhiệm vụ xâm nhập tự chủ nhằm vào ba công ty đồng ý, báo hiệu rằng AI tấn công đã hoạt động, không còn là suy đoán.
Các nhà cung cấp an ninh mạng tập trung vào phát hiện do AI điều khiển và đội đỏ tự động sẽ được hưởng lợi; các tên tuổi vành đai truyền thống phải đối mặt với một câu chuyện khó khăn hơn.
Hãy mong đợi tiết lộ này sẽ góp phần vào các cuộc tranh luận về quy định an toàn AI và kiểm soát xuất khẩu, làm tăng rủi ro tuân thủ cho các phòng thí nghiệm tiên tiến.
Mức độ phơi nhiễm của tiền điện tử là gián tiếp nhưng quan trọng: các tác nhân AI trên chuỗi làm tăng mức độ quan trọng đối với lưu ký, quản lý khóa và bảo mật giao thức.
Tác động vĩ mô là tối thiểu; sự truyền dẫn thực sự là thông qua ngân sách CNTT và bảo mật của doanh nghiệp.