Làn sóng rời bỏ vì an toàn AI tấn công các phòng thí nghiệm hàng đầu: Nhà nghiên cứu Anthropic từ chức, OpenAI cảnh báo về ‘Trí tuệ người ngoài hành tinh’

Làn sóng rời bỏ vì an toàn AI tấn công các phòng thí nghiệm hàng đầu: Nhà nghiên cứu Anthropic từ chức, OpenAI cảnh báo về ‘Trí tuệ người ngoài hành tinh’

TREE NEWS đưa tin: Một nhà nghiên cứu cấp cao tại Anthropic đã từ chức vì lo ngại rằng ngành công nghiệp AI đang chạy đua về phía điểm không thể quay lại, nơi con người mất kiểm soát các hệ thống tiên tiến. Jacob Coxon, 27 tuổi, một nhà toán học tập trung vào việc huấn luyện các mô hình AI mới, đã rời công ty vào thứ Ba, cảnh báo rằng vào cuối năm sau, tình hình có thể đã ‘ngoài tầm kiểm soát.’ Sự ra đi của anh làm tăng thêm tiếng nói ngày càng lớn về mối quan ngại an toàn bên trong các phòng thí nghiệm AI hàng đầu thế giới, ngay khi Anthropic chuẩn bị cho một đợt IPO mang tính bước ngoặt và OpenAI thúc đẩy nghiên cứu tự cải thiện đệ quy (RSI).

Tin tức: Một tuần cảnh báo leo thang

Việc Coxon từ chức đã được Wall Street Journal đưa tin. Anh cho biết anh gia nhập Anthropic vì danh tiếng an toàn mạnh mẽ của công ty, nhưng kết luận rằng nếu không có sự can thiệp của chính phủ hoặc sự chậm lại phối hợp của ngành, không công ty nào có thể phát triển trí tuệ nhân tạo tổng quát (AGI) vượt qua con người trong mọi nhiệm vụ một cách có trách nhiệm. Anh lưu ý rằng các đồng nghiệp hiện thường xuyên sử dụng các thuật ngữ như ‘thời điểm then chốt’ và ‘trò chơi cuối’ để mô tả quỹ đạo hướng tới các mô hình AI tự cải thiện. Nỗi sợ cốt lõi của anh: một khi các hệ thống AI bắt đầu lặp lại một cách tự chủ, sự tăng trưởng khả năng của chúng có thể tăng tốc nhanh đến mức chúng từ chối mệnh lệnh của con người.

Cùng ngày, nhà khoa học trưởng của OpenAI, Jakub Pachocki, đã đăng một bài viết dài có tựa đề ‘Trí tuệ người ngoài hành tinh’, kêu gọi phối hợp toàn cầu để làm chậm ngành công nghiệp và thúc giục sự tham gia của chính phủ. OpenAI cũng thông báo rằng nhà nghiên cứu tự động hóa AI của họ đã chính thức ‘tham gia’ và công bố dữ liệu cột mốc quan trọng về RSI—đánh dấu một bước tiến quan trọng hướng tới sự lặp lại AI tự chủ. Thời điểm của những sự kiện này đã làm sâu sắc thêm mối lo ngại về khoảng cách giữa những bước nhảy vọt về khả năng và các biện pháp bảo vệ an toàn.

Tác động thị trường: Cổ phiếu, trái phiếu, tiền điện tử và triển vọng IPO

Cổ phiếu: Tin tức này phủ bóng lên các cổ phiếu liên quan đến AI, đặc biệt là những cổ phiếu có định giá cao gắn với việc áp dụng AI nhanh chóng. Các công ty như Nvidia, Microsoft và Alphabet có thể chứng kiến biến động tăng khi các nhà đầu tư cân nhắc rủi ro pháp lý và khả năng chậm lại trong phát triển AI. Tuy nhiên, nếu lo ngại về an toàn dẫn đến quy định chặt chẽ hơn, các công ty khởi nghiệp AI nhỏ hơn có thể phải đối mặt với chi phí tuân thủ cao hơn, có khả năng có lợi cho các công ty lớn hiện có với nguồn tài chính dồi dào.

IPO của Anthropic: Công ty đang tìm kiếm định giá 2 nghìn tỷ đô la, điều này sẽ khiến đây trở thành một trong những đợt IPO lớn nhất trong lịch sử. Câu chuyện cốt lõi của công ty là ‘phát triển AI có trách nhiệm’, nhưng sự ra đi của các nhà nghiên cứu an toàn làm suy yếu luận điểm đó. Các nhà đầu tư có thể yêu cầu mức bù rủi ro hoặc đánh giá lại thời điểm niêm yết, điều này có thể lan tỏa đến thị trường IPO công nghệ rộng lớn hơn.

Trái phiếu: Trái phiếu chính phủ an toàn có thể chứng kiến mua vào khiêm tốn nếu tâm lý rủi ro xấu đi đối với công nghệ, nhưng hiệu ứng có thể bị hạn chế trừ khi hành động pháp lý leo thang.

Tiền điện tử: Bitcoin và các loại tiền điện tử khác có thể phản ứng gián tiếp. Nếu lo ngại về an toàn AI gây ra đợt bán tháo công nghệ rộng hơn, tiền điện tử có thể đi theo, do mối tương quan cao của nó với các tài sản rủi ro. Ngược lại, các dự án AI phi tập trung nhấn mạnh tính minh bạch và an toàn có thể thu hút sự chú ý như các lựa chọn thay thế.

Hàng hóa và tiền tệ: Tác động trực tiếp tối thiểu, mặc dù động thái rủi ro do công nghệ dẫn dắt có thể củng cố đồng đô la Mỹ và làm suy yếu giá hàng hóa.

Tại sao điều này quan trọng với nhà đầu tư

Các vụ từ chức và cảnh báo cho thấy ngành công nghiệp AI đang ở một ngã rẽ quan trọng. Cuộc đua hướng tới AGI đang tăng tốc, nhưng các cơ chế an toàn đang tụt hậu. Đối với các nhà đầu tư, điều này có nghĩa là:

• Rủi ro pháp lý đang gia tăng: Với những lời kêu gọi can thiệp của chính phủ ngày càng lớn, hãy mong đợi những thay đổi chính sách tiềm năng có thể ảnh hưởng đến định giá và hoạt động của các công ty AI.
• Định giá IPO có thể điều chỉnh: Các công ty như Anthropic dựa vào hình ảnh an toàn hàng đầu có thể phải đối mặt với sự giám sát, có khả năng trì hoãn hoặc định giá lại các đợt chào bán của họ.
• Theo dõi các hiệu ứng lan tỏa: AI là động lực chính của thu nhập công nghệ; bất kỳ sự chậm lại nào trong phát triển đều có thể ảnh hưởng đến tăng trưởng năng suất và kỳ vọng doanh thu trên các lĩnh vực.

Vài tháng tới sẽ rất quan trọng. Nếu các nhà lãnh đạo ngành—với sự hỗ trợ của chính phủ—có thể thiết lập các quy trình an toàn đáng tin cậy, câu chuyện tăng trưởng AI có thể tiếp tục. Nếu không, thị trường có thể bắt đầu định giá các rủi ro đuôi của sự gián đoạn liên quan đến AI, từ các mối đe dọa an ninh mạng đến bất ổn kinh tế.