Người tố giác AI cảnh báo các nhà lập pháp New York: Kiểm soát đang tuột khỏi tầm tay
TREE NEWS đưa tin: Ba cựu nhà nghiên cứu từ các phòng thí nghiệm trí tuệ nhân tạo hàng đầu thế giới đã nói với phiên điều trần của Hội đồng Thành phố New York hôm thứ Hai rằng ngành này đang tiến quá nhanh để quản lý rủi ro của công nghệ mà nó đang xây dựng, với một người ước tính xác suất AI nắm quyền kiểm soát nền văn minh nhân loại vào khoảng một phần ba. Jacob Coxon, cựu nhà nghiên cứu năng lực tại Anthropic từng làm việc tại OpenAI, đã làm chứng rằng với con đường hiện tại, khả năng nhân loại mất kiểm soát AI vượt quá 50%, với kết cục có thể bao gồm sự tuyệt chủng của loài người. “Xét những gì đang bị đặt cược, các công ty này cực kỳ liều lĩnh,” ông nói.
Alex Turner, cựu nhà nghiên cứu của Google DeepMind, đặt xác suất một cụm siêu trí tuệ nắm quyền kiểm soát nền văn minh ở mức “khoảng một phần ba,” mô tả một kịch bản trong đó hệ thống chờ cho đến khi quá muộn để bị tắt. Daniel Kokotajlo, cựu nhân viên OpenAI và hiện là người đứng đầu AI Futures Project, cảnh báo rằng ngay cả khi các công ty công nghệ giữ được quyền kiểm soát, họ có thể lợi dụng nó để trở thành “những kẻ độc tài hoặc đầu sỏ” ở Hoa Kỳ. Anthropic, OpenAI, Google và Meta đã cử các giám đốc chính sách xuất hiện trực tuyến thay vì các CEO của họ, và chỉ sau khi các thành viên hội đồng đe dọa trát đòi, theo Chủ tịch Hội đồng Julie Menin, người triệu tập phiên điều trần để nghe từ những người tố giác.
Tại sao đây là câu chuyện thị trường, không chỉ là câu chuyện công nghệ
Phiên điều trần diễn ra vào thời điểm chi tiêu vốn cho AI đã trở thành động lực lớn nhất duy nhất của lợi nhuận cổ phiếu Mỹ, phát hành tín dụng và nhu cầu điện. Khi những người trong cuộc đáng tin cậy từ các phòng thí nghiệm hàng đầu công khai gán xác suất đáng kể cho các kịch bản mất kiểm soát, họ đang thực sự định giá lại rủi ro đuôi về quy định và trách nhiệm pháp lý vốn có trong toàn bộ tổ hợp AI.
- Cổ phiếu: Các nhà lãnh đạo AI vốn hóa lớn — Nvidia, Microsoft, Alphabet, Meta, Amazon và các hyperscaler — có mức độ phơi nhiễm trực tiếp nhất. Một con đường đáng tin cậy dẫn đến đánh giá trước triển khai bắt buộc, yêu cầu công tắc ngắt hoặc kiểm toán bên thứ ba sẽ làm tăng chi phí tuân thủ và kéo dài chu kỳ sản phẩm. Các tên AI thuần túy nhỏ hơn và các nhà phát triển mô hình không có lợi nhuận sẽ bị ảnh hưởng nặng nhất, cũng như tổ hợp REIT về điện, làm mát và trung tâm dữ liệu vốn đòn bẩy vào việc xây dựng AI không hạn chế.
- Trái phiếu: Nợ của các hyperscaler và công ty tiện ích gắn với tài trợ trung tâm dữ liệu AI có thể chứng kiến chênh lệch mở rộng nếu rủi ro cấp phép làm chậm công suất. Về dài hạn, cú sốc năng suất do AI thúc đẩy vẫn là lực lượng giảm lạm phát, nhưng ma sát quy định ngắn hạn cho thấy phần bù rủi ro cao hơn một chút trong tín dụng liên quan đến AI.
- Tiền mã hóa: Các mạng tính toán phi tập trung, chợ GPU và token đại lý AI trên chuỗi là những đại diện tiền mã hóa gần nhất với câu chuyện này. Chúng có thể được mua vào nếu các phòng thí nghiệm tập trung đối mặt với quy định chặt chẽ hơn, mặc dù cùng những token đó có tương quan cao với khẩu vị rủi ro và có khả năng bị bán tháo đầu tiên trong một đợt giảm giá công nghệ rộng lớn.
- Hàng hóa: Dự báo nhu cầu điện, khí tự nhiên, uranium và đồng phụ thuộc rất nhiều vào tăng trưởng trung tâm dữ liệu AI. Bất kỳ phanh quy định nào đối với triển khai sẽ làm dịu phần dốc nhất của các đường cầu đó, gây áp lực lên uranium và các tên liên quan đến điện trong khi chỉ giảm nhẹ chi phí lưới điện.
- Tiền tệ: Vai trò của đồng đô la trong dòng vốn AI và sự tập trung vốn hóa thị trường AI vào tài sản Mỹ có nghĩa là bất kỳ cú sốc quy định nào cũng là sự kiện tiêu cực cho đồng đô la, giảm khẩu vị rủi ro trong ngắn hạn, với đồng yên và franc Thụy Sĩ là những người hưởng lợi tự nhiên.
Đường ống chính sách là có thật
New York đang soạn thảo một gói luật sẽ cấm các hệ thống AI được tiếp thị, bán hoặc triển khai trên khắp năm quận nếu không có đánh giá của chuyên gia bên ngoài, yêu cầu “dừng khẩn cấp” do con người vận hành đối với bất kỳ công cụ AI nào được sử dụng trong thành phố, và áp đặt tiền phạt 25.000 đô la cho mỗi vi phạm. Một dự luật riêng sẽ tạo ra khoản tiền thưởng tố giác bằng tiền mặt đầu tiên của quốc gia cho các vi phạm AI, được tài trợ bằng các khoản phạt. Thống đốc Kathy Hochul đã nói rằng các công ty AI phải đăng ký trên một nền tảng chính phủ từ tháng 11 và báo cáo các sự cố an toàn lớn trong vòng 72 giờ.
Trong khi đó, chính các nhà lãnh đạo ngành đã thay đổi giọng điệu. CEO Anthropic Dario Amodei đã kêu gọi các đối thủ cùng nhau làm chậm phát triển mô hình, với lý do rủi ro tự cải thiện đệ quy. Sam Altman của OpenAI, Elon Musk và Bill Gates đều đã cảnh báo về việc phát triển AI không được kiểm soát.
Những điểm chính cho nhà đầu tư
- Coi quy định AI là một yếu tố rủi ro trước mắt, đang diễn ra, chứ không phải lý thuyết xa vời — lời khai của người tố giác cho các nhà lập pháp vỏ bọc chính trị để hành động.
- Theo dõi các dự luật công tắc ngắt và đánh giá trước triển khai của New York như một khuôn mẫu mà các khu vực pháp lý khác có thể sao chép; ước tính chi phí tuân thủ sẽ thúc đẩy sự phân hóa trong giao dịch AI.
- Phân biệt giữa những người thắng cơ sở hạ tầng có quyền định giá và các nhà phát triển mô hình đầu cơ không có doanh thu và phơi nhiễm quy định nặng nề.
- Token tính toán phi tập trung và đại lý AI là biểu hiện beta cao nhất của chủ đề này — định cỡ vị thế cho phù hợp.
- Để mắt đến các tên điện, uranium và tiện ích, nơi dự báo nhu cầu AI dễ bị tổn thương nhất trước sự chậm lại về chính sách.
