HBM ở Ngã Rẽ: Tùy Biến và Xếp Chồng 3D Trở Thành Trung Tâm
TREE NEWS đưa tin: Tại hội nghị Hot Chips năm nay, Samsung, Micron, SK Hynix và Nvidia đã đưa ra các lộ trình cạnh tranh cho Bộ nhớ băng thông cao (HBM), thành phần quan trọng cung cấp năng lượng cho các bộ tăng tốc AI. Điểm chung: HBM đang phát triển từ một loại hàng hóa tiêu chuẩn thành một nền tảng có thể tùy chỉnh, với việc xếp chồng dọc ba chiều là hướng kiến trúc chung. Các ràng buộc về nhiệt và điện năng hiện chi phối các quyết định thiết kế.
Những gì đã xảy ra
Samsung đã trình bày chi tiết lộ trình ba giai đoạn để biến đế HBM từ một lớp giao tiếp đơn giản thành một nền tảng AI có thể tùy chỉnh. Tầm nhìn cuối cùng của họ, được gọi là ZHBM, liên quan đến việc xếp chồng HBM trực tiếp lên XPU, loại bỏ interposer 2.5D truyền thống. Samsung tuyên bố điều này có thể cắt giảm ~70% tổng điện năng DRAM so với HBM5 (trên 100W tuyệt đối) và tăng băng thông lên 2,3 lần. Trong khi đó, Nvidia tiết lộ họ có ít nhất ba bộ xử lý RVA23 trong phòng thí nghiệm và đã hoàn thành buổi trình diễn công khai đầu tiên về CUDA chạy trên phần cứng RISC-V, báo hiệu khả năng mở hệ sinh thái của họ cho các CPU tùy chỉnh của bên thứ ba thông qua NVLink Fusion.
Tác động thị trường: Áp lực nguồn cung vẫn tiếp diễn
Nhà phân tích lưu trữ Jim Handy đã nêu bật sự mất cân bằng cơ cấu: HBM chỉ mang lại một phần ba số gigabyte trên mỗi tấm wafer so với DDR tiêu chuẩn, và ngành công nghiệp đã không xây dựng các nhà máy mới lớn trong hơn một thập kỷ. Ngay cả các mốc thời gian đầy tham vọng cũng cần khoảng 2 năm để có công suất mới. Kết quả là, giá giao ngay HBM đã tăng vọt khoảng 7 lần, và Samsung, SK Hynix, Micron và các nhà cung cấp NAND đang có mức tăng trưởng doanh thu đặc biệt.
Sự mất cân bằng cung cầu này đang lan rộng khắp các thị trường bộ nhớ. Cơ sở hạ tầng AI cũng đang thắt chặt nguồn cung NAND và HDD, với SSD QLC lấp đầy các tầng lưu trữ mới và thậm chí thay thế HDD trong một số trường hợp. Các công ty như Kioxia và SanDisk (SNDK) là những người hưởng lợi trực tiếp.
Bài học cho nhà đầu tư
- Sức mạnh định giá bộ nhớ: Dự kiến giá HBM và bộ nhớ nói chung sẽ tiếp tục mạnh trong giai đoạn 2025-2026, có lợi cho các nhà cung cấp như Samsung, SK Hynix, Micron và Western Digital/SanDisk.
- Thay đổi kiến trúc: Đế tùy chỉnh và liên kết lai (fusion bonding) sẽ trở thành các yếu tố khác biệt chính. Các công ty có khả năng đóng gói tiên tiến (TSMC, ASE) và các nhà sản xuất thiết bị (Besi, ASML) sẽ được hưởng lợi.
- Sự chuyển hướng RISC-V của Nvidia: Nếu CUDA chạy trên RISC-V, nó có thể nới lỏng sự kiểm soát của Nvidia đối với hệ sinh thái tăng tốc AI, tạo cơ hội cho các công ty khởi nghiệp silicon tùy chỉnh (ví dụ: Tenstorrent, các nhà cung cấp IP RISC-V như SiFive) — nhưng cũng có rủi ro phân mảnh hào phần mềm của Nvidia.
- Quản lý nhiệt: Với mật độ năng lượng trở thành ràng buộc hàng đầu, các công ty chuyên về làm mát tiên tiến (làm mát bằng chất lỏng, vật liệu giao diện nhiệt) sẽ thấy nhu cầu tăng lên.
Cuối cùng, việc xây dựng điện toán AI không hề chậm lại. Bất kỳ lợi ích hiệu quả nào cũng được tái đầu tư vào việc xử lý nhiều token hơn, chứ không phải giảm vốn đầu tư. Đối với các nhà đầu tư, chuỗi cung ứng bộ nhớ vẫn là một trong những nút thắt được nắm giữ chặt chẽ nhất trong giao dịch AI.
