英伟达发布Vera Rubin全栈架构,专为智能体AI设计
TREE NEWS 报道, 英伟达副总裁Ian Buck详细介绍了公司下一代Vera Rubin平台,称其为面向智能体AI时代从底层重新设计的推理与计算架构。该平台整合了Vera Rubin NVL72机架系统、基于英伟达自研Olympus核心的Vera CPU、基于Groq LPU技术的超低延迟推理加速包、BlueField智能存储方案,以及MaxLPS动态功耗管理软件。
Buck的核心论点是,AI硬件的经济逻辑正在被重写。降低每词元成本最有效的方式,绝非降低GPU售价或使用低成本网络,而是每一代都交付10倍到30倍的算力性能提升,这直接降低了整个数据中心每个词元的处理成本。
从Chat到智能体:算力需求激增100倍
Buck指出,工作负载结构正在发生根本性转变。2023年基于Chat的基准测试假设约1K输入词元、4K KV Cache,以及约三轮人机回环对话。而智能体AI将人类完全移出交互循环。在AgentX基准测试中,平均输入规模达到142,000个词元,KV Cache膨胀至支持百万级上下文,算力需求在纯数值层面直接提升100倍。
由于智能体自我提问、自我转折,无需等待人类阅读和打字,数据中心无法再依赖人类反应速度作为调度缓冲,算力进入无缝且高频的满载状态。
新指标:每兆瓦词元吞吐量
Buck认为,行业核心评价指标正从单芯片FLOPs转向每兆瓦词元吞吐量——衡量数据中心将电能转化为营收的效率。根据SemiAnalysis智能体基准测试,Vera Rubin在这一指标上实现了相比Grace Blackwell高达30倍的AI工厂吞吐量提升,部分场景甚至达到60倍。
MaxLPS软件通过动态管控机架与固件层面的功耗,使运营商在相同电力包络内部署多达40%的额外机架——例如在吉瓦级数据中心内从4000个机架扩展到5600个,将词元吞吐量提升至每秒12亿个。
市场影响
- 半导体:英伟达通过将CPU、GPU、网络、存储和功耗管理整合为单一平台,正在拓宽护城河。仅聚焦芯片级性能的竞争对手可能难以在系统级效率上匹敌。
- 数据中心REITs与公用事业:软件定义电力管理可能推迟新增电力容量需求,短期内或抑制新建数据中心需求,但提升现有站点的利用率。
- 云服务商:率先采用Vera Rubin的超大规模云厂商有望大幅降低每词元成本,对无法获得最新硬件的较小AI云形成压力。
- AI应用层:更廉价的推理支持更激进的智能体部署,可能加速自主AI产品在企业软件中的普及。
- 网络与存储:NVLink Fusion向第三方XPU开放英伟达互连技术,合作伙伴包括亚马逊Annapurna Labs和初创公司The Matrix,标志着竞争从纯芯片转向生态系统锁定。
投资者要点
英伟达不再只是卖芯片——它在销售AI工厂经济学。公司坚持年度路线图节奏,从Vera Rubin到Vera Rubin Ultra,再到Feynman和Feynman Ultra,表明性能提升将持续复合增长,使竞争对手难以在每词元成本上缩小差距。
投资者应关注三件事:Oracle Cloud Infrastructure等主要云厂商对Vera Rubin的采用速度;MaxLPS类功耗管理如何重塑数据中心资本开支;以及Groq LPU集成是否能在超低延迟推理领域建立持久利基。更广泛的启示是:在智能体时代,算力效率——而非芯片价格——才是决定性的竞争变量。




