TREE NEWS 消息, 英伟达宣布,搭载RTX Spark平台的紧凑型桌面电脑正式上市,华硕、戴尔和微星已推出相关产品,宏碁、技嘉和惠普等厂商产品将陆续推出。该系列设备搭载20核英伟达Grace CPU、基于Blackwell架构的RTX GPU,配备最高128GB统一内存,AI算力最高可达1 Petaflop,支持本地运行1200亿参数大语言模型。英伟达表示,本地运行模型可减少相关任务对云端API的依赖及Token费用。
英伟达RTX Spark迷你AI工作站上市,本地可跑1200亿参数大模型
AI 解读
这条消息的关键不在硬件参数,而在于把千亿参数级模型的推理能力从云端搬到桌面,直接冲击按Token计费的云API商业模式。受影响最大的是对数据本地化敏感、又长期承担云端推理成本的开发者与企业,以及提供云端推理服务的厂商。值得观察的是,统一内存容量能否支撑实际工作负载下的模型性能,以及多品牌同时铺货后本地推理是否会从极客尝鲜转向常态化部署。
由 AI 生成,仅供参考。