英伟达Groq 3 LPX推理加速器进入全面量产
8月24日,英伟达在Hot Chips 2026会议上宣布,其专为AI智能体推理设计的Groq 3 LPX加速器已进入全面量产阶段,标志着该公司2025年12月斥资200亿美元获取Groq芯片技术授权后,首款产品正式实现商业化落地。

Groq 3 LPX是英伟达Vera Rubin数据平台的专业推理加速器,专注于AI推理的"解码"阶段——即决定token生成速率的关键环节。单台LPX机架集成256颗Groq 3 LPU加速器,配备128 GB片上SRAM和640 TB/s片间扩展带宽,采用英伟达MGX机架架构并实现全液冷。芯片由三星电子代工,与英伟达GPU(台积电代工)形成供应链上的差异化布局。
在第三方机构Artificial Analysis的基准测试中,Groq 3 LPX运行开源模型Gemma 4 31B、100K token长上下文时,实现了每秒3,400个输出token的生成速度,英伟达称其为该模型有记录以来的最快推理性能,在延迟敏感型任务上较竞品平台快4倍。
AI云服务商Nebius已签约成为Groq 3 LPX的首家部署客户,将通过Nebius Token Factory推理平台向开发者提供该加速器的极速token生成能力。英伟达高级总监Dion Harris表示,Groq机架将与Vera中央处理器和Rubin图形处理器一同部署于Nebius,预计2026年下半年正式上线。Nebius首席技术官Danila Shtan称:"生成是决定AI系统响应速度的推理阶段,这正是Groq 3 LPX所加速的。"
英伟达创始人兼首席执行官黄仁勋表示,Vera Rubin平台通过Groq 3 LPX实现了面向AI智能体时代的算力工厂优化配置,"这改变了智能的生产方式,在AI吞吐量、效率和响应速度上实现了又一次巨大飞跃"。
Harris强调,Groq 3 LPX并非要取代GPU,而是针对特定工作负载使用最优处理器——GPU仍承担模型训练和通用推理,Groq芯片则聚焦延迟敏感的"解码"阶段。英伟达同时宣布,SpaceX已签约成为Vera Rubin平台的最新旗舰客户,将部署Vera CPU用于跨地面数据中心和轨道卫星的CPU密集型编排与仿真任务。Vera Rubin系统的出货量正在加速,该系统已于2026年初启动生产。





















