美国OpenAI博通共研芯片Jalapeño 2026年底部署

OpenAI 与博通（Broadcom）合作开发的推理芯片 Jalapeño 计划于 2026 年底开始小批量部署。Ho 估计，部署初期“以非常小的量”落地，更大规模部署将在 2027 年。其性能对比基准为英伟达（Nvidia）Blackwell 系统，但等到 Jalapeño 全面铺开时，竞争对手产品可能已显著进步。

Jalapeño 于去年十月首次对外公布，由 OpenAI 与博通密切合作开发，OpenAI 自身的模型也参与了开发过程。该公司计划将 Jalapeño 打造为一个多代平台，使 AI 产品、模型、芯片和内存能够协同开发。

这种全栈式方法让 OpenAI 得以针对推理过程中造成摩擦的具体阶段进行优化。Jalapeño 的设计重点是最大限度地减少预填充（prefill）和通信阶段的延迟，OpenAI 指出这两个阶段往往是推理瓶颈所在。

“我们设计 Jalapeño 是为了最大限度地减少数据移动和通信延迟，”该公司在展示结果的博客文章中表示，“这意味着模型状态（包括生成响应时使用的 KV 缓存）可以被显式地放置并保持本地化，同时系统为每个推理阶段激活计算、内存和网络的正确组合。”