维度网讯，7月18日，深圳云天励飞技术股份有限公司（688343.SH）在2026世界人工智能大会（WAIC 2026）上公布了未来两年多的AI推理芯片路线图。该公司一次性披露了三款专用芯片及其集群级协同方案，明确提出将AI推理从“单芯片竞争”推向“推理工厂竞争”。
随着大模型从训练走向规模化推理部署，传统“训推一体”的通用芯片架构在效率和成本方面面临瓶颈。大模型推理主要分为处理输入上下文的Prefill阶段和对计算与内存带宽要求极高的逐Token生成Decode阶段，两者对硬件资源的需求截然不同。
基于这一洞察，云天励飞的方案将推理链条进行“解耦”。其中，DeepVerse100P面向百万级上下文Prefill场景打造，旨在解决传统混部架构中Prefill与Decode共享资源导致的相互抢占问题。DeepVerse100D面向Decode环节，其数倍于主流芯片的内存带宽支持1024卡Scale-up及光互联系统架构，旨在降低多节点通信阻塞和尾延迟。DeepVerse100L面向Decode阶段计算密集型的FFN（前馈网络）环节，采用3D Memory架构以大幅提升内存带宽，提高计算与通信的并行效率。
与硬件发布同步，云天励飞提出了更具前瞻性的系统构想。公司计划推动这三款芯片在万卡异构集群中分离式部署与协同运行——即按照Prefill、Decode和Decode FFN的不同负载特征，分别配置相应的芯片和资源池，通过高速互联形成协同运行的异构算力系统。云天励飞董事长兼CEO陈宁表示，人工智能走向规模化应用后，衡量算力价值要更多关注系统能够稳定、高效地产出多少Token。这一方案将芯片优化从单颗性能提升延伸至集群级效率优化，以降低单位Token生成成本，向“百亿Token一分钱”的长期愿景靠近。
硬件异构程度和集群规模提升，对软件栈提出了更高要求。云天励飞正持续建设IFWA软件栈，覆盖AI模型开发、编程和系统层级，并加强对PyTorch ATen算子及vLLM、SGLang等主流推理框架的适配与优化。此外，该公司今年5月联合芯片、软件、模型及应用等领域多家单位发起了“1001计划”，旨在将应用需求更早反馈到芯片与系统设计环节，加快技术验证与落地。
