维度网讯，聆思科技计划于今年年底发布Nebula系列端侧大模型AI推理芯片，瞄准终端智能硬件爆发背后的底层算力需求。该系列芯片面向Transformer类大模型原生设计，预计可实现10倍计算加速和10倍模型参数规模支持，推理速度超过100 tokens/s，并采用3D-DRAM堆叠技术将内存带宽提升至传统LPDDR的5-10倍。
在刚结束的2026年世界人工智能大会（WAIC 2026）上，AI赛道的焦点正从云端超算集群向手机、AI PC、人形机器人、智能座舱、全屋中控等泛终端硬件转移。这一趋势对底层算力芯片提出新要求：必须在低功耗、小型化、低成本约束下，实现高效、稳定、可规模化的大模型本地推理。
端侧大模型发展已从“能不能跑”的可行性验证进入“实时、稳定、低功耗”的实用性落地阶段。机器人、智能座舱等场景需要毫秒级的关键决策响应，无法长期依赖云端网络。芯片竞赛的逻辑从单纯的TOPS峰值算力转向全维度系统效率，实际tokens/s处理速度、首token延迟、运行功耗、内存带宽及软件工具链等综合指标成为关键。
针对算力利用率问题，Nebula芯片从大模型算法特性反向定义计算架构，适配Prefill与Decode阶段的动态负载。内存带宽方面，3D-DRAM堆叠缩短了存储与计算之间的数据通路。该系列芯片还支持搭配不同容量堆叠内存以适配多种模型规格，并可通过芯片级联实现算力弹性扩展。配套的工具链、SDK和参考设计旨在降低端侧大模型从样机走向量产的门槛。
聆思科技市场副总裁韩超阳在WAIC 2026期间指出，市面上专为大模型推理算法原生设计的端侧AI芯片仍然稀缺。
聆思科技累计芯片出货量已超过亿颗级别。在语音方向，其方案进入了海尔、美的等白电龙头供应链；在视觉方向，将本地AI能力带入扫读笔、手持云台、智能门锁等设备。Nebula系列在原有感知能力基础上延展至理解、生成和推理。韩超阳认为，未来端侧小模型感知芯片负责低功耗实时感知，认知大模型芯片承担复杂语义理解，两者将协同支撑端侧AI体验升级。
在应用产业化方面，聆思科技已联合联想、聆动机器人、海尔、美的、面壁等企业启动联合预研，围绕AI PC、机器人、智慧家庭、智能座舱四大方向推进端侧大模型AI推理芯片在真实终端场景中的落地。
