维度网讯，美国Neocloud企业Parasail将NVIDIA Hopper、Blackwell GPU与d-Matrix Corsair推理加速器组合部署，用于构建异构AI推理基础设施。该方案面向大模型推理服务，可将Token生成速率提升至最高10倍，并改善推理服务成本效率。
这套基础设施的关键在于把推理任务拆成两个不同阶段处理。大模型推理前端的预填充阶段需要处理输入上下文、提示词、历史对话和长文本内容，计算密集度高，更适合由NVIDIA Hopper和Blackwell GPU承担;推理后端的解码阶段需要逐个生成Token，对延迟、内存访问和持续吞吐更敏感，更适合由d-Matrix Corsair这类专用推理ASIC处理。Parasail通过自动内核优化技术，在不同硬件之间动态分配工作负载，让GPU和专用ASIC分别运行更适合自身架构的任务，而不是把完整推理链条全部压在同一种芯片上。
d-Matrix Corsair采用数字存内计算架构，把计算单元与存储资源更紧密地放在同一芯片结构中。传统推理系统中，数据需要在处理器和外部存储之间频繁搬移，带来时间、功耗和成本开销;Corsair通过D-IMC架构减少这种数据搬运。该芯片基于台积电N6制程，采用有机基板和LPDDR5内存设计，用于面向数据中心的可扩展推理部署。
Parasail的部署属于生产级异构解耦推理案例。该公司平台聚合来自15个国家超过40个数据中心的高性能GPU资源，为开发者提供模型端点和推理服务;在原有NVIDIA基础设施上加入Corsair后，推理链路可以在GPU预填充和ASIC解码之间形成分工，提升现有Hopper、Blackwell集群的利用效率。
异构推理并不是简单增加一种芯片，而是改变推理服务的执行路径。预填充阶段关注大规模矩阵计算和上下文处理，GPU的并行计算能力适合处理这类高吞吐任务;解码阶段则不断读取模型状态、缓存和新生成Token，对内存访问、响应延迟和能效更敏感。Corsair把计算与存储贴近后，可以减少解码过程中的数据移动压力，使Token生成环节更适合低延迟输出。
d-Matrix的产品体系还包括Corsair推理加速器、JetStream网络加速器、Aviator软件和SquadRack机架级方案，目标是为数据中心规模AI推理提供低延迟和高能效基础设施。Parasail此次把Corsair接入NVIDIA GPU资源池后，形成的不是GPU替代方案，而是GPU与专用推理加速器共同承担不同推理阶段的混合部署模式。
后续性能细节将通过首批部署后的测试结果和案例进一步公开。当前架构已经明确：Hopper、Blackwell GPU承担计算密集型预填充，Corsair ASIC承担延迟敏感型解码，Parasail通过动态路由和内核优化把不同模型工作负载分配到合适硬件上，最终输出面向开发者和企业客户的云端Token服务。
