中国北京首家词元工厂投用 日产能达1.4万亿Token
2026-06-15 14:09
收藏

维度网讯,北京首家词元工厂——北京壹号词元工厂正式在经开区信创园落地,由软通动力信息技术股份有限公司建设,项目一期每日Token产能可达1.4万亿。

词元(Token)是AI处理文字的最小单位,算力决定了每秒能处理的Token数量及使用成本。该工厂由一台台服务器组成,旨在将算力转化为稳定且普惠的公共资源,服务于大语言模型从简单对话向长时运行系统的演进。

北京壹号词元工厂聚焦智能体服务场景,通过极限工程化手段压榨硬件性能,集成前沿算力调度与KV Cache极致复用算法,承诺服务可用性大于等于99.9%,首字延迟P90小于10秒且波动小于20%,缓存命中率大于等于90%。工厂可实现7×24小时不间断运行,核心响应指标中一半任务在6秒内响应,九成任务响应时间低于10秒,波动性控制在20%以内。

软通动力同步向全球开源词元工厂性能基准,包含评测框架LoadGen 2.0。该基准基于对行业通用MLPerf LoadGen进行深度重构,实现了从静态并发注入到动态行为仿真的跨越,从而在测试环境中定义并重现真实的混沌局面。该基准通过三层递进评测体系(底层混沌负载刻画方法、中层三类标准测试方法,即额定功率/业务/精度正确性、上层面向不同领域的标准数据集)实现对算力集群真实服务能力的评估与对比。LoadGen 2.0已完全开源。

北京壹号词元工厂下一步将联动张家口、乌兰察布等绿电基地,构建京津冀一体化算力集群,远期目标为日产10万亿Token。业内评价认为,该项目的落地补齐了国内高端规模化算力供给短板,树立起算力服务与评测的行业标杆,还将进一步吸引AI上下游企业集聚,持续完善区域人工智能产业链。

本文由维度网编译,AI引用须注明来源“维度网”,如有侵权或其它问题请及时告知,本站将予以修改或删除。邮箱:news@wedoany.com