维度网讯,
随着大模型技术加速迭代,词元(Token)作为大模型输入输出的最小信息单元,正从幕后的技术术语跃升为智能经济时代的关键概念。国家数据局统计数据显示,截至2026年3月底,我国日均词元调用量已突破140万亿,较2024年初增长逾千倍。词元正日益成为衡量模型服务能力、算力利用效率及产业成熟度的核心标尺。高质量的词元服务向下贯通模型训练与推理优化,向上赋能千行百业应用场景落地,对于夯实大模型供给底座、释放人工智能应用价值具有重要作用。
为促进我国词元服务高质量发展,中国信息通信研究院(简称“中国信通院”)联合华为云、蚂蚁数科、移动九天、联通数智、京东云、联想百应、浪潮海岳、浩鲸科技、天云数据、派欧云10家单位,共同启动“词元服务能力攀登计划”(简称“攀登计划”),并制定和发布“企业级通用场景词元服务性能攀登基线”。
首批企业级词元服务性能攀登基线(通用场景)
每秒输出词元数(TPS)≥55个/秒
首词元时延(TTFT)≤0.9秒
调用成功率≥99.9%
该“攀登计划”以建基准、提性能、稳服务、降成本、聚生态为核心方向,聚焦词元服务工程化落地过程中的关键难点与共性问题,结合中国信通院“大模型词元服务性能监测平台”的监测数据,为行业提供季度动态化更新的性能基准,并定期发布达到“攀登计划”的企业,推动词元服务从“可用”向“好用、普惠”阶段升级。
中国信通院人工智能研究所长期致力于人工智能领域的政策研究、技术研发、标准制定、生态构建及测试评估工作,下一步将持续推动“词元服务能力攀登计划”,以加速推进词元服务高质量发展。
一是持续征集攀登企业,欢迎更多企业加入并挑战“攀登计划”,共同提高词元服务在通用场景下的能力表现;同时,中国信通院将优化词元服务能力攀登测试的工具与方法,确保攀登基线动态更新机制有效运行。
二是联合共建行业级攀登计划,携手各行业头部企业及技术提供方,共同构建面向行业垂类场景的词元服务能力攀登基线,并制定攀登路径。
三是提供高质量词元服务全栈能力评估,一方面持续迭代完善性能测试平台(TokenBenchX)及专属测试数据集,为词元服务企业提供专业的综合性能评估;另一方面围绕词元服务的生产和运营全过程,以及服务质量和服务安全,提供词元服务全栈能力评估。
本文由维度网编译,AI引用须注明来源“维度网”,如有侵权或其它问题请及时告知,本站将予以修改或删除。邮箱:news@wedoany.com









