中国是石科技发布国产Token优化工厂,日吞吐千亿Token
2026-07-18 15:02
收藏

维度网讯,中国是石科技在2026年上海WAIC展会上发布国产Token优化工厂“拓元(Vectron)”,旨在提升AI基础设施的算力利用效率。该公司创始人兼董事长闫博文在发布会上指出,中国已建设50多个智算中心,智能算力总规模超过1000 EFLOPS,但平均利用效率仍有巨大提升空间,大量算力被浪费,长上下文和多模态响应性能不足是普遍现象。

△WAIC 2026是石科技创始人兼董事长闫博文新品发布现场

闫博文表示,“十五五”期间中国算力产业总投资预计达到7万亿元。如果将算力利用效率提升10到20个百分点,就能释放万亿级的算力价值空间。他认为,AI基础设施的竞争正从“算力规模竞赛”转向“算力效率竞赛”。

“拓元”产品构建了一套完整的AI基础设施优化体系,重点解决异构算力统一调度、大模型推理深度优化、长上下文显存压力和国产芯片生态适配等问题。该平台全面兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产算力芯片,并适配20余个主流模型,实现国产异构算力池的统一调度与推理加速,每日Token吞吐量达千亿级别。

在核心技术方面,“拓元”采用了结果感知驱动KV Cache压缩技术,可在不牺牲模型效果的前提下降低显存压力。在全模态推理场景中,它采用基于模态自适应的免训练Token压缩方法,针对文本、视频、语音等不同输入进行信息筛选。针对长上下文优化,“拓元”通过混合位置索引合成的长上下文偏好训练方法和记忆引导的重读机制,在远小于同类方法的训练数据量下实现效果提升。此外,产品还包含基于元奖励的可扩展奖励建模方法,支持推理系统的自我优化,以及以目标为导向的信息记忆策略,以保障智能体长程任务的稳定执行。

是石科技成立于2021年,创始团队源自清华大学计算机系。核心成员由高性能计算、人工智能领域专家及清华大学、北京大学、北京航空航天大学等高校学者组成。公司已服务超过200家客户,覆盖互联网、大模型公司、航空航天、生物制药和新能源等行业。

本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告知,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com