维度网讯,7月13日,中国AI Token生产服务商趋境科技公布新一轮基础设施建设安排,将增加AI Token产能储备,升级自研ATaaS高效能AI Token生产服务平台,并建设面向头部大模型、互联网平台和区域产业生态的AI Token工厂。项目还将扩大国产异构算力的接入规模,使不同架构的计算芯片进入大模型推理、智能体运行和企业级生成服务等核心生产场景。
AI Token工厂并不是只增加服务器数量,而是把芯片、内存、存储、网络、推理引擎和调度系统组成连续生产链路。当用户提交一项模型任务后,系统需要完成请求分类、模型加载、计算资源分配、提示词预处理、首个Token生成、后续Token连续解码及结果返回。任何一个环节出现资源等待、缓存失效或通信阻塞,都会直接影响首Token时延、每秒Token输出量和并发承载能力。中国趋境科技此次扩建的重点,是让新增算力能够稳定转化为可持续交付的Token产能,而不是形成只有硬件规模、缺少推理效率的计算资源池。
ATaaS平台将继续承担不同计算设备之间的资源调度。平台可把大模型推理任务拆分至图形处理器、中央处理器、内存和固态硬盘等硬件,避免所有计算都集中在单一类型的加速卡上;面对国产与非国产芯片并存的集群,还需识别不同设备的算力、显存、带宽和软件适配能力,再决定模型层、算子或请求应当运行在哪类设备上。
此次国产异构算力投产还涉及底层推理软件的统一管理。不同芯片通常使用不同的计算架构、算子库、驱动程序和通信组件,同一模型不能简单复制到所有设备上运行。ATaaS需要在模型进入生产环境前完成量化格式、算子兼容性、显存分配方式和节点通信策略的适配,并根据实际任务在不同硬件间分流。短文本问答、长上下文处理、代码生成、结构化数据输出和智能体工具调用对计算与存储资源的需求并不相同,系统必须根据业务负载动态选择设备,而不能长期使用一套固定配置。
大模型推理通常分为预填充和解码两个阶段。预填充阶段需要集中处理用户输入的上下文,计算密度较高;解码阶段则逐个生成Token,对内存访问速度、缓存容量和持续调度能力要求更高。中国趋境科技采用存算协同方式管理KV Cache,将已经计算过的上下文中间状态保存在内存或存储系统中。当多个请求包含相同或相近的系统提示词、知识库内容及历史对话时,系统可直接读取缓存,减少重复执行模型计算。平台此前披露的技术体系还包括跨集群缓存共享、推理链路隔离、弹性扩缩容和质量监控,用于处理高并发任务中的缓存复用、资源抢占和服务波动。
新增AI Token工厂将分别面向不同类型的生产负载。头部模型需要长期运行大规模推理集群,对并发量、首Token返回速度和输出稳定性要求较高;互联网平台的请求具有明显峰谷变化,系统需要快速增加或释放计算节点;区域产业生态则可能同时接入政务、制造、金融、医疗和企业办公任务,不同业务需要独立的模型、数据权限及服务质量参数。ATaaS将这些需求转换为底层算力配置,并通过任务排队、模型实例调度和节点扩缩容控制资源使用。
中国趋境科技此前公布的ATaaS平台已形成日均近万亿Token处理能力,可承载万级人工智能推理需求。平台采用“少模型、深优化”的运行方式,将资源集中用于少数生产模型,并围绕首Token时延、每秒Token输出量、结构化输出和函数调用稳定性进行专项调优。目前,其推理服务已用于中国智谱GLM和中国月之暗面Kimi等模型相关业务。
此次建设所需资金来自中国趋境科技新完成的A轮融资。半年内,公司累计融资金额已超过10亿元。本轮由中国河南投资集团汇融基金领投,中国真知资本、中国尚势资本、中国星连资本、中国上海国方创新、中国弘晖基金、中国华控基金和中国杭州福成等原有股东继续参与。融资金额、各机构出资比例及企业最新估值未公布,资金用途已明确集中于算力储备、ATaaS平台升级和AI Token工厂建设。
扩建过程中,算力数量并不是唯一产能指标。AI Token生产还需要持续监测首Token时延、解码速度、并发请求量、硬件利用率、缓存命中率、任务失败率和结构化输出成功率,并根据模型版本与业务负载调整调度策略。算力集群如果只增加加速卡,却没有同步扩建高速互连、内存、存储和推理软件,新增硬件可能因通信等待或数据搬运形成闲置。中国趋境科技此次建设将国产异构算力与ATaaS平台放在同一生产体系内,目标是让多种芯片共同承担推理任务,并把分散的计算资源转换为可计量、可调度的Token产能。
目前,中国趋境科技尚未披露新增算力规模、芯片型号、AI Token工厂数量、项目选址和首批投产时间。已确定的建设内容包括扩充产能储备、升级底层推理系统、增加国产异构算力生产负载,并为头部模型、互联网平台和区域项目建设专用Token生产能力。






