维度网讯,美国GitHub在平台中引入按用户、任务和组织单位查看AI用量与成本的功能,以应对企业因AI智能体普及带来的token消耗激增及用量管理需求。
随着人工智能(AI)智能体的普及,企业token消耗增加,对能够同时管理用量、成本和投资回报率(ROI)的功能需求持续增长。GitHub已推出相关功能,允许管理员按不同维度监控AI使用情况。此举的背景在于编码智能体正转向基于用量的计费模式,企业需要设置API token使用上限并实时掌握成本。GitHub于19日在Copilot用量指标API(Copilot Usage Metrics API)中新增了“ai_credits_used”字段,用于显示每位用户的AI积分用量。

该字段显示用户一天内消耗的AI积分总量,涵盖用户在Copilot聊天和代码生成等所有Copilot活动中的积分消耗。此功能适用于企业及组织单位用户报告。管理员可通过1天(users-1-day)和28天(users-28-day)报告查看每位用户的AI积分消耗情况,并针对基于用量的计费体系进行成本管理。通过分析每日AI积分消耗模式,可预测未来成本规模并制定预算计划。GitHub首席产品官(CPO)Mario Rodriguez在近日的网络研讨会上表示,其目标并非让开发者无条件消耗大量API token,而是将开发者意图转化为值得信赖的软件。
Rodriguez CPO提出了本地模型策略与自动模型路由作为成本优化方案。他解释称,不应在所有任务中都使用前沿AI模型,而应根据任务难度和目的选择合适的模型。GitHub正在推进一种方式,即不将所有任务都应用高性能模型,而是适当部署本地模型、低成本模型和前沿模型。Rodriguez CPO还表示支持开发者使用自己的密钥来使用模型的BYOK(Bring Your Own Key)方式。GitHub正通过Ollama等本地模型提供商,支持Copilot与外部模型的联合使用。

Rodriguez CPO推行这一策略的原因在于平台信任、治理和ROI。企业只有能够预测和控制AI用量与成本,才能将AI编码工具应用于大规模开发环境。此前,OpenAI也面向ChatGPT Enterprise用户发布了积分用量分析功能和更新的支出控制功能,将ChatGPT和Codex用量信息整合提供到全局管理员控制台中。管理员可以按用户、产品、模型细分查看积分消耗情况。OpenAI今年初已引入按自定义角色设置积分用量上限的功能,此次进一步扩大了组织单位的支出控制功能。Rodriguez CPO强调,GitHub Copilot应用不仅仅是代码编写工具,而是一个AI原生工程系统;未来开发者的角色将不再是亲自编写每一行代码,而是设定目标、验证AI智能体生成的结果、管理质量与架构。
本文由维度网编译,AI引用须注明来源“维度网”,如有侵权或其它问题请及时告知,本站将予以修改或删除。邮箱:news@wedoany.com









