美国OpenAI将Codex上下文窗口缩减至27.2万令牌 开发者不满
2026-07-21 10:20
收藏

维度网讯,OpenAI近期对其Codex编码代理进行了更新,将默认配置下的输入上下文窗口从372,000个令牌减少至272,000个令牌。这一变化意味着编码代理在会话中保留的代码、对话历史和其他信息更少,并会更快压缩旧上下文以腾出空间。部分开发者在社交平台上对缩减的令牌窗口表示不满,认为这可能使Codex在长时间编码会话中效率降低,需要更频繁的上下文管理或会话重置。

ChatGPT图标在智能手机屏幕上的移动应用。ChatGPT是OpenAI开发的人工智能聊天机器人。2024年12月20日。土耳其伊斯坦布尔

分析人士指出,上下文窗口缩减可能影响开发者生产力及企业工作流程中自主代理的采用。Pareekh Consulting首席分析师Pareekh Jain表示,这一变化对日常编码任务影响有限,但可能影响大型代码库、全仓库重构以及长时间运行的会话。他补充说,AI代理会更快忘记长时间编码会话的早期部分,开发者需要更频繁地总结或重载上下文,增加重复搜索和丢失早期决策的风险。

FinOps服务提供商ZopDev的云助理Muskan Bandta认为,手动上下文管理需求违背了Codex这类工具的初衷,这些工具承诺开箱即用提高生产力。她表示,许多开发者反映会话现在花在压缩上的时间比实际工作还多,并指出上下文缩减不会直接增加账单,但会转化为更多重试和压缩,以及工程师更多时间投入。

IT咨询公司Kanerika的AI开发经理Amit Jena表示,上下文缩减将迫使开发团队在两种选择中做出决定:要么接受代理在上下文信息不完整的情况下推理,要么学习管理新的设计约束。他认为开发团队需要设计主动管理上下文的工作流程,包括将工作分解为更小任务、依赖检索机制并监控上下文消耗。Bandta指出,这种被迫的设计约束将减缓企业采用代理驱动工作流程的进程,因为上下文是代理的工作记忆,削减三分之一会改变对其可信任的范围。

更广泛而言,分析人士认为,这一事件提醒企业应避免将软件开发工作流程与托管AI编码平台的当前操作特性紧密耦合,因为上下文限制、定价、运行时行为及模型可用性都可能在没有或很少提前通知的情况下发生变化。Jain建议企业避免依赖任何单一上下文窗口,持续在实际工作负载上对AI编码工具进行基准测试,并围绕检索、模块化设计和代理编排构建工作流程。Jena赞同此观点,表示正确方法是构建AI辅助开发管道,使其在操作参数变化时能够优雅降级,并建议企业将托管AI编码平台视为关键软件依赖项,保持足够灵活性。

本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告知,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com