GPT-6.1 Sol的默认上下文直接提升至500k!
OpenAI Day 7的更新中,Codex和ChatGPT Work的默认窗口从272k扩展至500k,增幅约为80%。
紧接着,Tibo进一步补充:使用订阅额度运行GPT-6.1 Sol,不收取长上下文附加费。
任务照常消耗订阅额度,但不再因上下文增加而额外收费。
通过API调用时,仍按API价格表计费。
然而,开发者Mhmd Hammoud在评论区质疑:“现在调整一下配置,也算一次真正的升级吗?”
GPT-6.1 Sol飙升至500k,愿望成真
在默认500k推出之前,开发者Lasse早已对等待压缩感到不耐烦。
他曾抱怨,Codex压缩一次上下文,最长能让他等待两分钟。
这次更新前两天,他自行将窗口调至500k,并发布状态截图,呼吁OpenAI尽快解决压缩过慢的问题。
让Codex查阅文件、修改代码、运行测试时,读取的代码和错误信息都会占用上下文。
当接近满载时,它需要先压缩之前的对话和工作进度,整理出空间才能继续操作。
等待压缩完成后,还需检查它是否遗漏了最初的要求。
例如,开始工作时明确表示“这个接口需要兼容旧版本”。如果修改了十几个文件,新功能运行正常,但旧接口出现问题,最终仍需自己回头修复。
Tibo表示,这次扩展能减少压缩次数,也让模型在长任务中保留更多细节。
减少压缩等待,避免重复强调同一要求,这500k才算发挥了作用。
免除附加费,额度依然扣除
最大的担忧是压缩少了,但额度消耗更快。OpenAI此前确实遇到过这种情况。
今年7月,OpenAI将产品中的上下文从272k提升至372k,供GPT-5.6 Sol使用。
结果订阅用量扣除超出预期,团队又退回272k。刚增加的容量随即被撤回。
开发者Theo当时猜测,上下文超过272k后按双倍计费。
Tibo澄清说,当时的订阅并未加收长上下文费用。多扣除的用量,源于反复读取更多缓存内容。
你只输入了一句“继续”,Agent要继续修改代码,仍需携带之前读取的文件、测试结果和要求。
后续调用工具、继续推理时,这些内容可能被反复读取。
缓存可以复用已处理的内容,读取成本更低,但每次读取仍会计入用量。读取的内容和次数增加,消耗也随之累积。
免除附加费,并不意味着同一任务一定会更省额度。
开发者希望减少压缩等待,但也不希望项目未完成时额度已用尽。
Claude早已默认百万上下文
不过,500k是否足够,还需与Claude对比。
Claude Code中的Opus 5.5和Sonnet 5.5,默认上下文已是1M,相当于Codex新默认值的两倍。
实际上,GPT-6.1 Sol的上限也能达到1M,用户可以手动调整。
但OpenAI此次默认设定为500k,是因为测试认为这一设置更适合大多数用户。
费用方面,这两款Claude模型调用API时,1M以内均按标准Token单价计费,上下文增加也不提高单价。
OpenAI这次免除的是订阅额度中的长上下文附加费,API价格另计。两者收费范围不同。
窗口开到1M,同样会面临满载情况。Claude Code使用这两款模型时,默认自动压缩点约为967k。
接近上限时,它会先移除上下文中较早的工具输出,例如读取文件、运行命令的记录。
如果空间仍不足,再将对话整理成摘要,保留当前需求和关键代码,让任务继续。
查阅文件等子任务,可交给子Agent处理。它拥有自己的上下文,完成后将结果摘要返回。
这样,主Agent获得结果后即可继续工作,主对话中无需再包含整个查找过程。
OpenAI表示,默认窗口未来还会继续扩大。
窗口会变大,但开发者的耐心不能随之扩展。代码交给AI后,理应减少等待次数,也少重复“这个要求我之前说过”。
参考资料:
https://x.com/thsottiaux/status/2109430343346581527?s=20
本文来自微信公众号“新智元”,作者:摩西 桃子,36氪经授权发布。