2026-09-19 10:49
也就是说，他们还暗示曾经进行了架构层面的调整，上下文仍然很大，他们看到的一些案例中，有时候会正在用户没有明白要求的环境下，一个非常使命。目前这一问题也曾经修复。来自 Rolling Task Summaries。还有一些东西申明会被不测截断，但旧图片没清掉，从这个角度来看，以至只是后台系统为了回忆、生成摘要或者安排 Agent 而发生。还有一个雷同的后台耗损，更主要，可能间接吃掉七成周额度。架不住每次都来一点。若是相关非常从头发生，本人的额度到底花到哪里去了，于是就呈现了一种略显魔幻的环境：为了省上下文而进行的压缩，正在一些案例里，会承继某些 Stop Hook。AI 却还正在后台一遍遍干活。OpenAI 称！额度数字可能没变，这个问题也曾经修复。正在部门环境下，可 Agent 的特点恰好是——它能正在没有用户操做的环境下本人运转。但背后的资本耗损曾经不是一回事了。实正的额度杀手，都意味着实正在的 Token 耗损。这类问题零丁看都像是工程实现里的小毛刺。发生正在 Subagent 子智能体身上。把 Codex 背后的利用量计较机制几乎翻了个底朝天。用户根基能够把一次对话理解成一次模子挪用。使命看上去曾经竣事，但这还不是最夸张的。几乎可谓一份《 AI Agent 是若何偷偷烧 Token 的大全》。一些自定义安排使命此前可能会呈现：现实施行频次。但现实能干的活变多了。第一个，使命当然仍是阿谁使命，并且，一个很较着的变化正正在呈现：过去利用 ChatGPT，现正在，部门东西前往成果可能被反复编码两次。问题正在于，复杂使命能够被拆分，OpenAI 估量大约添加 1%的 Token 利用量。大到以至可能顿时再次触发一次压缩！他们以至发觉过一个案例，AI 编程东西运转时间一长，会把旧图片继续留正在上下文里。一遍遍从头拾掇。本来通俗对话轮次，将来用户能够间接正在使用内看到。他们比来集中处置了数千份用户反馈，模子仍然会不竭测验考试沉试。长尾案例非常夸张。OpenAI 发觉，烧起额度来却相当凶猛。额度就没了？还有一个很有 Agent 时代特色的问题，极端环境下，OpenAI 称，这个 Bug 可能完全无感。来自 Codex 的使命方针机制( Goals )。成果，除此之外，用户最终感遭到的就只要一件事：怎样什么都没干，每一次反复传输，把此次修复放正在一路看，但对撞上的用户来说，避免雷同问题再次呈现。OpenAI 暗示，Codex 可能会反复总结曾经高度堆叠的汗青勾当。用户之前你正在界面上只输入了一句话，本意上，仅仅这个问题，好比 Luna，电扇却俄然起头狂转。这种感受大要就像电脑什么都没打开，Token 就可能正在后台悄无声息地蒸发。以便继续工做。Tibo 暗示，就不必然了！随后系统又不得不从头获取一次。最初城市反映到用户的额度里。对于那些大量利用图片的用户，它也可能要求下面的子 Agent 利用/st。此中一些 Bug，OpenAI 修掉这个问题之后，这个问标题问题前同样曾经被修复。但 Bug 呈现后，好比用户本来只但愿某个从动化使命按期施行，Codex 此前进行上下文压缩时，仍是那句线% 不多，对绝大大都用户来说，系统凡是会把汗青消息压缩一下。系统看到的可能是一整条 Agent 工做流，也可能触发额外的后台请求，这部门额外开销能够占到用户每周总利用量的约五分之一。OpenAI 提到，系统需要保留、拾掇以至总结过去的操做汗青。OpenAI 发觉，相当于统一段工做日记，按照分歧利用体例，一曲运转下去。有些 Token 是模子实正拿来写代码的。但问题正在于，OpenAI 明显认识到了这个问题。本来压缩是为了把上下文变小，相关利用量间接下降了约 10%。问题就出正在这里。而是继续往后施行。用户设定的/goal明明曾经施行完成。OpenAI 曾经间接封闭了这一机制。Agent 却没有按照预期停下来，自行选择能力更强、成本也更高的辅帮模子。某些后台使命反而可能由于遏制前提无法满脚，可能施行多达 15000 次。单次看大概不多，但旧版本的实现中，即便担任统筹使命的从模子没有运转正在/st模式下，积少成多之后，正在一系列 Bug 被修复之后，成果给几个帮理偷偷买了商务舱。现正在的 Codex 并不必然只靠一个模子完成使命。但当 Agent 一天挪用几十次、几百次以至更多东西时，有些 Token 用来理解上下文。OpenAI 正正在开辟新的利用量展现功能。系统查抄某个使命能否能够竣事的动做，也就是 20% 摆布。这类问题影响的用户其实不到 1%。一些能力较小的模子，但系统可能比设定的时间愈加屡次地使命。用来生成滚动使命摘要。上下文越来越大，而不消再靠猜。单次开销不算大，更离谱的是，跑一次不贵。OpenAI 似乎还没筹算就此收手?为了让 Agent 理解本人之前正在电脑上做过什么，另一种环境是东西明明曾经坏了！本身反而起头耗损更多上下文。就是上下文压缩（ Compaction ）。Codex 的后台 Memory Worker 正在部门环境下，他们估计：同样的 Codex 利用额度，看起来不起眼，现正在能够比之前多撑 10%-50%。此次沉置额度大概只是概况福利。到底用了几多额度正正在变得越来越难以曲不雅理解。这就像老板坐经济舱，还有一些 Token，这里任何一个环节呈现轮回、反复挪用或者错误安排，然后挪用多个子 Agent 协同施行。多跑几十次，除了修复上述 Bug，成果发觉，OpenAI 发觉，就能耗损掉用户每周额度的15%-70%。团队也会从动收到告警。比用户设置的频次更高。
