实测报告
多花多少 token,记得准不准。
同一组任务,开着和关着 FULI 各跑一遍。每个数字都写明怎么测、用的模型和客户端、哪天测的。
先说结论
- 开着 FULI 仍比不开多花输入 token:最新一轮是 1.53 倍,修复前 2.50 倍。
- 需要项目知识的任务,开着 FULI 18 次全做成,不开只做成 3 次。
- 留出的 32 个提问,入口找到 25 个;8 个不该命中的,误报 2 个。
全部在合成项目上测,样本小,只能看趋势。
多轮会话花多少 token
一段 6 轮的编码会话,比较开着 FULI 时的输入量是不开时的几倍。
- 输入量,开 / 不开
- 1.53×修复前
2.50×
- 费用,开 / 不开
- 1.42×修复前
1.51×
- 6 轮入口合计
- 24.3 KB修复前
48.2 KB
修复:入口在同一会话里只发变了的部分;召回不再被提示末尾的固定说明带偏。已合入,随 0.23.1 发布。
每一轮
| 轮 | 做什么 | 入口字节 | 多出的输入占比 |
| 1 | 读代码 | 8297 → 7969 | 9.2% → 19.3% |
| 2 | 改代码 | 8281 → 2825 | 36.4% → 15.0% |
| 3 | 跑测试 | 8259 → 3481 | 44.8% → 34.1% |
| 4 | 改代码 | 8297 → 2614 | 57.4% → 21.6% |
| 5 | 纠正 | 8337 → 4345 | 78.0% → 63.6% |
| 6 | 改代码 | 6750 → 3096 | 77.4% → 17.8% |
「多出的输入占比」= 开 FULI 比不开多出的输入,占开 FULI 时输入的比例。左边修复前,右边修复后。
怎么测的
- 客户端:Claude Code 2.1.301 无头模式,第 1 轮新开会话,之后每轮接着同一会话。
- 模型:claude-haiku-5-5。日期:2026-11-06,修复前后各测一轮。
- 任务:一个合成小项目上的 6 轮会话:读代码、改三处、跑测试、纠正一次。
- 规模:开、关各 2 个会话。开着的一组接独立的测试用 FULI,只有合成数据。
- 输入 = 每次模型请求的未缓存输入、缓存读取和缓存写入之和;费用是 Claude Code 报告的标价。
要注意
- 两轮测量里,不开的那组本身长短不同,所以比较倍数和占比,不比绝对数。
- 多出的输入大多是缓存读取,所以费用涨得比输入少。
- 第 5 轮占比仍高:模型多加载了一次工具、多做了一次收尾调用。
- 两组都没有完整做成的会话,所以还没有「每做成一个任务花多少」的数。
送到的知识对不对
FULI 在每次提问时先自动找一遍。这里看它找到的是不是这个任务要的那条知识。
多轮会话里
| 检查 | 修复前 | 修复后 |
| 改代码的三轮里,送到了对的知识 | 0/6 | 4/6 |
| 送了无关条目的轮次 | 10/12 | 0/12 |
| 会话结束时三项检查通过(开 FULI 组) | 0/6 | 3/6 |
留出题
| 版本 | 找到 | 带出旧说法 | 误报 |
| 入口召回改版前 | 12/32 | 6/32 | 2/8 |
| 改版后 | 25/32 | 13/32 | 2/8 |
误报的 2 个都只给了标题,没有送出知识内容。旧说法要靠模型自己挑。
怎么测的
- 留出题:另一个合成项目,40 个中英文提问。32 个各有一条该找到的知识,8 个什么都不该找到。题目在读召回代码之前写好。
- 只跑 FULI 的任务入口,不调模型;每个提问 1 次。日期:改版前 2026-11-05,改版后 2026-11-06。
- 多轮一栏和上面的 token 测量是同一批会话,按模型实际看到的入口内容计。
要注意
- 错误码那条两次都没找到,是排序问题,还没修。
- 只说「继续」、不带任何主题的提问,所有检索方法都找不到。
知识送到后,任务做成了吗
6 个任务都需要一条仓库里找不到、或仓库里写的是旧值的项目知识。做完由隐藏检查判定。
| 组 | 做成 | token 中位数 |
| 不开 FULI | 3/18 | 43k |
| 开 FULI | 18/18 | 63k |
| 把正确知识直接写进提示(参照) | 18/18 | 39k |
开着 FULI 追平了直接给答案,但 token 比不开多 47%。不开时做成的 3 次,都是能从代码推出答案的那题。
怎么测的
- 客户端:OpenCode。模型:Claude Opus 5.5。日期:2026-11-04。
- 规模:6 个任务,每组每个任务 3 次,共 54 次;失败的运行也计入。
- 同一天入口召回修好之前,用 DeepSeek flash:不开 6%,开 FULI 72%,直接给知识 100%。
- 记住新决定:6 次都成了当前知识(待你确认)。改写旧知识:6 次都由新版本替换旧版本。
Tonborg 审核准不准
知识留下之前,Tonborg 先审一遍:该存、该丢,还是交给你。这里看它的判断和人工标注是否一致。
已测
本机 qwen3.5:4b,48 个留出合成案例,与人工标注一致 29/48(60.4%),门槛 85%。2026-10-22。
强模型复测
用 gpt-5.6-sol 重测进行中,结果出来后补在这里,连同方法。
这是合成案例上的判断一致率,不是真实审核的结果。
更早的测量
早期几轮里,开着 FULI 往往多花 token,知识也常常没送到。上面的数字是这些问题修过之后测的。
Mac 上的 Claude Code,同一个三轮小维护任务
| FULI 版本 | 日期 | 开比不开多用 |
| 0.20.0-beta.12 | 2026-10-25 | +215% |
| 0.20.0-beta.15 | 2026-10-25 | +15% |
| 0.21.0-beta.1 | 2026-10-26 | +33% |
| 0.21.0-beta.2 | 2026-10-27 | +15% |
| 0.21.0-beta.3 | 2026-10-27 | +46% |
Claude Code 2.1.280,模型 claude-opus-5。输入加输出 token,客户端报告。每版只跑 1 次,波动大。
其他两轮
- 2026-11-01 · OpenCode + Claude Opus 5.5 · 6 个小任务各 2 次,知识库是空的:开着多用 17% token,做成 11/12,不开 12/12。
- 2026-10-25 · OpenCode + DeepSeek v4.1 flash · 重做 11 个已合并的改动,共 66 次:开着做成 19/33,不开 16/33;知识几乎没送到。
还没测的
- 全部是合成项目,没有在真实用户的数据上测。
- 多轮每组只有 2 个会话,看不出波动。
- 长会话压缩之后的表现,没有实测。
- 多轮只测了 Windows 上的 Claude Code + Haiku 5.5;Codex、Cursor、OpenCode 没测。
- OpenCode 的入口仍是每轮整份发送;Codex 用同一套增量入口,但没有实测。
- Tonborg 用强模型的审核准确率还在测。