实测报告

多花多少 token,记得准不准。

同一组任务,开着和关着 FULI 各跑一遍。每个数字都写明怎么测、用的模型和客户端、哪天测的。

先说结论

  • 开着 FULI 仍比不开多花输入 token:最新一轮是 1.53 倍,修复前 2.50 倍。
  • 需要项目知识的任务,开着 FULI 18 次全做成,不开只做成 3 次。
  • 留出的 32 个提问,入口找到 25 个;8 个不该命中的,误报 2 个。

全部在合成项目上测,样本小,只能看趋势。

多轮会话花多少 token

一段 6 轮的编码会话,比较开着 FULI 时的输入量是不开时的几倍。

输入量,开 / 不开
1.53×修复前 2.50×
费用,开 / 不开
1.42×修复前 1.51×
6 轮入口合计
24.3 KB修复前 48.2 KB

修复:入口在同一会话里只发变了的部分;召回不再被提示末尾的固定说明带偏。已合入,随 0.23.1 发布。

每一轮

轮做什么入口字节多出的输入占比
1读代码8297 → 79699.2% → 19.3%
2改代码8281 → 282536.4% → 15.0%
3跑测试8259 → 348144.8% → 34.1%
4改代码8297 → 261457.4% → 21.6%
5纠正8337 → 434578.0% → 63.6%
6改代码6750 → 309677.4% → 17.8%

「多出的输入占比」= 开 FULI 比不开多出的输入,占开 FULI 时输入的比例。左边修复前,右边修复后。

怎么测的
  • 客户端:Claude Code 2.1.301 无头模式,第 1 轮新开会话,之后每轮接着同一会话。
  • 模型:claude-haiku-5-5。日期:2026-11-06,修复前后各测一轮。
  • 任务:一个合成小项目上的 6 轮会话:读代码、改三处、跑测试、纠正一次。
  • 规模:开、关各 2 个会话。开着的一组接独立的测试用 FULI,只有合成数据。
  • 输入 = 每次模型请求的未缓存输入、缓存读取和缓存写入之和;费用是 Claude Code 报告的标价。
要注意
  • 两轮测量里,不开的那组本身长短不同,所以比较倍数和占比,不比绝对数。
  • 多出的输入大多是缓存读取,所以费用涨得比输入少。
  • 第 5 轮占比仍高:模型多加载了一次工具、多做了一次收尾调用。
  • 两组都没有完整做成的会话,所以还没有「每做成一个任务花多少」的数。

送到的知识对不对

FULI 在每次提问时先自动找一遍。这里看它找到的是不是这个任务要的那条知识。

多轮会话里

检查修复前修复后
改代码的三轮里,送到了对的知识0/64/6
送了无关条目的轮次10/120/12
会话结束时三项检查通过(开 FULI 组)0/63/6

留出题

版本找到带出旧说法误报
入口召回改版前12/326/322/8
改版后25/3213/322/8

误报的 2 个都只给了标题,没有送出知识内容。旧说法要靠模型自己挑。

怎么测的
  • 留出题:另一个合成项目,40 个中英文提问。32 个各有一条该找到的知识,8 个什么都不该找到。题目在读召回代码之前写好。
  • 只跑 FULI 的任务入口,不调模型;每个提问 1 次。日期:改版前 2026-11-05,改版后 2026-11-06。
  • 多轮一栏和上面的 token 测量是同一批会话,按模型实际看到的入口内容计。
要注意
  • 错误码那条两次都没找到,是排序问题,还没修。
  • 只说「继续」、不带任何主题的提问,所有检索方法都找不到。

知识送到后,任务做成了吗

6 个任务都需要一条仓库里找不到、或仓库里写的是旧值的项目知识。做完由隐藏检查判定。

组做成token 中位数
不开 FULI3/1843k
开 FULI18/1863k
把正确知识直接写进提示(参照)18/1839k

开着 FULI 追平了直接给答案,但 token 比不开多 47%。不开时做成的 3 次,都是能从代码推出答案的那题。

怎么测的
  • 客户端:OpenCode。模型:Claude Opus 5.5。日期:2026-11-04。
  • 规模:6 个任务,每组每个任务 3 次,共 54 次;失败的运行也计入。
  • 同一天入口召回修好之前,用 DeepSeek flash:不开 6%,开 FULI 72%,直接给知识 100%。
  • 记住新决定:6 次都成了当前知识(待你确认)。改写旧知识:6 次都由新版本替换旧版本。

Tonborg 审核准不准

知识留下之前,Tonborg 先审一遍:该存、该丢,还是交给你。这里看它的判断和人工标注是否一致。

已测

本机 qwen3.5:4b,48 个留出合成案例,与人工标注一致 29/48(60.4%),门槛 85%。2026-10-22。

强模型复测

用 gpt-5.6-sol 重测进行中,结果出来后补在这里,连同方法。

这是合成案例上的判断一致率,不是真实审核的结果。

更早的测量

早期几轮里,开着 FULI 往往多花 token,知识也常常没送到。上面的数字是这些问题修过之后测的。

Mac 上的 Claude Code,同一个三轮小维护任务
FULI 版本日期开比不开多用
0.20.0-beta.122026-10-25+215%
0.20.0-beta.152026-10-25+15%
0.21.0-beta.12026-10-26+33%
0.21.0-beta.22026-10-27+15%
0.21.0-beta.32026-10-27+46%

Claude Code 2.1.280,模型 claude-opus-5。输入加输出 token,客户端报告。每版只跑 1 次,波动大。

其他两轮
  • 2026-11-01 · OpenCode + Claude Opus 5.5 · 6 个小任务各 2 次,知识库是空的:开着多用 17% token,做成 11/12,不开 12/12。
  • 2026-10-25 · OpenCode + DeepSeek v4.1 flash · 重做 11 个已合并的改动,共 66 次:开着做成 19/33,不开 16/33;知识几乎没送到。

还没测的