用 AI 写代码的人都有一个共同的痛:token 太贵了。
Claude Sonnet 输入 $3/百万 token,GPT-4o 也不便宜。一个中等规模的代码仓库,AI 每次读几个文件、跑几条 shell 命令,一个 session 随随便便烧掉 60 万 token——$1.5 美元。一天跑 10 次就是 $15,一个月 $450。更扎心的是,其中大部分 token 是”废话”:重复读同一个文件、git log 的冗余输出、shell 命令的无关行。
现在,一个 Rust 写的本地工具声称能砍掉 60-87% 的 token。它叫 LeanCTX,GitHub 上有实测 benchmark,数据可复现。
一个数字说清问题
LeanCTX 团队对自身代码库(Rust + TypeScript + Python,约 5 万行)做了 30 分钟编码 session 模拟:
| 配置 | Token 消耗 | 成本 | 节省 |
|---|---|---|---|
| 无压缩(原始) | 605,400 | $1.51 | — |
| LeanCTX 全模式 | 84,400 | $0.21 | 86.1% |
| LeanCTX + CRP | 79,900 | $0.20 | 86.8% |
从 $1.51 降到 $0.20。如果你一天跑 10 个 session,月费从 $450 降到 $60。这不是理论值——用的是 tiktoken cl100k_base 精确计数,不是字符除以 4 的粗估。
它到底做了什么?
LeanCTX 的核心思路:在 AI 读文件和跑命令之前,先替它”读一遍”,把无关信息过滤掉,只把有价值的部分送给模型。
它由五大模块组成:
1. 上下文压缩(Context Compression)
这是最核心的能力。10 种读取模式自动选择:
- map 模式:只提取依赖关系和 API 接口,跳过实现细节。Rust 文件省 96.5%,JS 文件省 99.1%
- signatures 模式:只保留函数签名和类型定义,Python 文件省 94.5%
- cache_hit:重复读取同一文件只需 ~13 token(原始 ~2000 token),省 99.8%
- aggressive 模式:去注释去空行,适用于文档和配置文件
2. 智能分流(Intelligent Triage)
不是所有任务都需要读完整文件。LeanCTX 会分析任务类型,自动选择最经济的读取模式。简单查询走轻量模式,复杂分析才用全文。
3. 知识路由(Knowledge Routing)
跨会话记忆持久化——AI 记住你上次看了什么文件、做了什么决策。下次新会话不需要重新发现,直接 recall。记忆以 .ctxpkg 格式导出,换模型不丢失。
4. 成本追踪(AI Value Gate)
内置仪表盘实时显示 token 消耗和成本。引入 CPAO(Cost per Accepted Outcome)指标——不只看省了多少 token,还看”花出去的 token 产出了多少有用结果”。
5. 影子模式(Shadow Recommendations)
对比压缩前后的输出质量,只在确认质量不降的前提下推荐节省方案。
实测数据:按语言拆解
LeanCTX 在 9 种语言的 50 个文件上做了精确 benchmark:
| 语言 | 文件数 | 原始 Token | 最佳模式 | 节省率 |
|---|---|---|---|---|
| Rust | 10 | 144,295 | map | 96.5% |
| JavaScript | 10 | 71,352 | map | 99.1% |
| TypeScript | 4 | 13,974 | map | 95.6% |
| Python | 9 | 26,688 | signatures | 94.5% |
| Markdown | 10 | 80,376 | aggressive | 5.6% |
| JSON | 5 | 67,430 | aggressive | 0.5% |
规律很明显:代码文件压缩率极高(94-99%),因为结构化信息(函数签名、API 表面)只占源码的一小部分;数据文件压缩率低,因为本身就没有冗余结构。
CLI 输出压缩同样亮眼——1794 条真实命令的统计:
git log --stat -10:8,693 字符 → 636 字符,省 92.7%git diff HEAD~5 --stat:3,077 字符 → 179 字符,省 94.2%git status:2,350 字符 → 1,585 字符,省 32.6%
LeanCTX 内置 95+ 种 shell 输出压缩规则,覆盖 git、npm、cargo、docker、kubectl、terraform 等主流工具。
一个例子:auth 模块的上下文查询
当 AI 被问”auth 模块怎么工作的?”时:
没有 LeanCTX:读 auth.rs(2,500 token)+ middleware.rs(1,800 token)+ config.rs(900 token)= 5,200 token
有 LeanCTX:map 模式读 auth.rs(65 token)+ map 模式读 middleware.rs(42 token)+ map 模式读 config.rs(18 token)= 125 token
节省 97.6%。AI 拿到的是依赖关系图和 API 签名——这对回答”怎么工作的”已经足够了。如果需要深入实现细节,再用 ctx_expand 按需展开。
安装:一条命令,30 秒
# Cargo(推荐)
cargo install lean-ctx
# 或从源码
git clone https://github.com/yvgude/lean-ctx
cd lean-ctx/rust && cargo build --release
安装后一行命令启动:
lean-ctx setup
零配置。它会自动识别你的 coding agent(Cursor / Claude Code / Copilot / Windsurf / Codex / Gemini CLI 等 30+ 种),插入代理层。不需要改任何配置文件。
对比”6 工具栈”的安装体验:6 个仓库、3 种语言、15 分钟配置、各种 bridge 脚本……LeanCTX 把这一切压缩成一个二进制。
生态兼容:不只是压缩工具
LeanCTX 还内置了 addon 系统,可以把其他 MCP server 接入它的网关:
lean-ctx addon search memory # 浏览 addon 注册表
lean-ctx addon add headroom # 安装并接入
lean-ctx addon list # 查看已接入的 addon
注册表覆盖压缩(Headroom、Sophon)、代码智能(Repomix、Serena)、记忆(Mem0、Cognee、Letta)和推理(Sequential Thinking)等类别。所有 addon 输出经过安全扫描和不可信标记后才送达模型。
对不同角色的意义
对独立开发者:月费 $450 → $60,一年省 $4,680。LeanCTX 已经在生产环境跑了 1794 条命令,数据可复现。
对团队:本地优先,记忆可导出为 .ctxpkg。换模型(OpenAI ↔ Anthropic ↔ Gemini)不丢上下文。不存在数据锁在某个厂商黑箱里的问题。
对 AI 应用开发者:CPAO 指标(Cost per Accepted Outcome)是一个新的评估框架——不只看”省了多少 token”,还看”省下的 token 是否真的降低了输出质量”。这个思路值得借鉴。
模型在趋同,算力在降价,但上下文的控制权才是 AI 时代的真正护城河。LeanCTX 把这道护城河搬到了你本地。
关注 AI商业快讯,每天一篇 AI 热点深度解读。
LeanCTX 为开源项目(MIT 协议),本文不构成投资建议。
相关阅读:AI Skill 生态全景:从 1000+ 仓库精选 10 个必装技能 | Groq 再融 3.5 亿美元转向 neocloud