LeanCTX 实测:一个 Rust 工具砍掉 AI 编程 86% token 成本,月费从 $450 降到 $60

LeanCTX 实测:一个 Rust 工具砍掉 AI 编程 86% token 成本,月费从 $450 降到 $60

用 AI 写代码的人都有一个共同的痛:token 太贵了

Claude Sonnet 输入 $3/百万 token,GPT-4o 也不便宜。一个中等规模的代码仓库,AI 每次读几个文件、跑几条 shell 命令,一个 session 随随便便烧掉 60 万 token——$1.5 美元。一天跑 10 次就是 $15,一个月 $450。更扎心的是,其中大部分 token 是”废话”:重复读同一个文件、git log 的冗余输出、shell 命令的无关行。

现在,一个 Rust 写的本地工具声称能砍掉 60-87% 的 token。它叫 LeanCTX,GitHub 上有实测 benchmark,数据可复现。

一个数字说清问题

LeanCTX 团队对自身代码库(Rust + TypeScript + Python,约 5 万行)做了 30 分钟编码 session 模拟:

配置 Token 消耗 成本 节省
无压缩(原始) 605,400 $1.51
LeanCTX 全模式 84,400 $0.21 86.1%
LeanCTX + CRP 79,900 $0.20 86.8%

从 $1.51 降到 $0.20。如果你一天跑 10 个 session,月费从 $450 降到 $60。这不是理论值——用的是 tiktoken cl100k_base 精确计数,不是字符除以 4 的粗估。

它到底做了什么?

LeanCTX 的核心思路:在 AI 读文件和跑命令之前,先替它”读一遍”,把无关信息过滤掉,只把有价值的部分送给模型。

它由五大模块组成:

1. 上下文压缩(Context Compression)
这是最核心的能力。10 种读取模式自动选择:

  • map 模式:只提取依赖关系和 API 接口,跳过实现细节。Rust 文件省 96.5%,JS 文件省 99.1%
  • signatures 模式:只保留函数签名和类型定义,Python 文件省 94.5%
  • cache_hit:重复读取同一文件只需 ~13 token(原始 ~2000 token),省 99.8%
  • aggressive 模式:去注释去空行,适用于文档和配置文件

2. 智能分流(Intelligent Triage)
不是所有任务都需要读完整文件。LeanCTX 会分析任务类型,自动选择最经济的读取模式。简单查询走轻量模式,复杂分析才用全文。

3. 知识路由(Knowledge Routing)
跨会话记忆持久化——AI 记住你上次看了什么文件、做了什么决策。下次新会话不需要重新发现,直接 recall。记忆以 .ctxpkg 格式导出,换模型不丢失。

4. 成本追踪(AI Value Gate)
内置仪表盘实时显示 token 消耗和成本。引入 CPAO(Cost per Accepted Outcome)指标——不只看省了多少 token,还看”花出去的 token 产出了多少有用结果”。

5. 影子模式(Shadow Recommendations)
对比压缩前后的输出质量,只在确认质量不降的前提下推荐节省方案。

实测数据:按语言拆解

LeanCTX 在 9 种语言的 50 个文件上做了精确 benchmark:

语言 文件数 原始 Token 最佳模式 节省率
Rust 10 144,295 map 96.5%
JavaScript 10 71,352 map 99.1%
TypeScript 4 13,974 map 95.6%
Python 9 26,688 signatures 94.5%
Markdown 10 80,376 aggressive 5.6%
JSON 5 67,430 aggressive 0.5%

规律很明显:代码文件压缩率极高(94-99%),因为结构化信息(函数签名、API 表面)只占源码的一小部分;数据文件压缩率低,因为本身就没有冗余结构。

CLI 输出压缩同样亮眼——1794 条真实命令的统计:

  • git log --stat -10:8,693 字符 → 636 字符,省 92.7%
  • git diff HEAD~5 --stat:3,077 字符 → 179 字符,省 94.2%
  • git status:2,350 字符 → 1,585 字符,省 32.6%

LeanCTX 内置 95+ 种 shell 输出压缩规则,覆盖 git、npm、cargo、docker、kubectl、terraform 等主流工具。

一个例子:auth 模块的上下文查询

当 AI 被问”auth 模块怎么工作的?”时:

没有 LeanCTX:读 auth.rs(2,500 token)+ middleware.rs(1,800 token)+ config.rs(900 token)= 5,200 token

有 LeanCTX:map 模式读 auth.rs(65 token)+ map 模式读 middleware.rs(42 token)+ map 模式读 config.rs(18 token)= 125 token

节省 97.6%。AI 拿到的是依赖关系图和 API 签名——这对回答”怎么工作的”已经足够了。如果需要深入实现细节,再用 ctx_expand 按需展开。

安装:一条命令,30 秒

# Cargo(推荐)
cargo install lean-ctx

# 或从源码
git clone https://github.com/yvgude/lean-ctx
cd lean-ctx/rust && cargo build --release

安装后一行命令启动:

lean-ctx setup

零配置。它会自动识别你的 coding agent(Cursor / Claude Code / Copilot / Windsurf / Codex / Gemini CLI 等 30+ 种),插入代理层。不需要改任何配置文件。

对比”6 工具栈”的安装体验:6 个仓库、3 种语言、15 分钟配置、各种 bridge 脚本……LeanCTX 把这一切压缩成一个二进制。

生态兼容:不只是压缩工具

LeanCTX 还内置了 addon 系统,可以把其他 MCP server 接入它的网关:

lean-ctx addon search memory   # 浏览 addon 注册表
lean-ctx addon add headroom    # 安装并接入
lean-ctx addon list            # 查看已接入的 addon

注册表覆盖压缩(Headroom、Sophon)、代码智能(Repomix、Serena)、记忆(Mem0、Cognee、Letta)和推理(Sequential Thinking)等类别。所有 addon 输出经过安全扫描和不可信标记后才送达模型。

对不同角色的意义

对独立开发者:月费 $450 → $60,一年省 $4,680。LeanCTX 已经在生产环境跑了 1794 条命令,数据可复现。

对团队:本地优先,记忆可导出为 .ctxpkg。换模型(OpenAI ↔ Anthropic ↔ Gemini)不丢上下文。不存在数据锁在某个厂商黑箱里的问题。

对 AI 应用开发者:CPAO 指标(Cost per Accepted Outcome)是一个新的评估框架——不只看”省了多少 token”,还看”省下的 token 是否真的降低了输出质量”。这个思路值得借鉴。

模型在趋同,算力在降价,但上下文的控制权才是 AI 时代的真正护城河。LeanCTX 把这道护城河搬到了你本地。

关注 AI商业快讯,每天一篇 AI 热点深度解读。

LeanCTX 为开源项目(MIT 协议),本文不构成投资建议。
相关阅读:AI Skill 生态全景:从 1000+ 仓库精选 10 个必装技能Groq 再融 3.5 亿美元转向 neocloud

AI Skill 生态全景:从 1000+ 仓库精选 10 个必装技能,开发者别再从零写 prompt 了

AI Skill 生态全景:从 1000+ 仓库精选 10 个必装技能,开发者别再从零写 prompt 了

2026 年,AI 编程工具的竞争已经从”谁的模型更聪明”转向了”谁的生态更能打”。Claude Code、Cursor、Codex、Gemini CLI 等工具不约而同地押注同一个方向——Agent Skills:一种可复用的指令包,让 AI 学会特定任务的工作流。GitHub 上,仅 awesome-claude-skills 一个仓库就收录了超过 1000 个 skill,星标突破 72,000。Cursor Directory 有 86,600 名开发者投票选出最佳规则。Anthropic、Google、Stripe、Vercel 等一线团队纷纷发布官方 skill。一场关于”AI 该怎么做事”的标准化运动正在悄然发生。

为什么”Skill”突然火了?

原因很简单:大模型的能力趋同,差异化来自上下文和工作流。同样是写代码,一个加载了 TDD skill 的 Claude 会先写测试再写实现,而裸模型可能直接输出一堆没测试的代码。同样是处理文档,加载了 docx skill 的 AI 能精确操作 Word 的修订追踪和批注,而不是给你一段”看起来像 Word”的纯文本。

Skill 本质上是给 AI 装”肌肉记忆”——告诉它在特定场景下该按什么顺序、用什么工具、遵守什么约束。这比写 prompt 更结构化,比写代码更轻量,比训练模型更灵活。

据 Anthropic 官方定义,一个 skill 就是一个文件夹,核心是一个 SKILL.md 文件,包含 YAML 元数据(名称+描述)和 Markdown 指令。Agent 在会话开始时只看到 skill 的名字和描述(约 100 token),只有当任务相关时才加载完整指令(通常不超过 5000 token)。这意味着一个 agent 可以挂载数百个 skill 而不会撑爆上下文窗口。

生态分层:三层架构正在成型

经过对 GitHub、Cursor Directory、MCP Servers 等主要平台的系统梳理,我们发现 AI Skill 生态已经分化出清晰的三层结构:

第一层:指令层(SKILL.md)——教 AI “怎么做”。这是最轻量的形态,一个 Markdown 文件就能让 AI 掌握新技能。代表:Anthropic 官方的 docx/pdf/pptx/xlsx 文档技能包、Cursor Directory 上 39,000 人安装的 Next.js 规则。兼容 Claude Code、Cursor、Codex、Gemini CLI 等几乎所有主流工具。

第二层:工具层(MCP Server)——给 AI “接外部系统”。Model Context Protocol 定义了 AI 如何安全地连接数据库、API、文件系统。官方参考实现包括 Memory(知识图谱持久记忆)、Filesystem(安全文件操作)、Git(仓库管理)等。社区已经有数百个 MCP server,覆盖从 Slack 到 PostgreSQL 的各种服务。

第三层:编排层(Agent Pipeline)——让多个 skill + 多个 agent 协作完成复杂流程。这是目前最前沿的方向。代表项目 GreatCTO 用 69 个专业 agent(架构师、开发、QA、安全、运维)组成完整的软件开发生命周期流水线——你描述一个产品,AI 从设计到部署全流程执行,人工只参与两次审批。

10 个值得收藏的 Skill 精选

我们从 1000+ 仓库中筛选出第一批 10 个高价值 skill,按影响力和实用性分两档:

⭐ Tier 1:必装五强

1. Bloom — AI 私人家教
基于 Benjamin Bloom 的 2-Sigma 研究(一对一辅导能让学生提升到前 2%),Bloom 实现了自适应教学:生成大纲 → 逐课讲解 → 读取你的标注反馈 → 调整下一课内容。支持话题学习、PDF 文档学习、项目文件学习三种模式。CLI 模式(Claude Code)和 Web 模式(React + FastAPI)均可。教育赛道刚需产品。

2. LeanCTX — 上下文压缩引擎
一个 Rust 编写的本地二进制,帮你省 50-80% 的 token。10 种读取模式、95+ shell 输出压缩规则、跨会话记忆持久化、实时成本仪表盘。支持 Cursor / Claude Code / Copilot / Windsurf / Codex / Gemini CLI 全平台。token 成本是所有 AI 用户的痛点,这个工具直接砍一半。

3. GreatCTO — 69 Agent SDLC 流水线
“描述一个产品,批准两次,上线。”69 个专家 agent 覆盖架构、开发、测试、安全、部署全流程。实测数据:一个功能 1 小时 26 分钟、$3.40 token 成本;完整产品中位数 $171。内置 GDPR/PCI-DSS/HIPAA/SOC2 合规框架。Solo 开发者和创业者的终极工具。

4. Anthropic 官方文档技能包
Anthropic 亲儿子,docx/pdf/pptx/xlsx 四件套。不是简单的格式转换,而是真正理解文档结构——Word 的修订追踪和批注、PDF 的表单字段、PPT 的布局模板、Excel 的公式和图表。Claude Code 一条命令安装,Claude.ai 付费版原生支持。

5. Cursor Directory 热门规则
86,600 名开发者投票的 IDE 最佳实践。Next.js(39k 安装)、Front End(33.5k)、Expo(17.9k)、FastAPI(12.8k)、Java(9k)——覆盖主流技术栈。一键导入,零配置,是最低门槛的”skill”体验。

⭐ Tier 2:专业精选

6. MCP Memory Server — 基于知识图谱的 AI 持久记忆,官方参考实现。实体-关系-属性三层结构,比纯文本搜索精准得多。

7. Composio Connect Apps — 一个插件接入 Gmail/Slack/GitHub/Notion 等 1000+ 应用。解决”AI 能聊天但不能干活”的痛点。

8. Playwright Browser Automation — 让 AI 操控浏览器做测试、爬数据、填表单。最直观的”AI 干活”演示。

9. TDD Skill — 强制测试先行的开发流程,减少 AI 生成代码的 bug 率。Anthropic 官方出品。

10. Septim Agents Pack — 10 个命名子代理(规划/架构/品牌/营销/财务/设计/法务/客户/研究/协调),放入 .claude/agents/ 即可使用。

对中国开发者的启示

目前 AI Skill 生态的主战场在英文世界,中文内容几乎空白。这意味着巨大的信息差红利

对研发团队:不要再从零写 prompt 了。直接用 Cursor Rules 或 Claude Code Skills 作为起点,省下 80% 的配置时间。LeanCTX 这类工具能直接砍掉一半 token 成本。

对产品经理:关注 Agent Pipeline 方向。GreatCTO 证明了”69 个 agent 协作”不是概念,而是已经跑通的工程实践。下一个”低代码”机会可能就在 skill 编排层。

对创业者:垂直场景的 skill 就是护城河。一个懂法律的 skill、一个懂医疗的 skill、一个懂金融合规的 skill——这些”专业知识包”的价值会越来越高。国内做 AI 应用的团队,不妨从”做一个垂直 skill”开始。

AI 工具的竞争已经从模型层上移到了生态层。谁掌握了 skill 生态,谁就掌握了 AI 的”手脚”。这个赛道才刚刚开始。

关注 AI商业快讯,每天一篇 AI 热点深度解读。
本文提及的 skill 均为开源项目,不构成投资建议。

相关阅读:Stripe 以 70 亿美元收购 OpenRouter:支付巨头押注 AI 模型路由入口Groq 再融 3.5 亿美元转向 neocloud:AI 推理云成算力投资新战场