知识编译（Knowledge Compilation）

一句话定义

知识编译 = 用写入期的一次性算力换查询期的重复推导。理解发生在一个源进来时，产物长期有效；后续提问只读产物，不再从零重推。

比喻的来源与含义

实测事实：出自 Karpathy 原文两句 —— "The knowledge is compiled once and then kept current, not re-derived on every query."，以及 "Obsidian is the IDE; the LLM is the programmer; the wiki is the codebase."

中文圈把它升格为术语「编译型知识库」「知识复利」，这两个词原文都没有，属转述者包装。"知识复利"在原文里的对应表述是形容词："the wiki is a persistent, compounding artifact."

编译器类比带来的工程推论

比喻不是修辞，它直接规定了要补哪些件：

成本模型：搬家，不是消失

• 朴素 RAG：写入 ~便宜（切块 + embedding，Cohere Embed v3 约 $0.10/M token），查询 ~$0.002/次，但每次查询重新理解。
• 知识编译：写入 ~贵（单源两步推理 + 联动改 5-15 页，我的推断：一篇 5k token 材料约耗 2-5 万 token 处理量），查询便宜且更快收敛。

原文给的真正成本不是钱，是簿记负担："Humans abandon wikis because the maintenance burden grows faster than the value."

⚠️ 关键警告：编译不消灭成本，只是把它前移并集中。前移的代价是——写入期的错误也被前移并长期化了。所以编译型知识库必须自带保守通道（允许 agent 直接读原始材料）和人类终审。

组织级实证（目前最完整的一份）

Meta 工程博客（2026-09-02，明确引用 Karpathy）："We treat that maintenance as a compilation problem and automate it." 做法 = 可编译 diff + 并发影响分析 + 对抗式评审 + 确定性结构 lint + 盲回放 + SME 审批。规模 200+ 文件，每次查询省约 80% token。

这是"每查询省 token"方向唯一有量级的组织级数据；反面数据同样存在：语料扩到 20 万篇时工具调用次数 38.5→86.9、延迟翻倍以上（arXiv.05242）。

与相邻概念的分工

• RAG：检索期技术，不做持久理解。可与编译共存（长尾兜底）。
• Agent Memory：面向 agent 自身运行时状态，常为人不可读；编译产物要求人也读得懂。
• Context Engineering：更宽的父集——决定窗口里放什么。Context Engineering（上下文工程） 是运行时装配，知识编译是它的持久前置层。
• Zettelkasten：结构同源（原子卡片 + 链接 + emergeing 网络），但卡片盒要求亲手写卡即思考；本范式保留链接结构、外包写作。学术上游见 A-MEM（arXiv.12110，2025-02）："Following the basic principles of the Zettelkasten method, we designed our memory system…"

相关

LLM Wiki 范式 · Context Engineering（上下文工程） · Harness Engineering（代理治理工程） · 认知债务（Cognitive Debt）（编译掉的是簿记，别把判断力也编译掉）