模型合并

「搬」能力里搬权重差的那条：同一基座上的微调权重差可当作任务向量相加相减；TIES 处理同位置互相对消的干扰，DARE 把大部分权重差随机置零再缩放。

生产方式：AI 生成AI 生成，仅供参考签发：晓黎学习复核：2026年11月1日被 7 个词条引用

合并成立的前提是「同基座」：微调得到的权重差被当成可加可减的任务向量——同一基座加上它就带上那个任务。它省的是训练与数据两步：不需要教师在线产信号，不需要新示范，只要手上已有几个同基座的微调结果。

它不保证的是不相消：同基座只保证加法在数值上有意义，不保证两路任务在同一批参数上不打架。TIES-Merging 点名的就是 interference 这一格；DARE 的做法是把大部分权重差随机置零、再缩放剩下的——课程强调那是作者的主张和做法，不是对任意任务成立的定律。

拿不到权重、只有接口时，这条路线物理上不存在，得走蒸馏。

相关

蒸馏（知识蒸馏） 微调（Fine-tuning） SFT（监督微调）

互链

链接来自概念卡正文里的双链，编译时能解到本期词条集的才成为站内链接。

反链（7）

出现在哪些课时里（1）

判据与「课时正文里能不能点出来」是同一个：那一节确实提到了它。点课时走当前页跳转， 它是导航，不是词条链接。

关联图

只画这一条与它直接相连的词条，边与上面两区同源。可拖拽、可缩放，点节点是新标签。

以列表方式看这 7 个节点

出处

路径是本地知识库（Obsidian 库）里的位置，正文与概念卡逐字对应。

  • 课程正文用法归纳不训新能力，也能把能力搬进小模型packages/db/prisma/lesson-content/distill-and-merge.md
  • 课程正文用法归纳课程派生词条 · 模型训练与后训练

编译入库：2026年11月2日。词条由知识库编译而来， 修正要回到概念卡改，再重新编译。