留出集
固定下来、不给调参的人看的那批题:回答「模型在没被碰过的题上到底什么水平」。课里的评测方案要求题量、留出集、失败样例原文、停止条件四格齐备,缺一格读数就不能定案。
生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月8日被 4 个词条引用
失败读法课的三样:一组固定不给人看的题回答「模型在没被碰过的题上到底什么水平」;一批失败样例原文回答「失败长什么样,属于哪一类」;一个与人工判断的对照回答「自动分数和人的判断是不是在说同一件事」。三样缺一不可,只有总分的那份报告既不能证明退化,也不能证明进步。见 代理指标、评测(Evaluation)。
搬运路的用法:DARE 那种「置零再缩放」能不能不亏,只能在你的留出集上看;给「一定不掉点」上证据约束的写法,就是写明被推翻时会看到什么读数、在哪个留出集上、和谁比。案例判定由此而来:合并那条要先过「任一子集不得掉回基座之下」这一格才允许上线。见 DARE、TIES-Merging、任务向量(Task Vector)。
互链
链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。
- 代理指标正文引用
- 评测(Evaluation)正文引用
- 任务向量(Task Vector)正文引用
- DARE正文引用
- TIES-Merging正文引用
反链(4)
- 后训练(Post-training)正文引用
- 逐步蒸馏正文引用
- DARE正文引用
- TIES-Merging正文引用
出现在哪些课时里(2)
判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。
- 不训新能力,也能把能力搬进小模型大模型后训练:偏好、权重与测得出退化的评测
- 四种失败形状,各指向哪一步大模型后训练:偏好、权重与测得出退化的评测
关联图
只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。
以列表方式看这 8 个节点
出处
路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。
- 课程正文用法归纳四种失败形状,各指向哪一步
packages/db/prisma/lesson-content/eval-and-failure-triage.md - 课程正文用法归纳不训新能力,也能把能力搬进小模型
packages/db/prisma/lesson-content/distill-and-merge.md - 课程正文用法归纳课程派生词条 · 模型训练与后训练
编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。