SFT(监督微调)

监督微调:拿一批「输入配一条人工写好答复」的成对样本接着预训练目标继续训;损失函数没换、换的是数据分布,所以它教的是回答的样子,不是知识本身。

生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 16 个词条引用

监督微调(supervised fine-tuning,简称 SFT)的做法一句话能说清:拿一批「输入配一条人工写好的答复」的成对样本,接着预训练那套目标继续训——还是给定上文猜下一个词,只不过上文换成了问题,要猜的那个词换成了答复里的词。

关键是那句:损失函数没换,换的是数据。它特别擅长把模型推进「看到这种问就出这种答」的区域——结构、长度、语气、要不要反问;但它没有为「记住一条事实」设计任何专门机制。所以课程的口号是:SFT 教的是格式,知识不是它给的,预训练才装知识。

在完整的 RLHF(人类反馈强化学习) 管线里,SFT 是第一道工序:人写的示范进监督微调。

相关

DPO(直接偏好优化) 微调(Fine-tuning)

互链

链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。

反链(16)

出现在哪些课时里(5)

判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。

关联图

只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。

出处

路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。

  • 课程正文用法归纳SFT 教的是格式,知识不是它给的packages/db/prisma/lesson-content/sft-teaches-format-not-facts.md
  • 课程正文用法归纳基座只会续写,听话是后来加上的packages/db/prisma/lesson-content/pretrain-only-continues-text.md
  • 课程正文用法归纳RLHF 三步各吃什么数据packages/db/prisma/lesson-content/rlhf-three-stage-pipeline.md
  • 课程正文用法归纳课程派生词条 · 模型训练与后训练

编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。