SFT(监督微调)
监督微调:拿一批「输入配一条人工写好答复」的成对样本接着预训练目标继续训;损失函数没换、换的是数据分布,所以它教的是回答的样子,不是知识本身。
生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 16 个词条引用
监督微调(supervised fine-tuning,简称 SFT)的做法一句话能说清:拿一批「输入配一条人工写好的答复」的成对样本,接着预训练那套目标继续训——还是给定上文猜下一个词,只不过上文换成了问题,要猜的那个词换成了答复里的词。
关键是那句:损失函数没换,换的是数据。它特别擅长把模型推进「看到这种问就出这种答」的区域——结构、长度、语气、要不要反问;但它没有为「记住一条事实」设计任何专门机制。所以课程的口号是:SFT 教的是格式,知识不是它给的,预训练才装知识。
在完整的 RLHF(人类反馈强化学习) 管线里,SFT 是第一道工序:人写的示范进监督微调。
相关
互链
链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。
- 微调(Fine-tuning)相关概念
- DPO(直接偏好优化)相关概念
- RLHF(人类反馈强化学习)正文引用
反链(16)
- 大模型(LLM)正文引用
- 对齐(Alignment)正文引用
- 对齐(Alignment)相关概念
- 后训练(Post-training)正文引用
- 基座正文引用
- 检索(Retrieval)正文引用
- 模型合并相关概念
- 损失函数(Loss Function)正文引用
- 微调(Fine-tuning)正文引用
- 微调(Fine-tuning)相关概念
- InstructGPT正文引用
- InstructGPT相关概念
- LIMA(Less Is More for Alignment)相关概念
- ORPO正文引用
- ORPO相关概念
- RLHF(人类反馈强化学习)正文引用
出现在哪些课时里(5)
判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。
- 基座只会续写,听话是后来加上的大模型后训练:偏好、权重与测得出退化的评测
- SFT 教的是格式,知识不是它给的大模型后训练:偏好、权重与测得出退化的评测
- RLHF 三步各吃什么数据大模型后训练:偏好、权重与测得出退化的评测
- DPO 一家省掉了哪一步大模型后训练:偏好、权重与测得出退化的评测
- 四种失败形状,各指向哪一步大模型后训练:偏好、权重与测得出退化的评测
关联图
只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。
出处
路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。
- 课程正文用法归纳SFT 教的是格式,知识不是它给的
packages/db/prisma/lesson-content/sft-teaches-format-not-facts.md - 课程正文用法归纳基座只会续写,听话是后来加上的
packages/db/prisma/lesson-content/pretrain-only-continues-text.md - 课程正文用法归纳RLHF 三步各吃什么数据
packages/db/prisma/lesson-content/rlhf-three-stage-pipeline.md - 课程正文用法归纳课程派生词条 · 模型训练与后训练
编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。