基座
课的起点模型:经过预训练、未做后训练的模型,目标只是把上文续写下去。权重公开改变的是微调的起点,不是「任何人都能预训练」。
生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月8日被 2 个词条引用
互链
链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。
- 后训练(Post-training)正文引用
- 微调(Fine-tuning)正文引用
- 显存正文引用
- 预训练正文引用
- SFT(监督微调)正文引用
反链(2)
- 任务向量(Task Vector)正文引用
- 预训练正文引用
出现在哪些课时里(6)
判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。
- 基座只会续写,听话是后来加上的大模型后训练:偏好、权重与测得出退化的评测
- SFT 教的是格式,知识不是它给的大模型后训练:偏好、权重与测得出退化的评测
- RLHF 三步各吃什么数据大模型后训练:偏好、权重与测得出退化的评测
- 省内存省的到底是哪一块账大模型后训练:偏好、权重与测得出退化的评测
- 不训新能力,也能把能力搬进小模型大模型后训练:偏好、权重与测得出退化的评测
- 四种失败形状,各指向哪一步大模型后训练:偏好、权重与测得出退化的评测
关联图
只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。
以列表方式看这 7 个节点
出处
路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。
- 课程正文用法归纳基座只会续写,听话是后来加上的
packages/db/prisma/lesson-content/pretrain-only-continues-text.md - 课程正文用法归纳权重公开改变了谁能造模型
packages/db/prisma/lesson-content/open-weights-changed-who.md - 课程正文用法归纳省内存省的到底是哪一块账
packages/db/prisma/lesson-content/qlora-memory-budget.md - 课程正文用法归纳课程派生词条 · 模型与生成式 AI 基础
编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。