大模型（LLM）
以原始文本无监督预训练为主体的大规模语言模型：基座只会根据可见上下文续写下一个 Token，听话、拒绝、反问这些能力是 SFT 与 RLHF 等后训练阶段后来加上的。
生产方式：AI 生成AI 生成，仅供参考签发：晓黎学习复核：2026年11月1日被 5 个词条引用
课程给「大模型」定的两层义：基座模型在原始文本上做无监督预训练，只会一件事——根据可见上下文预测下一个 Token（课时「基座只会续写，听话是后来加上的」）；像听指令、拒绝、反问这些能力，是SFT（监督微调）、RLHF（人类反馈强化学习） 这些阶段后来加上的。
所以课程反对「模型理解了你」式拟人：那是概率续写被后训练推进了一个有用的形状。缩放定律是经验曲线不是能力保证，「能力涌现」是叙事——LIMA（Less Is More for Alignment） 的反方向实验专门用来给这类说法降温。
相关
互链
链接来自概念卡正文里的双链，编译时能解到本期词条集的才成为站内链接。
- LIMA（Less Is More for Alignment）正文引用
- RLHF（人类反馈强化学习）正文引用
- Scaling Laws（缩放定律）正文引用
- Scaling Laws（缩放定律）相关概念
- SFT（监督微调）正文引用
- Token正文引用
- Token相关概念
- Transformer相关概念
反链（5）
- 五层拆分（模型、产品、工具、API、Agent）相关概念
- BERT相关概念
- Scaling Laws（缩放定律）相关概念
- Token相关概念
- Transformer正文引用
出现在哪些课时里（10）
判据与「课时正文里能不能点出来」是同一个：那一节确实提到了它。点课时走当前页跳转， 它是导航，不是词条链接。
- 感知机的承诺：让数据来改判断依据深度学习是怎么来的：机制、竞争与未定论
- 寒冬是三本账同时变差深度学习是怎么来的：机制、竞争与未定论
- 权重公开改变了谁能造模型深度学习是怎么来的：机制、竞争与未定论
- 仍在争议的历史：怎么对一条叙事提问深度学习是怎么来的：机制、竞争与未定论
- 基座只会续写，听话是后来加上的大模型后训练：偏好、权重与测得出退化的评测
- SFT 教的是格式，知识不是它给的大模型后训练：偏好、权重与测得出退化的评测
- DPO 一家省掉了哪一步大模型后训练：偏好、权重与测得出退化的评测
- GRPO 与只对得上答案的奖励大模型后训练：偏好、权重与测得出退化的评测
- 不训新能力，也能把能力搬进小模型大模型后训练：偏好、权重与测得出退化的评测
- 四种失败形状，各指向哪一步大模型后训练：偏好、权重与测得出退化的评测
关联图
只画这一条与它直接相连的词条，边与上面两区同源。可拖拽、可缩放，点节点是新标签。
出处
路径是本地知识库（Obsidian 库）里的位置，正文与概念卡逐字对应。
- 课程正文用法归纳基座只会续写，听话是后来加上的
packages/db/prisma/lesson-content/pretrain-only-continues-text.md - 课程正文用法归纳SFT 教的是格式，知识不是它给的
packages/db/prisma/lesson-content/sft-teaches-format-not-facts.md - 课程正文用法归纳Attention 与上下文窗口
packages/db/prisma/lesson-content/attention-and-context-window.md - 课程正文用法归纳课程派生词条 · 模型与生成式 AI 基础
编译入库：2026年11月2日。词条由知识库编译而来， 修正要回到概念卡改，再重新编译。