Scaling Laws（缩放定律）
2020 年论文《Scaling Laws for Neural Language Models》：损失随参数量、数据量、算力跨几个数量级近似落在一条直线上；2022 年 Chinchilla 修正了算力预算内参数与数据的配比。
生产方式：AI 生成AI 生成，仅供参考签发：晓黎学习复核：2026年11月1日被 4 个词条引用
2020 年那篇 Scaling Laws for Neural Language Models 做的事很朴素：训练一批规模不同的模型，把它们的损失分别对参数量、数据量、算力作图，发现跨几个数量级近似落在一条直线上（坐标取对数）。
课程用 2022 年被叫作 Chinchilla 的论文（Training Compute-Optimal Large Language Models）教的第二课是推翻的方式：「给定算力预算时参数与数据怎么配比」这一格可以被后来者改写——前一篇把参数放得过重，后一篇报告参数量与训练数据量应大致同比放大。
课程同时钉住读法：缩放定律是经验曲线，不是能力保证；「大模型能力是规模涌现出来的」被单列为需要提问的叙事。
相关
互链
链接来自概念卡正文里的双链，编译时能解到本期词条集的才成为站内链接。
- 大模型（LLM）相关概念
- 深度学习（Deep Learning）相关概念
反链（4）
- 参数量正文引用
- 大模型（LLM）正文引用
- 大模型（LLM）相关概念
- 涌现（Emergence）正文引用
出现在哪些课时里（1）
判据与「课时正文里能不能点出来」是同一个：那一节确实提到了它。点课时走当前页跳转， 它是导航，不是词条链接。
- 规模改变了什么：缩放曲线怎么读深度学习是怎么来的：机制、竞争与未定论
关联图
只画这一条与它直接相连的词条，边与上面两区同源。可拖拽、可缩放，点节点是新标签。
以列表方式看这 5 个节点
出处
路径是本地知识库（Obsidian 库）里的位置，正文与概念卡逐字对应。
- 课程正文用法归纳规模改变了什么：缩放曲线怎么读
packages/db/prisma/lesson-content/scale-changed-what-works.md - 课程正文用法归纳课程派生词条 · 模型训练与后训练
编译入库：2026年11月2日。词条由知识库编译而来， 修正要回到概念卡改，再重新编译。