权重公开改变了谁能造模型

建议用时：25 分钟（含练习）

学习目标

能够说明权重公开把哪件事从只有大公司能做变成个人能做，并分清四格各自公开了什么。

本节产出

一张谁能造、造得起什么的对照表

核心知识：权重公开改变的是起点，不是全部四件事

流行讲法是"开源大模型让任何人都能训练自己的模型"。这句话里"任何人"和"训练"各占一格，必须拆开才能判。能当天核完的那一格是：权重文件可以被下载，于是微调的起点不再是零。 本节要交付的是一张"谁能造、造得起什么"的对照表。

起点这一格到底变了什么

权重不可得时，想改一个模型的行为，第一笔开销永远是预训练：先把海量语料练成可用参数，才谈得上改。这笔开销把"能改模型的人"限制成拥有预训练算力的一小撮机构。权重公开后，三件事换了三档。

第二行是研究意义上真正变掉的那一格：同一份权重可以被两个人分别加载、各改一个超参，然后比较结果。这才让"个人能在自己的数据上做实验"从口号变成可执行动作。第三行有附加条件：能否自带设备推理，除了硬件还取决于条款现状。

公开是四件不同的事

一句判据：四格互相独立，公开一格不蕴含另外三格。所以"某模型完全开源"本身就含糊，要追问的是哪一格公开了。2023 年那篇标题写着 "Open and Efficient Foundation Language Models"，本课当天只核到标题与提交日期，open 覆盖到哪一格不在核对范围内；2024 年那篇标题写作 "The Llama 3 Herd of Models"，herd 说明产出形态是一族规模梯度，同样只到标题为止。

配套件也决定它能不能真被用起来：缺了数据说明（语料从哪来、怎么清洗）与训练脚本（怎么起、怎么续训、评测怎么跑），你只得到一个结果，得不到产生它的过程。

许可证只写形状，不抄条款

本课不逐条引用任何一份许可证的文字，也没有在写作当日核对条款现状。 这里只给三类专业限制的形状。

三句要一起写出：本课不抄条款原文，因为条款会变；这张表依赖条款现状，使用范围型那一格尤其敏感；每次许可证条款变动即触发本节复核，引用它的人要自己再核一次。

另一格不许混进这张表：能力宣称。"同规模下效果更好"属于评测证据，要按上一节那四步读法处理，替换不了许可证这一格。

图里刻意不画箭头：这四格与限制之间不是先后、也不是谁产出谁。画成箭头链会让人以为"公开了权重就自然公开了别的"。

案例：三个主体、四格组合（数字为教学编造）

下面所有规模与预算数字都是为教学编造的，不代表任何真实机构、真实模型的硬件需求，也不代表任何一份现行许可证。

主体	手上有什么	四格里缺哪格	造得起什么
小林（个人）	一张消费级显卡、2 万条自有标注	缺训练细节、缺原始数据	在既有权重上做小规模微调与对照实验
七人团队	租用 8 卡节点、有产品数据	缺原始数据与部分细节	微调加一版评测复跑，能诊断代码层改动
虚构企业合规部	自建机房、要求可审计	缺数据说明就过不了内审	必须有数据说明与训练脚本才敢上线

小林那一行是本节的核心事实：没有预训练预算也能做真实验，因为起点已有人付过钱。但他复现不了"同一分布"，数据那一格是空的。他能说的只有"在这份权重上、用我的 2 万条数据微调、我的评测涨了"，跨出这个范围就变成宣传。

七人团队的差别不在钱，在代码与训练细节：缺代码时权重只能当黑盒，某类样本崩掉也无法定位到实现层。虚构企业那一行则说明，权重可得性对某些主体几乎不解决问题，他们要的是可审计的重建。三行合起来，"谁能造"不是一个集合，而是四个门槛。

动手练习

1. 拆句。输入："某模型完全开源，所以我可以随便用。"指出这句话把几件事压成了两件，各写出要另查什么。预期输出：两行加一条缺口。验收条件：不许写具体条款文字当依据。
2. 填四格。选一个你最近用过的模型，把"公开权重 / 公开代码 / 公开数据 / 公开训练细节"各标"有 / 无 / 未查"。预期输出：四行，每行一个状态加一句据以判断的材料。验收条件：至少两格写"未查"，不许把"未查"写成"无"。
3. 交一张"谁能造、造得起什么"对照表：选三类真实主体（个人研究者、小团队、要过合规审查的公司），各写三样：他能负担的最小动作、他必须先补的那一格、他会是哪一类形状的限制挡住。表下方必须明写"本表结论依赖条款现状，条款变动即触发复核"。验收条件：不许出现任何具体条款原文。

参考答案与推演

展开

完成检查

• 能指出权重公开真正改变的那件事，并且不把它说成"个人也能预训练"。
• 听到"某模型开源了"会立刻追问四格中的哪一格，并说清缺这一格挡住什么动作。
• 能复述三类专业限制的形状，说明这张表为什么依赖条款现状。
• 交的对照表里有"未查"而不是把"未查"写成"无"，并带条款变动触发复核那一句。

参考与来源

• LLaMA: Open and Efficient Foundation Language Models（arXiv，2023-02-27）：2026-10-23 由 arXiv 核到标题与提交日期；只用于锚定"这一族权重被公开"，条款内容未核。
• The Llama 3 Herd of Models（arXiv，2024-07-31）：2026-10-23 核到；标题说明产出形态是一族规模梯度，训练与配套细节本课未逐条回原文核对。
• InstructGPT：Training language models to follow instructions with human feedback（arXiv，2022-03-04）：2026-10-23 核到；标题把"人类反馈"写进方法名，用来锚定"对齐配方是独立于权重的一项资产"。
• BERT（arXiv，2018-10-11）：2026-10-23 核到；只作为"预训练加微调"这套两阶段范式的论文锚点。
• d2l 中文：14. 自然语言处理：预训练：2026-10-23 回页核到页面标题；中文教材里两阶段流程的标准写法。