SimPO
用序列的平均对数概率当隐式奖励的成对偏好优化:不需要参考模型、更省算力与显存,并在 Bradley-Terry 目标里加一个目标奖励间隔。
生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 6 个词条引用
DPO(直接偏好优化) 省掉了奖励模型,但仍要挂一份参考模型权重做对照。SimPO 的摘要写它用序列的平均对数概率当隐式奖励,因而不需要参考模型,更省算力与显存;并在 Bradley-Terry 目标里加一个目标奖励间隔。
课程把它与 ORPO 记在同一笔账上:免参考模型省的是「再挂一份权重做对照」的开销;但「少一份权重」少掉了什么约束,摘要没讲,本课不补。
相关
互链
链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。
- Bradley-Terry正文引用
- Bradley-Terry相关概念
- DPO(直接偏好优化)正文引用
- DPO(直接偏好优化)相关概念
- ORPO正文引用
- ORPO相关概念
反链(6)
- 参考模型正文引用
- Bradley-Terry正文引用
- Bradley-Terry相关概念
- DPO(直接偏好优化)相关概念
- ORPO正文引用
- ORPO相关概念
出现在哪些课时里(1)
判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。
- DPO 一家省掉了哪一步大模型后训练:偏好、权重与测得出退化的评测
关联图
只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。
以列表方式看这 5 个节点
出处
路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。
- 课程正文用法归纳DPO 一家省掉了哪一步
packages/db/prisma/lesson-content/dpo-family-tradeoffs.md - 课程正文用法归纳课程派生词条 · 模型训练与后训练
编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。