ORPO

把偏好项并进监督微调的单阶段免参考模型做法,省掉额外的偏好对齐阶段;它自己的前提摘要写明:监督微调对成功收敛仍然必要。

生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 4 个词条引用

ORPO 吃的仍是成对偏好,但动手的位置在 SFT(监督微调) 阶段:摘要给的免参考模型单阶段做法,是把偏好项并进监督微调,省掉额外的偏好对齐阶段。

它留下的那一格是课程强调的:监督微调对成功收敛仍然必要,ORPO 惩罚的是不被偏好的生成风格。与 DPO(直接偏好优化)、SimPO 相比,它换的是工序编排,不是数据形态。

相关

DPO(直接偏好优化) SimPO SFT(监督微调)

互链

链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。

反链(4)

出现在哪些课时里(1)

判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。

关联图

只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。

出处

路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。

  • 课程正文用法归纳DPO 一家省掉了哪一步packages/db/prisma/lesson-content/dpo-family-tradeoffs.md
  • 课程正文用法归纳课程派生词条 · 模型训练与后训练

编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。