AWQ

面向部署的 activation-aware 权重量化：按激活中体现出的重要性决定哪些通道更该保住精度；与 GPTQ 同记「推理时占多少、跑多快」那本账。

生产方式：AI 生成AI 生成，仅供参考签发：晓黎学习复核：2026年11月1日被 6 个词条引用

AWQ 属于课程说的「面向部署的权重量化」另一本账：模型已经训好，目标是压低上线成本。摘要的说法是 activation-aware 的权重量化与加速——按激活里体现出的重要性来决定哪些通道更该保住精度。

它与 GPTQ 回答的是「推理时占多少、跑多快」；与服务于训练链路的 QLoRA 是两本账，选型时先问要省哪一格。

相关

量化（Quantization） GPTQ QLoRA

互链

链接来自概念卡正文里的双链，编译时能解到本期词条集的才成为站内链接。

量化（Quantization）相关概念
GPTQ正文引用
GPTQ相关概念
QLoRA正文引用
QLoRA相关概念

反链（6）

量化（Quantization）正文引用
量化（Quantization）相关概念
双重量化正文引用
梯度（Gradient）正文引用
GPTQ正文引用
GPTQ相关概念

出现在哪些课时里（1）

判据与「课时正文里能不能点出来」是同一个：那一节确实提到了它。点课时走当前页跳转，它是导航，不是词条链接。

省内存省的到底是哪一块账大模型后训练：偏好、权重与测得出退化的评测

关联图

只画这一条与它直接相连的词条，边与上面两区同源。可拖拽、可缩放，点节点是新标签。

以列表方式看这 6 个节点

出处

路径是本地知识库（Obsidian 库）里的位置，正文与概念卡逐字对应。

课程正文用法归纳省内存省的到底是哪一块账packages/db/prisma/lesson-content/qlora-memory-budget.md
课程正文用法归纳课程派生词条 · 模型训练与后训练

编译入库：2026年11月2日。词条由知识库编译而来，修正要回到概念卡改，再重新编译。