Transformer

2017 年论文 Attention Is All You Need 提出的架构:用自注意力把同一条序列内部的时间维并行掉,换来可训练的规模,代价落在注意力的平方开销、位置信息与仍然串行的推理上。

生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 4 个词条引用

出处是 2017 年论文「Attention Is All You Need」。课程钉的第一件事是「并行到底并行在哪一维」:被并行掉的是同一条序列内部的时间维——递归路线逐词推进,自注意力一次算完整条序列两两之间的关联。

课时标题是判断:「并行的代价」。并行换来可训练的规模,代价落在注意力随长度的平方增长与位置信息上;推理仍串行——第 t 个 Token 必须等第 t-1 个,自注意力没有取消这条依赖。

注意力是它的核心机制,如今 大模型几乎都建在这套架构上。

相关

注意力机制(Attention) 上下文窗口 Token

互链

链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。

反链(4)

出现在哪些课时里(7)

判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。

关联图

只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。

出处

路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。

  • 课程正文用法归纳并行的代价:Transformer 的取舍packages/db/prisma/lesson-content/transformer-tradeoff.md
  • 课程正文用法归纳序列为什么难,注意力解决了什么packages/db/prisma/lesson-content/sequence-and-attention.md
  • 课程正文用法归纳Attention 与上下文窗口packages/db/prisma/lesson-content/attention-and-context-window.md
  • 课程正文用法归纳课程派生词条 · 模型与生成式 AI 基础

编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。