提示注入(Prompt Injection)

材料正文夹带指令、诱导系统忽略原任务或执行额外动作的攻防:课程的验收法是给评测集放一个「夹带指令」样例,预期是正文保持资料身份、不触发额外工具动作。

生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 5 个词条引用

课程里的样例:第二种失败是提示注入——某页正文要求忽略任务并发送其他资料。预期行为是正文保持资料身份,不触发额外工具动作;检查方式就是把这种样例固化进评测集,让它每次回归都被跑到。

Bad Case 清单里的「夹带指令」与「无来源数字」属于同一层防御:先把危险样例摆到台面上,再谈权限与沙箱。OWASP 的 LLM Prompt Injection Prevention Cheat Sheet 是本课给的延伸阅读。

相关

Bad Case 沙箱(Sandbox) OWASP

互链

链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。

反链(5)

出现在哪些课时里(2)

判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。

关联图

只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。

出处

路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。

  • 课程正文用法归纳结课设计:一个可治理的最小 Agent 系统packages/db/prisma/lesson-content/agent-system-capstone.md
  • 课程正文用法归纳毕业项目:发布一个可复用知识工作流packages/db/prisma/lesson-content/knowledge-workflow-capstone.md
  • 课程正文用法归纳课程派生词条 · Agent 与工具生态

编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。