AI安全与治理(AI Safety & Governance)
理解 AI Agent 和自动化工具在真实环境中的权限、数据、误操作和治理风险。越高级的 AI 用户,越需要系统化的安全边界意识。
把 Agent、协议与商业模式里反复出现的那些词,各写成可查、可追出处的一页。 内容编译自本地知识库的概念卡,正文一个字不改写;每页底部列出出处、生产方式与签发记录。
理解 AI Agent 和自动化工具在真实环境中的权限、数据、误操作和治理风险。越高级的 AI 用户,越需要系统化的安全边界意识。
一个人同时管理多个 AI Agent 的能力上限——拆任务、设边界、防污染、统输出、控质量。未来效率提升的瓶颈可能不再是个人能力,而是调度带宽。
李飞飞等提出的 Agent AI 统一框架:感知(Perception)→认知(Cognition)→行动(Action)→环境(Environment),辅以记忆(Memory)和学习(Learning)。是理解所有 Agent 系统的元模型。
浏览器在某一时刻的页面结构序列化结果,让不直接看屏幕的 Agent 也能理解并操作页面。
设计围绕 AI Agent 的系统、约束和反馈回路的技术学科。已取代 Prompt Engineering 成为 AI 落地的关键护城河。模型是'马',Harness 是'缰绳、马鞍与衔铁'。
将 Git 分支思维应用于 AI 会话管理:主干只做编排,分支会话阅后即焚。是 Harness Engineering 中对抗上下文熵增的核心实践。
词条正文与出处逐字对应知识库里的概念卡;发现表述问题请到意见反馈里指出, 我们会回到源头修正后重新编译。