标签：failure-modes

auto 模式把权限审批交给模型分类器，介于人工审批和完全跳过权限之间。两层防御：输入层用提示注入探针扫描工具输出；输出层的转录分类器在执行前判定每个动作，先单 token 快速过滤，被标记再用思维链复核。另有子智能体交接检查和“拒绝后继续”。真实流量误报率 0.4%，对真实越权行为漏报率 17%。

• claude-code
• permissions
• human-in-the-loop
• prompt-injection
• security
• failure-modes

一篇工程视角的长文，改编自作者的书《AI Engineering》。核心观点：智能体由“所处环境 + 可用工具”定义。文章重点讲工具的三种类型、如何把规划和执行解耦、计划粒度的取舍，以及如何按“规划失败 / 工具失败 / 效率”来评估智能体。