标签:security
6 篇笔记 · 0 篇论文笔记 · 1 个资源导读
笔记(6)
- 07 用 Agent Skills 为智能体装备真实世界的专业能力
Agent Skills 是以 SKILL.md 为核心、打包了指令、脚本和资源的文件夹。智能体启动时只加载各技能的名称和描述,需要时再读正文和附属文件(渐进式披露),还可以直接运行技能里的脚本,从而把通用智能体变成某个领域的专家。
- 08 用代码执行调用 MCP:构建更高效的智能体
连接的 MCP 工具一多,预先加载的工具定义和中间结果都会耗掉大量 token。把 MCP 服务器呈现为文件系统里的代码 API,让智能体写代码调用,就能按需发现工具、在执行环境里过滤数据、用代码表达控制流、保护隐私并保存可复用技能;代价是需要安全的代码执行环境。
- 20 扩展 Managed Agents:把“大脑”和“双手”解耦
harness 编码了对模型能力的假设,这些假设会随模型升级过时。Managed Agents 借鉴操作系统虚拟化硬件的思路,把智能体拆成会话(只追加的事件日志)、harness(大脑)、沙箱(双手)三个稳定接口。解耦后各部分可替换,凭证不进沙箱,p50 首 token 延迟降约 60%、p95 降超过 90%。
- 21 超越权限弹窗:让 Claude Code 更安全也更自主
频繁点“同意”会造成审批疲劳,反而不安全。Claude Code 用操作系统原语做沙箱:文件系统隔离(只写当前工作目录)加网络隔离(只经代理连获批域名),缺一不可。在此基础上推出开源的沙箱化 bash 工具和云端运行、git 凭证不进沙箱的 Claude Code on the web。内部权限弹窗减少 84%。
- 22 我们如何构建 Claude Code auto 模式:一种更安全的跳过权限方式
auto 模式把权限审批交给模型分类器,介于人工审批和完全跳过权限之间。两层防御:输入层用提示注入探针扫描工具输出;输出层的转录分类器在执行前判定每个动作,先单 token 快速过滤,被标记再用思维链复核。另有子智能体交接检查和“拒绝后继续”。真实流量误报率 0.4%,对真实越权行为漏报率 17%。
- 23 我们如何在各产品中约束 Claude
部署风险 = 失败概率 × 破坏范围;能力和权限扩大会让后者上升,工程问题就是给破坏范围设上限。人工审批并不可靠(用户同意约 93% 的请求),重点应放在环境层约束。文章对比 claude.ai 临时容器、Claude Code 沙箱、Cowork 本地虚拟机三种模式,并复盘了几次真实漏洞。
资源导读(1)
- 资源 Simon Willison 的博客:几个推荐入口
Simon Willison 是独立开发者,几乎每天写博客,长期跟踪 LLM、编码智能体和提示注入。博客内容很多,本页只推荐 4 个入口:编码智能体实践指南、提示注入的“致命三要素”、他对“智能体”的定义,以及两个适合长期订阅的标签页。前沿阶段用它来保持对行业的感知。