Anthropic 工程博客 · 中文学习笔记Anthropic 工程笔记

    标签:sandbox

    4 篇笔记 · 0 篇论文笔记 · 1 个资源导读

    笔记(4)

    1. 08 用代码执行调用 MCP:构建更高效的智能体 · 模块 B 工具与 MCP · 8 分钟

      连接的 MCP 工具一多,预先加载的工具定义和中间结果都会耗掉大量 token。把 MCP 服务器呈现为文件系统里的代码 API,让智能体写代码调用,就能按需发现工具、在执行环境里过滤数据、用代码表达控制流、保护隐私并保存可复用技能;代价是需要安全的代码执行环境。

    2. 20 扩展 Managed Agents:把“大脑”和“双手”解耦 · 模块 A 智能体设计与架构 · 11 分钟

      harness 编码了对模型能力的假设,这些假设会随模型升级过时。Managed Agents 借鉴操作系统虚拟化硬件的思路,把智能体拆成会话(只追加的事件日志)、harness(大脑)、沙箱(双手)三个稳定接口。解耦后各部分可替换,凭证不进沙箱,p50 首 token 延迟降约 60%、p95 降超过 90%。

    3. 21 超越权限弹窗:让 Claude Code 更安全也更自主 · 模块 D Claude Code 实践与安全 · 8 分钟

      频繁点“同意”会造成审批疲劳,反而不安全。Claude Code 用操作系统原语做沙箱:文件系统隔离(只写当前工作目录)加网络隔离(只经代理连获批域名),缺一不可。在此基础上推出开源的沙箱化 bash 工具和云端运行、git 凭证不进沙箱的 Claude Code on the web。内部权限弹窗减少 84%。

    4. 23 我们如何在各产品中约束 Claude · 模块 D Claude Code 实践与安全 · 17 分钟

      部署风险 = 失败概率 × 破坏范围;能力和权限扩大会让后者上升,工程问题就是给破坏范围设上限。人工审批并不可靠(用户同意约 93% 的请求),重点应放在环境层约束。文章对比 claude.ai 临时容器、Claude Code 沙箱、Cowork 本地虚拟机三种模式,并复盘了几次真实漏洞。

    资源导读(1)

    1. 资源 OpenAI Cookbook 智能体示例精选(另一家厂商的做法对照)

      OpenAI 官方的 notebook 示例集合。本页把它当作“另一家厂商的做法”来对照阅读:挑出 8 篇与 Anthropic 笔记主题重合的示例(会话记忆、长期记忆、压缩、沙箱化 harness、Skills、改进闭环、宏观评测、成本优化),每篇说明它和哪篇 Anthropic 笔记可以对照、两家做法有什么异同。

    ← 全部标签