标签：context-window
2 篇笔记 · 2 篇论文笔记 · 1 个资源导读
笔记（2）
- 04 Claude Code 最佳实践
所有技巧都围绕一个约束：上下文窗口很快会满，满了效果就会下降。核心做法包括：给 Claude 一个能自己运行的检查手段；先探索、再规划、再编码；提示要具体；用 CLAUDE.md、权限、hooks、skills、子智能体配置环境；积极管理上下文；最后用并行会话和非交互模式扩大规模。
- 17 长时运行智能体的有效 harness
长任务要跨越多个上下文窗口，每个新会话都会“失忆”，仅靠压缩不够。解法分两部分：初始化智能体搭好环境（功能清单 JSON、进度文件、init.sh、初始 git 提交）；编码智能体每次只做一个功能、做端到端测试，并以干净状态收尾（提交并更新进度）。
论文笔记（2）
- D13 Attention Is All You Need：只用注意力的 Transformer
Transformer 的原始论文：去掉循环和卷积，只用缩放点积注意力、多头注意力、位置编码和逐位置前馈层搭出编码器—解码器。任意两个位置一步相连、训练可完全并行，代价是计算量随序列长度平方增长。今天的大模型都从这里来。
- D15 Bahdanau 注意力：翻译时边对齐边生成
编码器把整句压成一个固定长度向量，句子一长翻译就变差。这篇 ICLR 2015 论文让解码器每生成一个词，都对源句所有位置打分、加权求和得到专属的上下文向量，也就是后来所说的注意力。它是 P2 的起点，读 Transformer 前先读它。
资源导读（1）
- 资源 12-Factor Agents：构建可靠 LLM 应用的 12 条原则
仿照经典的“12-Factor App”，从工程实践角度总结出 12 条（外加附录 1 条）构建生产级 LLM 应用的原则。核心主张：好的智能体大部分是普通软件，LLM 只在合适的位置做决策；提示、上下文窗口和控制流都应该由开发者自己掌控。