职贝云数AI新零售门户
标题:
揭秘ManusAI:AI Agent 上下文工程阅历分享
[打印本页]
作者:
jilidfTu
时间:
昨天 17:46
标题:
揭秘ManusAI:AI Agent 上下文工程阅历分享
ManusAI 在构建其 AI Agent 的过程中，选择了基于前沿模型的上下文学习才能，而非从头训练端到端模型。这一决策使得他们可以疾速迭代和部署改进，并使产品与底层模型解耦。但是，上下文工程并非易事，ManusAI 团队经过反复实验和架构探求，总结出了一系列宝贵的阅历教训。
1. 围绕 KV-Cache 停止设计
KV-Cache 命中率是消费阶段 AI Agent 最重要的目的，直接影响延迟和成本。在 Agent 操作中，上下文会随着每次迭代而增长，而输入通常较短，导致预填充和解码的比例高度倾斜。应用 KV-Cache 可以分明降低初次生成工夫（TTFT）和推理成本。
(, 下载次数: 0)
上传
点击文件名下载附件
实际要点：
• 保持提示前缀波动： LLM 的自回归特性意味着即便是单个 token 的差异也会使缓存失效。避免在系统提示扫尾包含工夫戳等动态信息。• 使上下文仅追加： 避免修正先前的动作或观察结果，并确保序列化是确定性的，以防止静默地毁坏缓存。• 在需求时明白标记缓存断点： 对于不支持自动增量前缀缓存的模型，需求手动插入缓存断点，并确保断点包含系统提示的末尾。• 启用前缀/提示缓存： 假如自托管模型，确保启用前缀/提示缓存，并运用会话 ID 在分布式工作器之间分歧地路由央求。
2. 遮盖而非移除
随着 Agent 才能的加强，其动作空间会变得越来越复杂。动态添加或移除工具会带来成绩，由于这会使 KV-Cache 失效，并能够导致模型混淆或幻觉。ManusAI 采用上下文感知的形态机来管理工具可用性，经过遮盖 token logits 来限制或强迫选择某些动作，而不是移除工具定义。
(, 下载次数: 0)
上传
点击文件名下载附件
实际要点：
• 避免动态增删工具： 除非相对必要，否则不要在迭代过程中动态添加或移除工具。• 应用呼应预填充： 大多数模型提供商和推理框架支持呼应预填充，这允许在不修正工具定义的状况下约束动作空间。• 设计分歧的动作称号前缀： 例如，一切阅读器相关工具以 browser_ 扫尾，命令行工具以 shell_ 扫尾，这有助于在特定形态下轻松限制 Agent 只能选择特定组的工具。
3. 将文件系统用作上下文
虽然古代 LLM 提供了宏大的上下文窗口，但在实践 Agent 场景中依然能够不足。观察结果能够非常庞大，模型功能会下降，并且长输入成本高昂。ManusAI 将文件系统视为终极上下文，模型可以按需读写文件，将文件系统不只用作存储，还用作结构化的外部化记忆。
(, 下载次数: 0)
上传
点击文件名下载附件
实际要点：
• 应用文件系统停止上下文管理： 将文件系统作为有限大小、持久且可由 Agent 直接操作的上下文。• 可恢复的紧缩策略： 确保紧缩策略是可恢复的，例如，网页内容可以从上下文中删除，只需其 URL 保持不变，并且文档内容可以省略，只需其途径在沙盒中保留。
4. 经过复述操纵留意力
Agent 在处理复杂义务时，会创建 todo.md 文件并逐渐更新。ManusAI 经过不断将待办事项列表重写到上下文的末尾，将全局计划推入模型的留意力范围，从而避免“中间遗失”成绩并减少目的错位。
(, 下载次数: 0)
上传
点击文件名下载附件
实际要点：
• 将目的复述到上下文末尾： 经过自然言语将义务目的和待办事项列表不断重写到上下文的末尾，以保持模型的留意力集中。
5. 保留错误信息
Agent 会犯错误，隐藏这些错误解阻止模型学习和顺应。ManusAI 的阅历表明，将错误信息保留在上下文中是改进 Agent 行为的最有效方法之一。当模型看到失败的动作和结果观察或堆栈跟踪时，它会隐式更新其外部决计，从而减少反复相反错误的能够性。
(, 下载次数: 0)
上传
点击文件名下载附件
实际要点：
• 保留错误信息： 不要隐藏错误，而是将其保留在上下文中，以便模型可以从失败中学习并改进。• 错误恢复是 Agent 行为的关键目的： 错误恢复才能是真正 Agent 行为的最明晰目的之一。
6. 避免少样本圈套
少样本提示是一种常见的改进 LLM 输入的技术，但在 Agent 系统中能够会适得其反。言语模型是优秀的模拟者，假如上下文充满了相似的动作-观察对，模型就会倾向于遵照这种形式，即便它不再是最优的。ManusAI 经过引入大批结构化变体来添加多样性，例如不同的序列化模板、替代措辞、宏大的噪声或格式化，从而打破这种形式并调整模型的留意力。
实际要点：
• 添加多样性： 在动作和观察中引入大批结构化变体，以避免模型堕入反复形式。• 避免少样本圈套： 不要让 Agent 堕入“少样本圈套”，即过度模拟上下文中的形式。
结论
上下文工程对于 AI Agent 来说依然是一个新兴但至关重要的范畴。模型才能再强，也无法取代对记忆、环境和反馈的需求。
塑造上下文的方式决议了 Agent 的行为方式、运转速度、恢复才能以及扩展性。ManusAI 经过在数百万用户中停止真实世界测试，总结出了这些阅历教训，希望能协助其他构建 AI Agent 的团队更快地收敛并避免痛苦的迭代。
参考地址
• AI代理的上下文工程：构建Manus的阅历教训：https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus• 上下文学习：https://arxiv.org/abs/2301.00234• 少样本提示：https://www.promptingguide.ai/techniques/fewshot
往期文章：
• Context Engineering（上下文工程）是 AI Agent 成功的关键吗？• Agent开发必读：消费级Agent的12个核心准绳
欢迎光临 职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)
Powered by Discuz! X3.5