揭秘ManusAI:AI Agent 上下文工程阅历分享

ManusAI 正在建立其 AI Agent 的过程当中，挑选了鉴于前沿模子的高低文进修才气，而非重新锻炼端到端模子。那一决议计划使患上他们能够快速迭代战布置改良，并使产物取下层模子解耦。可是，高低文工程并不是易事，ManusAI 团队颠末重复尝试战架构根究，归纳出了一系列贵重的经历经验。

1. 环绕 KV-Cache中止 设想

KV-Cache 掷中率是消耗阶段 AI Agent 最主要的目标，间接作用提早战本钱。正在 Agent 操纵中，高低文会跟着屡屡迭代而增加，而输出凡是较短，招致预添补息争码的比率下度歪斜。使用 KV-Cache 能够清楚低落初度天生时间（TTFT）战拉理本钱。



实践重心：

•坚持 提醒前缀颠簸： LLM 的自返回特征表示着即使是单个 token 的差别也会使慢存生效。制止正在体系提醒收尾包罗时间戳等静态疑息。• 使高低文仅逃减：防止 改正先前的行动或者察看成果，并保证序列化是肯定性的，以避免寂静天破坏慢存。• 正在需要时大白标识表记标帜慢存断面：关于 没有撑持主动删质前缀慢存的模子，需要脚动拔出 慢存断面，并保证断面包罗体系提醒的开端。• 启动前缀/提醒慢存：假设 自托管模子，保证启动前缀/提醒慢存，并使用会话 ID 正在散布式事情器之间不合天路由恳求。

2. 粉饰而非移除

跟着 Agent才干 的增强，其行动空间会变患上愈来愈庞大。静态增加或者移除东西会戴去成就，因为那会使 KV-Cache生效 ，并可以招致模子混合或者幻觉。ManusAI 接纳高低文感知的形状机去办理东西可用性，颠末粉饰 token logits 去限定或者自愿挑选某些行动，而没有是移除东西界说。



实践重心：

•防止 静态删增东西： 除非绝对须要，不然没有要正在迭代过程当中静态增加或者移除东西。•使用 照应预添补： 年夜大都模子供给商战拉理框架撑持照应预添补，那许可正在没有改正东西界说的情况下束缚行动空间。• 设想不合的行动称呼前缀： 比方，统统浏览器相干东西以 browser_ 收尾，号令止东西以 shell_ 收尾，那有帮于正在一定形状下轻快限定 Agent 只可挑选一定组的东西。

3. 将文献体系用做高低文

固然现代 LLM 供给了弘大的高低文窗心，但是正在理论 Agent 场景中仍然可以不敷。察看成果可以十分宏大，模子功用会降落，而且少输出本钱昂扬。ManusAI 将文献体系望为最终高低文，模子能够按需读写文献，将文献体系不但用做保存，借用做构造化的内部化影象。



实践重心：

•使用 文献体系截至高低文办理： 将文献体系动作无限巨细、耐久且可由 Agent 间接操纵的高低文。• 可规复的收缩战略： 保证收缩战略是可规复的，比方，网页实质能够从高低文中简略，只要其 URL坚持 稳定，而且文档实质能够简略，只要其路子正在沙盒中保存。

4. 颠末复述操作留神力

Agent 正在处置庞大任务时，会创立 todo.md 文献并逐步革新。ManusAI 颠末不竭将待处事项列表沉写到高低文的开端，将全部方案拉进模子的留神力范畴，进而制止“中心丢失”成就并削减目标错位。



实践重心：

• 将目标复述到高低文开端： 颠末天然语言将任务目标战待处事项列表不竭沉写到高低文的开端，以连结模子的留神力集合。

5.保存 毛病疑息

Agent 会出错误，躲藏那些毛病解阻遏模子进修温顺应。ManusAI 的经历表白，将毛病疑息保存正在高低文中是改良 Agent 举动的最有用办法之一。当模子瞅到失利的行动战成果察看或者仓库追踪时，它会隐式革新其内部决意，进而削减重复差异毛病的可以性。



实践重心：

•保存 毛病疑息： 没有要躲藏毛病，而是将其保存正在高低文中，以就模子能够从失利中进修并改良。• 毛病规复是 Agent 举动的枢纽目标： 毛病规复才气是真实 Agent 举动的最明了目标之一。

6.防止 少样原骗局

少样原提醒是一种罕见的改良 LLM输出 的手艺，但是正在 Agent零碎 中可以会拔苗助长。语言模子是优良的模仿者，假设高低文布满了类似的行动-察看对于，模子便会偏向于依照这类情势，即使它再也不是最劣的。ManusAI 颠末引进多量构造化变体去增加百般性，比方差别的序列化模板、替换说话、弘大的噪声或者格局化，进而突破这类情势并调解模子的留神力。

实践重心：

• 增加百般性： 正在行动战察看中引进多量构造化变体，以免模子陷入重复情势。•防止 少样原骗局： 没有要让 Agent 陷入“少样原骗局”，即过分模仿高低文中的情势。

论断

高低文工程关于 AI Agent 来讲仍然是一个新兴但是相当主要的范围。模子才气再强，也没法代替对于影象、情况战反应的需要。

塑制高低文的方法决定了 Agent 的举动方法、运行速率、规复才气和扩大性。ManusAI 颠末正在数百万用户中截至实在天下尝试，归纳出了那些经历经验，期望能辅佐其余建立 AI Agent 的团队更快天支敛并制止疾苦的迭代。
参照地点

• AI代办署理的高低文工程：建立Manus的经历经验：https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus• 高低文进修：https://arxiv.org/abs/2301.00234• 少样原提醒：https://www.promptingguide.ai/techniques/fewshot

朝期文章：

• Context Engineering（高低文工程）是 AI Agent 胜利的枢纽吗？• Agent开辟必读：消耗级Agent的12个中心绳尺