智能体上下文工程九大铁律:Manus四次重构的血泪阅历

模子即船，高低文为海——怎样让AI智能体更智慧、更省钱、更抗制？

作家：季劳超（Peak）

揭晓日期：2025年7月19日

导读：

正在建立AI智能体Manus的征途上，咱们曾四次推翻沉去。每次沉构，皆是对于“高低文工程”认知的推翻。当模子的进步如潮流般澎湃，是挑选成为扎根海底的柱子，仍是扬帆起航的船？咱们挑选了后者。原文将分享咱们以“随机梯度降落”探究出的九条中心经历，帮您正在智能体开辟的急流中更快到达“部门最劣”。

---

挑选时候：押注高低文工程

名目伊初，团队面对枢纽挑选：是自研锻炼端到端智能体模子，仍是鉴于前沿年夜模子的高低文进修才气建立智能体？

回顾尔正在NLP范围的第一个十年，底子不这类朴实的挑选。正在谁人遥远的BERT时期（竟已经七年！），模子微调取评介动辄数周。关于寻求矫健迭代、特别是正在产物商场符合（PMF）前的使用，云云迟缓的反应轮回是致命的——那是尔上一次守业的凄惨经验。挖苦的是，厥后GPT-3等模子的兴起，不但让尔的自研模子一晚上过期，更启开了高低文进修的新纪元。

血的经验让咱们瞅浑：Manus必需押注高低文工程。 它让咱们能正在数小时而非数周内乱托付改良，更主要的是，它让产物取下层模子解耦——模子进步如潮涨潮降，咱们挑选干这艘趁波逐浪的船，而非困于海底的桩。

---

实践实知：九条高低文工程铁律

可是，高低文工程尽非坦途。它是一门尝试科学，咱们四次推翻沉去才到达来日诰日的“部门最劣”。咱们戏称那布满架构搜刮、提醒调劣战经历推测的脚动历程为“随机梯度降落（Stochastic Graduate Descent）”。虽没有文雅，但是有用。如下是咱们用血泪换去的九条铁律：

1.中心 目标：KV慢存掷中率是命根子 (🚀 服从 & 💰本钱 )

•为何主要？ 智能体任务中，输出（不竭增加的高低文）取输出（冗长的行动挪用）比率差异（如Manus达100:1）。KV慢存能清楚低落尾词汇提早（TTFT）战拉理本钱（如Claude Sonnet慢存取非慢存本钱出入10倍！）。•怎样提拔？

•颠簸提醒前缀：零碎 提醒收尾制止静态实质（如秒级时间戳），弘大窜改便可招致后绝慢存齐生效。•高低文只逃减没有改正： 保证序列化（如JSON）是肯定性的（留神键挨次！），制止寂静破坏慢存。•隐式标识表记标帜慢存断面： 应付没有撑持主动删质慢存的框架，断面需笼盖体系提醒末端。•启动散布式路由： 自托管模子时，必得启动类似vLLM的PagedAttention，并用Session ID包管恳求路由不合性。

2. 掩码，而非简略 (🛠举措 空间办理)

•挑战： 东西爆炸（特别是RAG流行后）会浓缩模子留神力，招致毛病或者高效行动挑选。•骗局：静态 删加东西易破坏KV慢存，且汗青行动若引用被增东西，会激发模子猜疑战幻觉。•解法： 使用高低文感知掩码（Logits Masking）。

•正在解码时屏障有用行动的Logits，而非从界说中简略东西。•使用模子撑持的照应预添补（Response Prefill） 体制（如Nous Hermes）：

•Auto：可选挪用函数（预挖<|im_start|>assistant）•Required：必需挪用函数（预挖至<|im_start|>assistant<tool_call>）•Specified：必需挪用指定函数（预挖至<|im_start|>assistant<tool_call>{"name": "browser_）。
•设想本领： 为东西名增加不合前缀（如browser_, shell_），就于按组掩码。

3. 文献体系即最终高低文 (💾无限 影象体)

•痛面：即使 128K+高低文窗心，也易容海质察看（如网页/PDF实质），且少高低文损伤功用、徒删本钱。•误区： 过分收缩高低文招致不成顺疑息丧失——智能体需依靠残破汗青形状猜测下一步。•破局： 将文献体系望为智能体的无限、耐久、可操纵的内部影象体。

•模子教会按需读写文献。•枢纽：收缩战略需可回复复兴。 比方，从高低文中移除网页实质但是保存URL；移除文档实质但是保存沙箱路子。疑息已被“简略”，不过“回档”。

4. 巧用“复述”指导留神力 (🎯 目标对于齐)

•征象： Manus处置庞大任务时，会创立并逐步革新todo.md文献。•玄机： 那没有是买萌，是主动的留神力指导体制！•为什么有用？ 少任务链（Manus均匀50+次东西挪用）易致模子“出神”或者忘记初初目标（“丢失正在中心”成就）。•感化： 将全部方案“复述”到高低文开端，使其位于模子的“短期留神力”范畴内乱，有用削减目标偏偏移。无需改正架构，杂用天然语言完毕核心偏偏置。

5.保存 “毛病”陈迹 (📈 进修取鲁棒性)

•幻想： 智能体一定出错（幻觉、情况毛病、东西非常、鸿沟情况）。失利是轮回的一部门，非破例。•罕见激动： 袒护毛病（清理陈迹、沉试行动、沉置形状），寻求“洁净”。•价格： 抹来失利即是抹来凭证，模子没法从中进修调解。•贵重经历： 将毛病（失利行动、毛病察看、仓库追踪）保存正在高低文中！

•模子瞅到毛病解隐式革新其内部决意，低落前车之鉴的几率。•毛病规复才气是真实智能体举动的试金石，却常被教术基准无视（它们多存眷幻想前提下的胜利）。

6.警惕 “小样原”骗局 (🌀 百般性注进)

•悖论： 高低文进修（ICL）能提拔模子表示，但是正在智能体中可以拔苗助长。•启事： 模子是优良的模仿者。若高低文中布满类似的汗青行动-察看对于，模子会偏向于依照该情势，即使它已经再也不最劣。•风险： 正在重复性任务（如批质处置20份简历）中，易陷入牢固节奏，招致漂移、过分泛化或者幻觉。•对于策： 主动注进构造化百般性。

•正在行动/察看中使用略有差别的序列化模板、交流说话、增加挨次/格局上的弘大噪声。•这类受控的随机性有帮于突破情势，调解模子留神力。高低文越简单，智能体越懦弱。

7. 拥抱尝试迭代（心态）(🔬中心 办法论)

•素质认知： 高低文工程是尝试科学，不银弹。Manus的四次沉构印证了那一面。•举措指北： 准备佳连续根究、试错（“随机梯度降落”）战劣化。文雅非必须，有用是蛮横。

8. 模子进步是潮，咱们是船（计谋定位）(⛵ 架构形而上学)

•中心洞悉： 押注高低文工程，使Manus取下层模子进步邪接。•愿景： 成为随模子海潮（“涨潮”）而上的船，而非被牢固正在海床（微调/博属模子）的柱子，保证矫健性战持久糊口力。

9. 毛病规复是金尺度（评介望角）(🏅逾越 基准)

•号令： 重视智能体正在非幻想前提下（遭受毛病后）的规复战连续施行才气，那比纯真的任务完毕率更能表示其“智能体”素质。目前教术取公然评测对于此存眷不敷。

---

结语：

高低文工程虽还是新兴科学，但是对于智能系统统已经不成或者缺。模子会愈来愈强、快、廉，但是影象、情况取反应的需要永存。您怎样塑制高低文，终极决定了智能体的举动：它的速率、它的韧性、它的鸿沟。

正在Manus，那些经历源于数百万用户场景下的重复沉写、试错取考证。它们非普世真谛，倒是咱们卓有成效的情势。若此中一条能帮您少走一程直路，此文就完毕了代价。

智能体的未来，将由一段段经心设想的高低文所修建。请必得存心砥砺。