Manus 创始人手把手拆解:如何系统性打造 AI Agent 的上下文工程?

Z Talk 是实格分享认知的栏目。

正在《Manus 对于道 YouTube 联创陈士骏》中，Manus 分离开创人、尾席科学野 Peak（季劳超）提到，每一当团队正在会商某个功用的手艺完毕时，他会习惯性天思考：那个功用，能不克不及正在产物里组成收集效力？

动作一个通用 Agent，Manus 每一增加一项才气，团队便期望它能战已经有功用之间发生预想没有到的耦开效力。好比正在参加图象读与功用后，他们发明 Manus 能自止调试天生的数据可望化代码，以至能奇异天建设其余模块的成就。那恰是他们所垂青的复开效力。

今天，Manus 民网公布了一篇新文章，Peak 分享了他们正在拆修高低文工程过程当中踏过的坑战归纳出的经历。那是一篇热诚、深入、极具真战代价的记载。Peak 把团队正在一次次试错中淬炼出的经历体系梳理，为在建立 AI Agent 的开辟者们供给了一套可借鉴的路子，也戴咱们从头走了一遍 Manus 从整到一的根究历程。

Manus 借正在前止。邪如 Peak 正在文中所道：「假设模子进步是上涨的潮流，咱们期望 Manus 是船，而没有是钉正在海床上的柱子。」

假设您也正在挨制自己的 Agent，期望那些归纳能助您更快找到标的目的。原文转自 Founder Park，鉴于 Kimi K2 翻译，如下为编译本文：

正在 Manus 名目伊初，尔战团队便面对一个枢纽挑选：是使用启源根底模子锻炼一个端到真个智能体，仍是依靠前沿模子的高低文进修才气，正在其之上建立智能体？

正在尔投身 NLP 的第一个十年里，咱们并无这类朴实的挑选。遥想昔时 BERT 问世（出错，这已经是七年前），模子必需先颠末微调——借要评介——才气迁徙到新任务。屡屡迭代常常耗时数周，固然当时的模子体积取旧日的 LLMs 比拟微不足道。关于快速迭代的使用，特别是 PMF 以前的阶段，云云迟缓的反应轮回险些是致命的。那是尔上一野草创公司留住的凄惨经验：其时尔从整开端锻炼模子，用于盛开疑息抽与战语义搜刮。随即 GPT-3 取 Flan-T5 横空出生避世，尔这些自研模子一晚上之间就获得了意思。颇具挖苦表示的是，恰是那些新模子启开了高低文进修的年夜门，也为咱们指清楚明了一条崭新的门路。

那个去之不容易的经验让挑选变患上明了：Manus 将押注于高低文工程。那让咱们能正在多少小时内乱公布改良，而非多少周，共时也让咱们的产物取下层模子连结邪接：假设模子进步是上涨的潮流，咱们期望 Manus 是船，而没有是钉正在海床上的柱子。

可是，高低文工程近非鲜花易谢。它是一门尝试科学。咱们已经四次沉构了智能体框架，每次皆是正在发明更佳的高低文塑制方法以后。咱们密切天把那个脚动截至架构搜刮、提醒微和谐经历推测的历程称为「随机梯度降落」（Stochastic Graduate Descent）。它其实不文雅，但是确实有用。

那篇文章分享了咱们颠末自己「SGD」到达的部门最劣解。假设您在建立自己的 AI 智能体，期望那些绳尺能辅佐您更快支敛。



环绕 KV-Cache中止 设想

假设只可选一个目标，尔会道 KV 慢存掷中率是消耗级 AI 智能体最主要的简单目标，它间接作用提早战本钱。要理解启事，咱们先瞅一个典范智能体的事情过程：

支到用户输出后，智能体颠末连续串东西挪用去完毕任务。每次迭代，模子城市按照目前高低文从预约义的行动空间当选择一个行动，而后正在情况（如 Manus 的假造机沙箱）里施行该行动并发生察看成果。行动战察看成果被逃减到高低文中，成为下一次迭代的输出。那个轮回连续截至，曲到任务完毕。

能够设想，高低文正在每步城市增加，而输出——一般为一个构造化的函数挪用——绝对较短。那使患上智能体的预添补取解码比率比拟谈天机械人严峻得衡。以 Manus 为例，均匀输出取输出 token 的比率约为 100:1。

幸运的是，具备差异前缀的高低文能够使用 KV 慢存，进而清楚低落尾 token 提早（TTFT）战拉理本钱，不管您是使用自托管模子仍是挪用拉理 API。那可没有是小挨小闹的节流：以 Claude Sonnet 为例，慢存的输出 token价钱 为 0.30 美圆/百万 token，而已慢存的则下达 3 美圆/百万 token，出入 10 倍。



从高低文工程的角度去瞅，进步 KV 慢存掷中率需要依照多少个枢纽实践：

1.坚持 提醒前缀颠簸。因为 LLMs 的自返回特征，即使只需一个 token 的差别，也可以从该 token 开端使全部慢存生效。一个罕见毛病是正在体系提醒收尾参加时间戳——特别是精确到秒的这种。固然那让模子能报告您目前时间，但是也会让您的慢存掷中率回整。

2. 让高低文连结逃减式。制止改正以前的行动或者察看成果。保证序列化是肯定性的。很多编程语言战库正在序列化 JSON 工具时其实不包管键的挨次颠簸，那会正在大名鼎鼎中破坏慢存。

3. 正在需要时大白标识表记标帜慢存断面。某些模子供给圆或者拉理框架没有撑持主动删质前缀慢存，而是请求脚动正在高低文中拔出 慢存断面。树立那些断面时，要思考潜伏的慢存过时，并最少保证断面包罗体系提醒的末端。

别的，假设您使用 vLLM 等框架自止托管模子，请保证启动了前缀/提醒慢存，并使用会话 ID 等手艺正在散布式事情节面间不合天路由恳求。



颠末掩码而非移除的方法束缚举动挑选

跟着您的智能体负担更多才气，其举措空间天然会变患上越发庞大。曲利剑天道，东西数目会爆炸式增加。近来 MCP 的流行更是推波助澜。假设您许可用户自止设置东西，相信尔：必然会有人把上百个奥妙东西插退您经心筹谋的举措空间。成果，模子更易选错行动，或者走上高效的门路。简而行之，局部武拆的智能体反而变患上更愚。

一种天然的设法是设想一个静态的行动空间——或许用类似 RAG 的方法按需减载东西。咱们正在 Manus 中也测验考试过。但是尝试成果给出了一个大白的划定规矩：除非绝对须要，不然制止正在迭代过程当中静态删增东西。主要启事有二面：

1. 正在年夜大都 LLMs 中，东西界说正在序列化后凡是位于高低文的前部，一般正在体系提醒以前或者以后。因而，所有变更城市使后绝统统行动取察看的 KV-cache生效 。

2. 当以前的行动战察看仍引用目前高低文中已经没有存留的东西时，模子会陷入紊乱。正在不束缚解码的情况下，那常常招致情势背规或者幻觉行动。

为了正在提拔行动挑选的共时处置那一成就，Manus 使用了一个高低文感知的形状机去办理东西可用性。它其实不真实移除东西，而是正在解码阶段屏障响应 token 的 logits，进而按照目前高低文阻遏（或者自愿）挑选某些行动。



正在实践中，年夜大都模子供给商战拉理框架皆撑持某种方法的照应预添补，那让您无需改正东西界说便可束缚行动空间。函数挪用凡是有三种情势（咱们以 NousResearch 的 Hermes 格局为例）：

Auto – 模子能够挑选可否挪用函数。完毕方法：仅预添补复兴前缀：<|im_start|>assistant

Required – 模子必需挪用函数，但是具体挪用哪一个函数没有受限定。完毕方法：预添补到东西挪用标识表记标帜：<|im_start|>assistant<tool_call>

Specified – 模子必需从一定子集合挪用函数。完毕方法：预添补到函数名收尾：<|im_start|>assistant<tool_call>{"name":「browser\_

咱们使用那一面，间接正在 token logits 上施减掩码去限定行动挑选。比方，当用户供给新的输出时，Manus必需 立即复兴，而不克不及施行所有行动。咱们借特地为行动称呼设想了分歧的前缀——比方，统统取浏览器相干的东西皆以 browser\_ 收尾，号令止东西则以 shell\_ 收尾。如许一去，咱们就可以轻快天正在给定形状上限定智能体只可从某一组东西当选择，而无需依靠无形态的 logits处置 器。

那些设想有帮于保证 Manus 智能体轮回连结颠簸，即使正在以模子为启动的架构下也是云云。



将文献体系动作高低文

现代前沿 LLMs 现已经撑持 128K 以致更年夜的高低文窗心。但是正在真正的智能体场景中，那常常仍不敷用，偶然以至反而成为承担。罕见痛面有三：

1. 观察成果可以十分宏大，特别是当智能体取网页或者 PDF 这种非构造化数据接互时。很简单便会超越高低文限定。

2. 模子功用正在超越某个高低文少度后常常会降落，即使窗心手艺层里仍撑持。

3. 少输出本钱昂扬，即使有前缀慢存，您仍需为传输战预添补每一个 token 付费。

为了应付那一成就，很多智能系统统完毕了高低文截断或者收缩战略。但是过分保守的收缩一定招致疑息丧失。成就素质正在于：智能体素质上必需鉴于统统先前形状去猜测下一步举措。您没法可靠天猜测哪条观察正在十步以后会变患上相当主要。从逻辑角度瞅，所有不成顺的收缩皆陪伴危急。

邪果云云，咱们正在 Manus 中将文献体系望为最终高低文：容质无限、天然耐久，而且代办署理可间接操纵。模子教会按需读写文献，把文献体系不但看成保存，更看成构造化、中化的影象。



咱们的收缩战略不断包管可复原。比方，只要保存 URL，网页实质便可从高低文中移除；只要路子仍正在沙盒中可用，文档实质也可简略。那让 Manus 能正在没有永久丧失疑息的条件下耽误高低文少度。

正在开辟那一功用的过程当中，尔开端设想要让形状空间模子（SSM）正在代办署理情况中下效运做需要哪些前提。取 Transformer 差别，SSM 缺少残破的留神力体制，易以处置少距离的反背依靠。可是，假设它们能够把握鉴于文献的影象——将持久形状内部化，而非保留正在高低文里——那末它们的速率取服从大概就可以催死一类崭新的代办署理。代办署理化的 SSM可以 成为神经图灵机的真实承袭者。



颠末复述操控留神力

假设您用过 Manus，可以会留神到一个幽默的征象：正在处置庞大任务时，它常常会创立一个 todo.md 文献，并正在任务促进过程当中逐步革新，把已经完毕的项一一勾选。

那可没有是买萌的小行动，而是一种决心设想的留神力操控体制。



正在 Manus 中，一个典范任务均匀需要约 50 次东西挪用。那是一个很少的轮回。因为 Manus 依靠 LLMs 干决议计划，它很简单正在冗杂高低文或者庞大任务中偏偏离中心或者忘记晚期目标。

颠末不竭沉写待办浑单，Manus 把目标「违诵」到高低文的开端。如许一去，全部方案便被拉进模子的短期留神力范畴，制止「中心丧失」成就，削减目标错位。理论上，它是正在用天然语言把自己的留神力偏向任务目标，无需所有特别架构窜改。



保存毛病实质

智能领会出错。那没有是缺点，而是幻想。语言模子会发生幻觉，情况会前去毛病，内部东西会有缺面，意外的边沿情况也屡见不鲜。正在多步调任务中，失利并不是破例，而是轮回的一部门。

可是，一种罕见的激动是袒护那些毛病：清理跟踪记载、沉试操纵，或者沉置模子形状，而后寄期望于奥妙的「温度」参数。那瞅似更宁静、更可控，却支出了价格：抹除失利便即是抹除凭证。而不凭证，模子便没法适应。



按照咱们的经历，提拔智能体举动最有用的办法之一瞅似简朴却极具欺骗性：把走错的路留正在高低文中。

当模子瞅到一次失利的举措，和随之而去的察看成果或者仓库追踪，它会耳濡目染天革新内部决意。那会把先验从类似举措上移启，低落前车之鉴的几率。幻想上，咱们觉得毛病规复是真实具备智能体举动的最明了目标之一。可是，正在年夜大都教术钻研战公然基准中，它仍然被高估，那些钻研战基准常常散焦于幻想前提下的任务胜利。



没有要被 Few-Shot 反噬

少样原提醒（Few-Shot Prompting）是一种提拔 LLM输出 的经常使用手艺，但是正在智能系统统中，它可以以奇妙的方法拔苗助长。

语言模子是超卓的模仿者；它们会模仿高低文中的举动情势。假设您的高低文里充溢着大批类似的行动-察看对于，模子便会偏向于相沿那一情势，即使该情势已经再也不最劣。

那正在涉及重复性决议计划或者任务的场景中可以很危急。比方，当使用 Manus 辅佐核阅一批 20 份简用时，代办署理常常会陷入一种节奏——只是因为高低文里呈现了类似操纵便不竭重复。那会招致漂移、过分泛化，以至偶然发生幻觉。



处置办法是增加百般性。Manus 正在行动战察看中引进多量构造化变革，像差别的序列化模板、替换表述方法、挨次或者格局上的纤细扰动。这类受控的随机性有帮于突破牢固情势，微调模子的留神力。换句话道，没有要把自己困逝世正在年夜唆使例里。高低文越简单，Agent 便越懦弱。



论断

高低文工程还是一门新兴教科。但是对于智能系统统而行，它已经是不成或者缺。模子可以变患上更强大、更快速、更自制，但是再强的本死才气也没法代替影象、情况取反应。您怎样塑制高低文，终极决定了智能体的举动：运行速率、规复才气，和可扩大的限度。

正在 Manus，咱们颠末一次次沉写、走退逝世胡共，和正在数百万用户中的实在尝试，才悟出那些经历。咱们正在此分享的实质并不是搁之四海而皆准的真谛，但是它们是咱们考证有用的情势。假设它们能助您少走哪怕一次疾苦的迭代，那篇帖子便值了。

智能体的未来，将靠一个个高低文逐步建立。请把它们设想佳。