职贝云数AI新零售门户

标题: OAI/谷歌/DeepSeek初次合体「AI梦之队」!战力飙升30%,碾压一切单模型 [打印本页]

作者: SP0u 时间: 2025-7-8 09:53
标题: OAI/谷歌/DeepSeek初次合体「AI梦之队」!战力飙升30%,碾压一切单模型

新智元报道

编辑：定慧好困【新智元导读】三个前沿AI能交融成AGI吗？Sakana AI提出Multi-LLM AB-MCTS方法，整合o4-mini、Gemini-2.5-Pro与DeepSeek-R1-0528模型，在推理过程中动态协作，经过试错优化生成过程，有效交融群体AI智慧。

三个臭皮匠顶个诸葛亮、双拳难敌四手。。。

这些对于人类再自然不过的群体智慧思想，似乎从来没有发生在AI身上。

我们总是希冀某个AI可以足够智能，科技巨头们之间的比拼也是经过单模型的不断更新来标榜先进性。

比如o4-mini、Gemini-2.5-Pro、DeepSeek-R1-0528这些具有代表性的模型，到底哪个写的代码更好？

但假如，将多个AI模型的才能「融会贯通」，能否也达到三个臭AI顶个AGI的效果？

(, 下载次数: 0)

最近，一项来自于Sakana AI的研讨，在推理过程中——而不是在构建——试图将三种模型的才能整合起来。

结果令人诧异，整合后的模型才能都远超单个模型，三模合一的功能也好于只要两个模型合体的功能。

(, 下载次数: 0)

Sakana AI运用一种新的推理时Scaling算法，自顺应分支蒙特卡洛树搜索AB-MCTS（Adaptive Branching Monte Carlo Tree Search）。

该算法使AI可以高效地执行试错操作，并让多个前沿AI模型协同合作。

运用AB-MCTS将o4-mini、Gemini-2.5-Pro和R1-0528这三种当前最先进的AI模型组合起来，在ARC-AGI-2基准测试中获得了令人诧异的成绩。

多模型的得分远超单独的o4-mini、Gemini-2.5-Pro和DeepSeek-R1-0528模型。

(, 下载次数: 0)

论文地址：https://arxiv.org/abs/2503.04412

这种想法，曾经在在2024年关于退化模型交融的研讨中得到过初期验证，经过退化计算和模型交融，应用现有开源模型发掘到了多模型所包含的宏大群体智慧。

(, 下载次数: 0)

但AB-MCTS更进一步，不只在构建新模型时，而且在推理过程中也运用多个模型。

应用不断提高的前沿模型（例如ChatGPT、Gemini和DeepSeek），生成一种新的群体智能的方式。

(, 下载次数: 0)
推理时Scaling

当你面对一个无法一眼看透的难题时，会怎样做？

很能够，你会花更长工夫独立思索，亲身实际、反复试错，或是与别人协作。

那么，我们是不是也能让AI用异样的方式去处理难题呢？

这次团队提出的AB-MCTS，正是经过推理时Scaling技术，让AI不只能高效地执行试错，还能让多个不同的AI停止集体思索。

(, 下载次数: 0)

驾驭搜索的两个维度：深度与广度

目前，有两种常见的方法可以让LLM停止试错：

(, 下载次数: 0)

实际证明，无论是深化搜索（优化现有处理方案）还是扩展搜索（生成新处理方案），都能有效协助LLM找到更优的答案。

为了将这两者有效地结合起来，团队提出了一种用于推理时Scaling的、更高效的全新方法——AB-MCTS。

它能根据详细成绩和上下文，在深度和广度两个方向上停止灵敏搜索。

(, 下载次数: 0)

为了完成这种灵敏搜索，AB-MCTS扩展了在AlphaGo等系统中得到成功运用的蒙特卡洛树搜索 (MCTS)，并采用汤普森采样来决议探求方向。

详细而言，在每个节点（代表初始提示词或一个已生成的处理方案），AB-MCTS会应用概率模型来评价两种能够举动的潜在价值：

随后，从这些模型中停止采样，根据估算出的价值来决议下一步的探求方向。

为了评价尚未生成的新方案的质量，AB-MCTS会经过混合模型和概率分布来对评价过程停止建模，从而完成真正灵敏的搜索。

第三个维度：AI

为了最大化LLM作为集体智能的潜力，一个名为Multi-LLM AB-MCTS的系统应运而生。

它不只能自顺应地探求搜索方向，还能根据给定的成绩和情境，选择运用哪个LLM。

(, 下载次数: 0)

详细来说，Multi-LLM AB-MCTS的运作方式如下：

至于如何选择模型，团队的方法是——

实验结果

ARC-AGI旨在评价一种类人、灵敏的智能，这种智能可以高效地停止推理并处理新成绩，而不像传统目的那样测试特定技能或知识。

实验采用的是更具应战性的ARC-AGI-2。

(, 下载次数: 0)

来自ARC-AGI-2的一个示例成绩：义务是从左侧的三个演示案例中推断出共同的转换规则，并将其运用到右侧的测试案例中

为了次要评价搜索算法的最大潜在功能，运用了Pass@k目的，该目的用于衡量在k次尝试内能否至少找到了一个正确的处理方案。

这与ARC-AGI-2比赛的官方标准不同，后者通常采用Pass@2标准（提交两个最终答案，其中一个是正确的）。

Pass@2方法需求从搜索结果中选择有希望的候选方案的额外步骤。

实验是在ARC-AGI-2的公共评价集中的120个义务上停止的。

(, 下载次数: 0)

结合Gemini-2.5-Pro与DeepSeek-R1-0528的Multi-LLMAB-MCTS在Pass@250上表现出更高的得分。

(, 下载次数: 0)

反复采样不断被以为是ARC-AGI中一种非常有效的方法。

理想上，在实验中，运用o4-mini停止反复采样成功处理了23%的成绩（即生成了可以正确转换测试用例的Python代码）。

这一结果远超单次尝试的得分，展现了反复采样的弱小才能。

AB-MCTS进一步将得分提高至27.5%。这两种方法之间的差异在约50次LLM调用后变得愈加分明。

经过将前沿模型作为具有多LLMAB-MCTS的集体智能加以应用，最终可以为超过30%的成绩找到正确的处理方案。

在Multi-LLMAB-MCTS中发现的一个关键特征是它可以根据各个LLM在特定成绩上的专长动态地分配它们。

下图清楚地展现了这一行为：对于在演示示例中成功率较高的状况（图的左侧），观察到对某个特定LLM的分明偏好。

这种倾向发生的缘由是在搜索过程中，算法辨认出哪个LLM对于给定的成绩最有效，并随后添加该模型的运用频率。

(, 下载次数: 0)

还有一些风趣的例子，其中单个LLM无法处理的成绩在组合运用多个LLM后得以处理。

这超出了为每个成绩分配最佳LLM的简单做法。

在下面的例子中，虽然o4-mini最后生成的解答是错误的，但DeepSeek-R1-0528和Gemini-2.5-Pro可以在下一步将其作为提示来得出正确的解答。

这表明Multi-LLMAB-MCTS可以灵敏地结合前沿模型，处理本来无法处理的成绩，从而推进将LLMs用作集体智能所能完成的边界。

(, 下载次数: 0)

运用Multi-LLMAB-MCTS处理ARC-AGI-2时的搜索树示例。

节点中的数字表示生成顺序，颜色代表所选的LLM。

黄色节点表示生成了正确转换测试用例的代码的节点。

这是一个单一LLM均无法找到处理方案，但经过多个LLM的组合成功处理成绩的示例。

多LLMAB-MCTS使得不同LLM之间可以协作。

上图展现了一个例子，其中DeepSeek-R1-0528在o4-mini（来自上图成绩中生成的错曲解答）的基础上改进，最终得出了正确答案。

Multi-LLMAB-MCTS旨在经过推理时Scaling多个前沿模型的合作来提升功能。在结合多个LLM方面，也提出了诸如多智能体辩论（Multiagent Debate）、智能体混合（Mixture-of-Agents）和LE-MCTS等其他方法。

自2024年中以来，「推理」模型逐渐遭到注重，这些模型经过强化学习优化推理过程，开启了继模型扩展之后的新范式——推理时Scaling时代。

经过反复执行这些模型的推理过程，并结合多个具有独特个性的LLMs，可以进一步提升推理功能。

虽然人类大脑本身已可谓自然奇观，但真正撼动时代的伟业，从不属于孤胆英雄。

无论是将人类送上月球的阿波罗计划，构建全球信息命脉的互联网，还是破译生命密码的人类基因组计划，这些里程碑式的成就，皆源于有数头脑之间的协作与共鸣。

正是多样知识的交汇、思想的碰撞，才让我们一次次打破人类智慧的边界——这种智慧异样适用于AI。

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)