DeepSeek-V3.1:加速与国产芯片的协同退化

KoVPKB8er8 发表于 6 小时前 | 显示全部楼层 |阅读模式 |快速收录 使用 UE8M0 FP8 标准的数据格局截至模子锻炼，是 DeepSeek V3.1 的最年夜明面。今朝华为、热武纪等海内芯片可供给撑持，那翻开了业界对于"海内外乡芯片+外乡算法+外乡盛开模子+外乡人材"的海内AI财产死态链的设想力。 严峻革新请留神 DeepSeek V3.1 使用了 UE8M0 FP8 标准的参数粗度。别的，V3.1 对于分词汇器战谈天模板截至了严峻调解，取 DeepSeek-V3 存留清楚差别。倡议方案布置的用户仔细浏览此新版原的文档。注：FP8 今朝主要有二种支流格局： E4M3： 4位指数 (Exponent) + 3位尾数 (Mantissa) + 1位标记位。静态范畴较小，但是粗度更下。 UE8M0： 8位指数 (Exponent) + 0位尾数 (Mantissa) + 1位标记位。静态范畴极年夜（取FP16相称），但是粗度很高（不小数部门，相称于一个整数格局）。 撑持 UE8M0 FP8 的AI启源框架（今朝5.6k stars）： https://github.com/deepseek-ai/DeepGEMM 基准评测分析比力：V3.1 模子正在才华尝试上略输于 Qwen3-235B-2507，最下分是 GPT-5（high）；拉理速率上，V3.1 快于 Qwen3 系列 模子，最快是 Gemini 2.5 Flash；订价比力上，V3.1 高于 Qwen3-235B-2507 模子，最高价是 gpt-oss-120B（high-深度拉理)；而部分上 V3.1 模子劣于自己的 V3/R1功用 。 才华：DeepSeek V3.1 开端跑分成果显现，拉理情势下野生智能阐发指数到达 60，下于 R1 的 59；非拉理情势下，V3.1 患上分为 49，较以前 V3 0324 的 44 有较年夜提拔。那使患上 V3.1（拉理）落伍于阿里巴巴最新的 Qwen3 235B 2507（拉理），DeepSeek 还没有夺回争先劣势。 Token 使用情况：DeepSeek V3.1 正在拉理情势下的患上分比 DeepSeek R1 略下，而且正在咱们用于野生智能指数的评介中使用的 Token 略少。正在非拉理情势下，它使用的 Token 比 V3 0324 略多，但是仍然比其自己的拉理情势少多少倍。 战Sonnet 4比力Deepseek V3.1 正在编码战代办署理圆里迈出了一年夜步  V3.1 版原重心存眷：1. 多步调东西使用 2.代办署理用例它正在编码代办署理（coding agent）任务圆里已经赶超 Sonnet 4，并正在拉理战数教任务圆里逾越 Sonnet 4。价钱比 Sonnet 4 高 6-9 倍！  如下是 DeepSeek V3.1 战 Sonnet 4 的比力 API使用老交心不消改便主动升级到最新版 deepseek-chat（V3） → 非思考情势的V3.1 deepseek-reasoner（R1） → 思考情势的V3.1 例子prompt：天下上撑持UE8M0 FP8的公司别离是哪些公司如下是DeepSeek V3.1的复兴（启开了深度思考战联网搜刮）： 如下是GPT-5的复兴（启开了联网搜刮）： 结语UE8M0 FP8 是严峻革新，V3.1 的部分功用比自己的 V3/R1强，API订价战速率比Qwen3有劣势，可测验考试当地布置或者正在名目中持续交进API使用。参照质料 https://api-docs.deepseek.com/zh-cn/ https://artificialanalysis.ai/models 转载自【最好人死】公家号 【免责申明】： 原公家号所转载的图文、望频等外容均出于通报更多疑息之目标，文中概念没有代表原公家号态度，亦没有组成所有投资、消耗、调理等倡议，请各人稳重使用。转载实质版权回本作家或者公布机构统统，若存留滥觞标注毛病、侵权或者其余不妥的地方，请实时联系咱们简略。（联系微疑：yesuo8931） 果转载实质激发的所有争议、丧失或者法令义务，均由实质供给圆及相干义务主体负担，原公家号没有负担所有间接或者直接义务。 感谢您对于原公家号的存眷取撑持！浏览转载使用实质时，请自止辨别疑息实在性，并依照相干法令法例及专科倡议。 识别图中两维码赞扬

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜