职贝云数AI新零售门户
标题:
DeepSeek新版本,适配下一代国产芯片!
[打印本页]
作者:
TKxT
时间:
2025-8-22 00:51
标题:
DeepSeek新版本,适配下一代国产芯片!
(, 下载次数: 1)
上传
点击文件名下载附件
国运级AI大模型与下一代国产芯片“你侬我侬”
全文字数:1720字,估计阅读工夫:5分钟
维科网电子8月21日音讯,明天深度求索(DeepSeek)在其官方公众号正式宣布发布DeepSeek新版本——DeepSeek-V3.1。
(, 下载次数: 3)
上传
点击文件名下载附件
此外,官方在置顶留言中还特别强调明了一句话:“UE8M0 FP8是针对即将发布的下一代国产芯片设计”。
(, 下载次数: 1)
上传
点击文件名下载附件
这款国运级AI大模型与下一代国产芯片,貌似协同优化又有了新的停顿?我们一同来看下。
新模型,哪些亮点?
先来看下DeepSeek-V3.1版本的一些更新细节。
(, 下载次数: 1)
上传
点击文件名下载附件
先从规模参数来看,那一定是“更大”了。相比前代V3版本,DeepSeek-V3.1从671B晋级至685B,支持高达128000个token的上下文长度,假如你用来写小说,估摸着可以写一本400页左右,十几万字的短篇小说了。
新模型在多项基准测试中表现突出,在Aider编码测试中获得了71.6%的成绩,超过了Anthropic的Claude Opus 4,同时推理速度分明更快。
而且V3.1支持多种精度格式,包括BF16和F32,还支持FP8(F8_E4M3),而这种精度支持,源自一项新见面的技术——UE8M0 FP8。
(, 下载次数: 2)
上传
点击文件名下载附件
软硬协同优化,针对下一代国产芯片设计?
DeepSeek官方除了在文案中提及UE8M0 FP8,还在留言区特意强调,UE8M0 FP8是针对“下一代国产芯片”设计的。
先来看下FP8精度是什么,其全称Floating Point 8,是一种8位浮点数格式,相比传统的FP16或FP32格式,它在保持可接受精度范围的同时,分明降低了内存占用和计算需求,愈加合适AI推理和训练。
而DeepSeek官方亲身留言,能够表明国产AI芯片在硬件层面,就可以原生支持FP8计算格式,从而可以愈加高效地运转DeepSeek-V3.1这类大模型?
毕竟这种协同设计,也许是有芯片厂商和DeepSeek之间能够停止了深度合作,针对特定精度格式和计算形式停止了结合优化。
不过下一代国产芯片姓甚名谁,官方尚未泄漏详细细节。
AI芯片行业,受英伟达CUDA的强悍生态和算力限制,国产芯片市场长期被挤压,当然也在不断寻觅新的打破口。
而FP8作为一个相对较新的精度标准,国内外终点相对来说相差不是特别大,或许是一个不错的切入点。
虽然国产AI芯片在软硬件生态方面临的应战是方方面面的——既需求硬件设计先进,还需求完善的软件栈、开发工具和生态系统支持,才能真正承载DeepSeek-V3.1这样的大模型。
但无论如何,DeepSeek-V3.1对FP8格式的支持和对国产芯片的优化,无疑为国产芯片进入AI芯片战场提供了一个新的切入方向。
经过支持开源模型和标准化精度格式,国产芯片可以逐渐构建本人的生态系统,逐渐减少对英伟达硬件的依赖。
除了硬件层面的创新,DeepSeek也经过软件优化来提升效率。V3.1采用了混合专家模型(Mixture-of-Experts,MoE)架构,每个token仅激活370亿参数,大幅降低了计算需求。
同时,DeepSeek还开发了SGLang推理引擎,针对MoE模型优化,完成了2-3倍的呼应生成速度提升。这些软件层面的创新,也在一定程度上降低了对高端硬件的要求,使得在相对有限的硬件环境下运转大模型有了更多能够性。
结语
当然,有些人会绝望,毕竟大家都在翘首以盼DeepSeek R2的诞生。不过退一步来看,国产芯片若能原生支持FP8等高效精度格式,并深度交融AI模型的计算特性,在英伟达主导的AI市场中找到打破口,是R2还是V3.1,好像也不是那么重要。
对此,你有什么看法,欢迎评论区分享你的观点。
##DeepSeek新版本发布##国产替代芯片
END
(, 下载次数: 1)
上传
点击文件名下载附件
点击上方名片星标★关注我们
第一工夫了解电子行业严重动态!
PS:觉得内容还不错的话,辛劳大家动动手指点个分享、点赞、引荐,让更多人看到!
(, 下载次数: 1)
上传
点击文件名下载附件
分享
(, 下载次数: 2)
上传
点击文件名下载附件
收藏
(, 下载次数: 1)
上传
点击文件名下载附件
点赞
(, 下载次数: 1)
上传
点击文件名下载附件
引荐
▼引荐阅读▼
(, 下载次数: 2)
上传
点击文件名下载附件
51亿AI服务器大单落地!9家企业瓜分,这3家占大头!
(, 下载次数: 3)
上传
点击文件名下载附件
融资超10亿!湖北这家车规芯片公司,又迎高光!
(, 下载次数: 1)
上传
点击文件名下载附件
潮汕女王,带着2800亿“果链”龙头,赴港IPO!
(, 下载次数: 1)
上传
点击文件名下载附件
鸿蒙破千万!华为再登顶,麒麟芯也传重磅音讯!
▼引荐活动▼
(, 下载次数: 1)
上传
点击文件名下载附件
(, 下载次数: 2)
上传
点击文件名下载附件
(, 下载次数: 1)
上传
点击文件名下载附件
(, 下载次数: 1)
上传
点击文件名下载附件
(, 下载次数: 1)
上传
点击文件名下载附件
商务合作 Alice:13122434666Email:liushuimiao@ofweek.com
欢迎光临 职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)
Powered by Discuz! X3.5