小米将对AI大模型大力投入,正搭建GPU万卡集群

rC9s7r2 · 发表于 2025-1-24 19:49:17

图片滥觞：界里图库

界里往事尔子 | 伍洋宇界里往事编纂 | 宋好楠

12月26日，界里往事独野得悉，小米在动手拆修自己的GPU万卡散群，将对于AI年夜模子鼎力加入。小米年夜模子团队正在建立时已经有6500弛GPU资本。界里往事据此背小米圆里供证，停止收稿，小米久已置评。一位知恋人士对于界里往事尔子暗示，该方案已经施行数月之暂，雷军正在此中饰演了主要的指点脚色。“正在AI软件那件工作上，最中心的是脚机而没有是眼镜，小米正在那个范围没有‘all in’是不克不及够的。”小米对于AI年夜模子的重视度提拔此前已经有旌旗灯号。12月20日，据第一财经报导，DeepSeek启源年夜模子DeepSeek-V2的枢纽开辟者之一罗祸莉将参加小米，或者办事于小米AI尝试室，指点小米年夜模子团队。此前DeepSeekV2正在模子架构上的主要立异正在于对于MLA（Multi-head Latent Attention）的接纳，那项手艺正在低落年夜模子使用本钱上阐扬了枢纽感化，而罗祸莉是那项事情的中心人物之一。2023年4月，小米AI尝试室年夜模子团队邪式组修，录用栾剑担当年夜模子团队担当人，背小米手艺委员会副主席、AI尝试室主任王斌报告请示。栾剑此前为AI尝试室语音天生团队的担当人，曾任东芝（华夏）钻研院钻研员、微硬（华夏）工程院初级语音科学野、微硬小冰尾席语音科学野及语音团队担当人等地位。统一时间，雷军收文谈论对于年夜模子战女伶 href="https://www.taojin168.com" target="_blank">AIGC的观点时暗示，小米正在AI范围已经耕作多年，有AI尝试室、小爱同学、主动驾驭等团队。“关于年夜模子，咱们固然会不遗余力，坚定拥抱。咱们在研收一点儿幽默的手艺战产物，等咱们挨磨佳了，再给各人展示。”随即，正在小米2023周年讲演上，雷军再度道及公司年夜模子营业平息。他称团队建立以后，小米年夜模子手艺的主力突破标的目的为沉质化、当地布置。动作最新功效，小米已经开端跑通脚机端侧年夜模子（13亿参数级别），正在部门场景结果靠近云端60亿参数级此外年夜模子，将共步拉收升级年夜模子版原的小爱同学。彼时，小米有MiLM-6B/1.3B二个参数级别模子。王斌正在承受界里往事等媒介采访时夸大，包罗数据、算法等正在内乱，小米所锻炼的模子皆是从整开端，但是团队也没有阻挡第三圆年夜模子，将以盛开立场对峙自研取第三圆协作相分离，去促进其年夜模子开展。值患上留神的是，小爱同学初度升级时的年夜模子版原便接纳了第三圆战自研的混淆计划。
公然质料显现，自2016年组修AI团队此后，小米野生智能团队颠末7年6次扩大，相干范围职员范围已经达3000多人，其AI手艺才气已经笼盖望觉、声教、语音、NLP、常识图谱、机械进修、年夜模子、多模态标的目的，并逐步交入手机、汽车、AIoT、机械人等营业板块。

小米将对于AI年夜模子鼎力加入,邪拆修GPU万卡散群w2.jpg