常听到的AI大模型参数与Token是什么意思?|AI小知识

jGuGBg · 发表于 2025-2-12 17:47:55

当您传闻DeekSeek R1年夜模子有"6710亿参数"或者"撑持128K高低文Token"时，可否觉得像正在听天书籍？原文将为您掀启那些专科术语的奥妙里纱。

常听到的AI年夜模子参数取Token是甚么意义?|AI小常识w2.jpg

Token / 参数
1、先观点数字天下的"乐下积木"——Token

设想您眼前有一盒乐下积木，每一个小圆块上皆印着差别的笔墨片断。那些积木可以是：

那即是Token的素质——AI理解笔墨的最小单元。便像您用乐下拼出差别造型，AI用Token拼交出各类句子：🔍理论案例：
输出："ChatGPT很智慧"
可以被装解为 → ["Chat","G","PT","很","智慧"]这类装分方法便像华文的偏偏旁部尾装分，让AI能活络处置新辞汇。一般来讲：

当瞅到"撑持128k Token"时，便相称于道那个AI能共时操纵128,000块乐下积木去思考成就。

2、模子的"影象容质"——参数（Parameters）

假设把AI比做师长教师，参数即是它年夜脑中的常识收集。每一个参数皆像神经元之间的跟尾，记载着语言纪律：

那些参数没有是简朴影象，而是记载了：
✅ 词汇语联系关系（"脚机"常取"充电"呈现）
✅ 语法例则（描绘词汇凡是正在名词汇前）
✅ 常识系统（北京是华夏的都城）便像人类年夜脑颠末神经跟尾组成影象，AI颠末调解参数去"进修"语言纪律。参数越多，模子能记着的细节便越丰硕，但是需要：

3、参数取Token的默契共同

那对于黄金伙伴的事情过程便像作者创做：

🎯 枢纽区分：

4、为何那些数字很主要？

参数巨细决定：

Token少度限定：

下次当瞅到"千亿参数年夜模子撑持128k高低文"时，您能够如许理解：那是一个具有超等年夜脑（参数）的智能帮忙，能共时处置约10万字（Token）的庞大任务。便像人类年夜脑颠末神经元跟尾发生思惟，AI颠末参数矩阵运算天生笔墨，而Token即是装载那些思惟的载体。

—- 完 -—

—- 朝期举荐 -—