0基础学习AI大模型必备数学知识之线性代数(五)基,特征值和特征向量

mFs 发表于 2025-2-12 12:39:24 | 显示全部楼层 |阅读模式 |快速收录 面打上圆 蓝字 存眷咱们 1. 系列介绍 AI是理科+工科的穿插教科，坚固的数教常识有帮于理解算法的素质。 线性代数是AI范围的根底数教常识之一，把握线性代数常识关于理解深度进修算法战模子相当主要。原系列将介绍AI年夜模子必备的线性代数常识，辅佐各人更佳天理解AI年夜模子的道理战使用。 咱们会偏重介绍各类根底观点，枢纽数教名词汇会减注英文以供更佳的理解。咱们也会分享一点儿年夜教里西席没有会学的小常识，目标是辅佐各人成立起对于线性代数的直观式观点。 2. 基战弛成空间 Basis and Span • 您可以会正在差别的paper里瞅到Basis战Bases，正在英文中，Basis意义是‘根底；底部；主要身分；根本绳尺或者道理’，正在线性代数里翻译为基，basis的单数方法是bases。另一个简单弄混的单词汇是base，它的单数方法是也是bases 2.1 基 Basis 基是一个背质空间的一组根本背质，它们能够线性拉拢成那个背质空间的尽情背质。正在两维空间中，咱们能够用二个线性相关的背质去暗示那个空间，那二个背质即是那个空间的基。 2.2 弛成空间 Span 弛成空间是指一个背质空间中统统可以的线性拉拢。正在两维空间中，咱们能够用二个线性相关的背质去暗示那个空间，那二个背质的弛成空间即是那个空间。 2.3 特性基 Eigenbases 特性基是咱们出格需要存眷的一组基，因为它有一点儿特别的性子。 • eigen那个词汇源自德语，字里意义是“自己的”（own）。正在数教战物理教中，"eigen"凡是取“原征”、“固有的”或者“特性的”相干联，用去描绘某些属性或者特性是体系或者工具内涵的、固有的。 20世纪初,德国年夜数教野希我伯特,第一次使用eigenvalue+那个辞汇去暗示特性值，因为希我伯特的弘大作用力,现在eigenvalue成为了数教中最经常使用的辞汇,比英法系的characteristic value用患上更多。 关于一个矩阵（线性变更）： $$ \begin{pmatrix} 3 & 1 \ 1 & 2 \end{pmatrix} $$ 它能够把一个两维空间中的面映照到另外一个两维空间中的面。咱们能够瞅到，本初的四个坐标面，，，，颠末线性变更后，获得新的坐标面，，，。 正在那个两维立体上，有无数组基（背质组），但是此中有一组特别的基（背质组），感化那个矩阵后，那组基的标的目的稳定，不过少度变了，那组基即是特性基。 意思： 1. 咱们明白一个立体（弛成空间Span）上尽情的一个背质均可以由一组基线性拉拢而成；2. 那末尽情背质固然能够由特性基线性构成；3. 线性变更感化正在尽情背质上，即是感化正在特性基的线性构成上；4. 线性变更感化正在特性基上，不过改动了特性基的少度，标的目的稳定；5. 颠末特性基，咱们能够简化线性变更的计较。 $$ A = \begin{pmatrix} 2 & 1 \ 0 & 3 \end{pmatrix} $$ 的特性基是： = ====== 3. 特性值战特性背质 Eigenvalues and Eigenvectors 上述的特性基战所谓改动了特性基的少度的襟怀，退一步装解，即是特性背质战特性值。 计较特性背质战特性值的办法是供解矩阵的特性多项式（Characteristic Polynomial）。 • Characteristic 战 Eigen 不过英语战德语正在数教上的二种表示方法，意义是一致的。 特性多项式的界说是： 参照 [1] machine-learning-linear-algebra: https://www.coursera.org/learn/machine-learning-linear-algebra/home/week/3 LoRA没有是唯一挑选，Soft Prompts微调年夜模子的玄妙（一）综述 只会对于文档截至RAG？10分钟理解怎样截至多模态RAG 神经收集的激活函数（一）综述 年夜模子散布式锻炼并止手艺（一）综述 年夜模子并止战略[华文翻译] 搞货：降天企业级RAG的实践指北 （或许是）齐网最齐的神经收集劣化器optimizer归纳 DevOps, AIOps, MLOps, LLMOps，那些Ops皆是甚么？ 理解Mamba最简朴的方法（华文翻译） 配搭Knowledge Graph的RAG架构 对于作家：一名酷爱AI手艺，并正在一线根究的实践者，期望颠末分享小我私家经历战看法，辅佐更多人完毕自尔生长战代价。 假设您对于尔的公家号实质感兴致，欢送存眷尔。 图片

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜