Skip to main content

前言-6

本文总结线性代数在马尔可夫链、图论及深度学习等领域的应用,强调特殊矩阵结构的重要性。通过三个热身问题直观揭示“向量个数超过空间维度必线性相关”的核心原理,并指出配套网站资源,正式开启从几何直觉到代数结构的课程旅程。

正文​

本书与网站中的应用案例​

我希望这本书能在你完成线性代数课程后,依然长期对你有用。线性代数的各类应用正是实现这一点的关键。矩阵承载数据,其他矩阵则对这些数据进行运算。我们的目标是通过理解特征值、特征向量、奇异值与奇异向量,来“看透矩阵的本质”。每类应用都对应着特殊的矩阵,以下是四个典型例子:

  • 马尔可夫矩阵 (M):每一列都是一组概率,且列内元素之和为 1。
  • 关联矩阵 (A):图与网络由一组节点构成,矩阵 (A) 描述了这些节点之间的连接(边)。
  • 变换矩阵 (F):傅里叶矩阵可揭示数据中的频率信息。
  • 协方差矩阵 (C):方差是描述随机变量的核心信息,协方差则解释了变量之间的依赖关系。

在第6版中,我们收录了这些及更多应用案例。针对深度学习中矩阵权重的关键计算,第9章介绍了优化理论。在这里,线性代数与微积分交汇:由于函数 (F(x)F(x)) 包含多个变量,“导数为零”这一条件在极小值点处转化为矩阵方程。


第5版中的若干主题虽不再占据正文章节,但其重要性并未减弱——这些章节被迁移至线上。本第6版的配套网站为:

math.mit.edu/linearalgebra

该网站包含第6版的样章及所有习题的解答。以下是从第5版迁移至线上的部分章节(及更多内容):

  • 傅里叶级数
  • 范数与条件数
  • 迭代法与预条件子
  • 密码学中的线性代数

线性代数小热身:课程正式开始前的三个问题​

  1. 假设你在纸上画出三条长度分别为 (r,s,tr, s, t) 的线段,要将它们拼成一个三角形,这三个长度需要满足什么条件?(本题中你可自由选择三条线段的方向)
  2. 假设三条直线 (u,v,wu, v, w) 的方向固定且互不相同,你可以将它们分别拉伸为 (au,bv,cwau, bv, cw)((a,b,ca,b,c) 为任意实数)。是否总能由这三个向量 (au,bv,cwau, bv, cw) 构成一个闭合三角形?
  3. 线性代数并不局限于平面!假设在三维空间中有四条方向互不相同的直线 (u,v,w,zu, v, w, z),是否总能选取非零实数 (a,b,c,da,b,c,d),使得 (au+bv+cw+dz=0au + bv + cw + dz = 0)?

致谢与联系方式​

感谢 Wellesley Publishers 的 Ashley C. Fernandes 负责本书排版、网站维护及为印度读者提供优质教材。 官网:www.wellesleypublishers.com 作者邮箱:gilstrang@gmail.com 吉尔伯特·斯特朗

备注​

此处是为了理解翻译者加上的。

核心知识点梳理​

  1. 应用导向:线性代数的核心价值在于应用,从马尔可夫链、图论到深度学习优化,矩阵是处理数据的核心工具。
  2. 特殊矩阵:不同应用场景对应不同结构的矩阵(如马尔可夫矩阵、协方差矩阵),理解其结构是解决问题的关键。
  3. 热身问题:三个问题分别对应三角不等式、平面向量线性组合、三维空间线性相关性,是线性代数思维的入门训练。

三个热身问题的答案和解析(线性代数视角)​

题目1​

Suppose you draw three straight line segments of lengths (r,s,tr,s,t) on this page. What are the conditions on those three lengths to allow you to make the segments into a triangle? In this question you can choose the directions of the three lines.

中文题意​

在平面上画三条线段,长度分别为 (r,s,tr,s,t),方向可以任意选。问:满足什么条件,就能拼成三角形?

完整解答​

三角形的本质,就是三个向量首尾相接、闭合、总和为 0: ar+bs+ct=0a\boldsymbol{r}+b\boldsymbol{s}+c\boldsymbol{t}=0 其中 (r,s,t\boldsymbol{r},\boldsymbol{s},\boldsymbol{t}) 是三个方向。

  1. 平面是 2 维空间。
  2. 在 2 维空间里,任意 3 个向量一定线性相关。
  3. 只要这三个线段两两不平行(两两不共线),就一定是线性无关的两个方向 + 一个多余方向。
  4. 因为方向可以任意选择,我们总能调整方向,让三个向量互相抵消、闭合。
最终结论(线代版)​

只要三条线段 两两不平行(任意两条不共线),就一定可以拼成三角形。

这题考的不是长度,是维度 + 线性相关。


题目2​

Now suppose the directions of three straight lines (u,v,w\boldsymbol{u},\boldsymbol{v},\boldsymbol{w}) are fixed and different. But you could stretch those lines to (au,bv,cwa\boldsymbol{u},b\boldsymbol{v},c\boldsymbol{w}) with any numbers (a,b,ca,b,c). Can you always make a closed triangle out of the three vectors (au,bv,cwa\boldsymbol{u},b\boldsymbol{v},c\boldsymbol{w})?

中文题意​

三个向量 (u,v,w\boldsymbol{u},\boldsymbol{v},\boldsymbol{w}) 方向固定、互不相同。 可以任意拉伸长度为 (au,bv,cwa\boldsymbol{u},b\boldsymbol{v},c\boldsymbol{w})。 问:是否一定能拼成闭合三角形?

完整解答​
  1. 平面是 2 维空间。
  2. 空间维度 = 2,向量个数 = 3。
  3. 向量个数 > 空间维度 ⇒ 必然线性相关。
  4. 线性相关的定义:一定存在不全为 0 的系数 (a,b,ca,b,c),使得 au+bv+cw=0a\boldsymbol{u}+b\boldsymbol{v}+c\boldsymbol{w}=0
  5. 几何上,这个式子就表示:三个向量拉伸后,可以首尾相接、闭合、形成三角形。
最终结论​

一定可以拼成闭合三角形。


题目3​

Linear algebra doesn't stay in a plane! Suppose you have four lines (u,v,w,z\boldsymbol{u},\boldsymbol{v},\boldsymbol{w},\boldsymbol{z}) in different directions in 3-dimensional space. Can you always choose the numbers (a,b,c,d) (zeros not allowed) so that au+bv+cw+dz=0a\boldsymbol{u}+b\boldsymbol{v}+c\boldsymbol{w}+d\boldsymbol{z}=0?

中文题意​

三维空间里有 4 个向量,方向都不同。 能否找到不全为 0 的系数 (a,b,c,da,b,c,d),使得它们的线性组合等于 0?

完整解答​
  1. 三维空间 (R3\mathbb{R}^3) 的维度 = 3。
  2. 向量个数 = 4。
  3. 向量个数 > 空间维度 ⇒ 必然线性相关。
  4. 线性相关的定义就是:一定存在不全为 0 的系数,使得 au+bv+cw+dz=0a\boldsymbol{u}+b\boldsymbol{v}+c\boldsymbol{w}+d\boldsymbol{z}=0
  5. 方向不同只代表任意两个不共线,但不影响“4 个向量一定相关”。
最终结论​

一定可以找到这样的非零系数。

三题总规律(Strang 想教你的真正道理)​

  • 2 维空间 ⇨ 最多 2 个线性无关向量
  • 3 维空间 ⇨ 最多 3 个线性无关向量
  • 向量个数 > 维度 ⇒ 必线性相关
  • 线性相关 ⇨ 一定能组合成 0 ⇨ 几何上能闭合

我给你编最简单、最直白、完全对应这三道题的一句话口诀,背下来就彻底懂前言在讲啥了:

线性代数热身题 · 一句话口诀​

维数定上限,多了必相关;不平行就无关,能凑零就闭合。


前言全部内容 · 一句话总结​

线性代数,就是研究:向量怎么组合、空间有多大、哪些向量多余、哪些是骨架。

  • 不平行 = 线性无关
  • 向量个数 > 维度 = 必相关
  • 相关 = 能凑成 0 = 能闭合
  • 矩阵分解 = 找出真正独立的“骨架”
  • 四大子空间 = 空间的四个基本部分