1.线性方程组

线性方程组是线性代数的核心，1.1~1.2 将介绍解线性方程组的系统方法，1.3~1.4 指出线性方程组等价于 向量方程 和 矩阵方程

另外还讲到 线性表示，线性无关，线性变换 的概念

1. 第1章：线性方程组（贯穿整个线性代数）
2. 第2章，第4章：矩阵代数，向量代数
3. 第3章：行列式（研究矩阵代数的有力工具）
4. 第5章：矩阵的特征性质
5. 第6章：向量和矩阵的正交性质
6. 第7章：
7. 第8章：

1.线性方程组

包含变量 \(x_1,x_2,\dots, x_n\) 的线性方程是形如 \(\sum\limits_{i=1}^n a_ix_i = b\) 的方程

其中 b 与系数 \(a_i\) 是实数或复数，通常已知

线性方程组是由一个或几个包含相同变量 \(x_1,x_2,\dots,x_n\) 的线性方程组成的

线性方程组的解是一组数 \((s_1,s_2,\dots,s_n)\)，用这组数分别代替 \(x_1,x_2,\dots,x_n\) 时所有方程的两边相等

方程组所有可能的解的集合，称为线性方程组的解集；若两个线性方程组有相同的解集，则两个线性方程组称为等价的

（也就是说，第一个方程组的每个解都是第二个方程组的解，第二个方程组的每个解都是第一个方程组的解）

若线性方程组有 唯一解 或 无穷多解，则称该线性方程组是 相容的；若它 无解，则称它是 不相容的

把每个变量的系数写在对齐的一列中，这些列依次排列，可以得到线性方程组的系数矩阵

注：m 个含有 n 个变量的线性方程组可以构造 \(m\times n\)（m 行 n 列） 的矩阵

在线性方程组的系数矩阵基础上添加一列由方程组右边常数组成的列，可以得到线性方程组的增广矩阵

1. 倍加变换：把某一行换成它本身与另一行的倍数的和，即 \(L_i \leftarrow L_i+kL_j\)
2. 对换变换：交换两行，即 \(L_i \leftrightarrow L_j\)
3. 倍乘变换：把某一行的所有元素乘以同一个非零数，即 \(L_i \leftarrow kL_i\)

注：

• 经过行初等变换后的线性方程组，与原方程组是行等价的
• 上述三个操作时可逆的
• (1) 和 (3) 的结合： \(L_i \leftarrow pL_i + qL_j\)
• 若两个线性方程组的增广矩阵是行等价的，则它们具有相同的解集

1. 迭代行号 \(i=1..m-1\)
   1. 将第 i 行的后缀方程中含有 \(x_i\) 的方程 \(L_j\) 与方程 \(L_i\) 进行对换交换（其中 \(i\le j\le m\)）
   2. 对 \(L_i\) 进行倍乘变换，其中参数 \(k=\frac 1{a_{i1}}\)
   3. 将 \(L_i\) 倍加到 \(L_j(i < j \le m)\) 上，参数 \(k=-\frac {a_{ji}}{a_{ii}}\)
2. 迭代行号 \(i=m..2\)
   1. 将 \(L_i\) 倍加到 \(L_j(1 \le j < i)\) 上，参数 \(k=-a_{ji}\)

1. 线性方程：\(\sum\limits_{i=1}^n a_ix_i = b\)（\(x_1,\cdots,x_n\) 为未知数）
2. 线性方程组：\(\forall i=1..m,\sum\limits_{j=1}^na_{ij}x_j=b_i\) 或 \(\begin{cases}a_{11}x_1+\cdots+a_{1n}x_n=b_1\\~~~~~~~~~~~~~~~~\vdots\\a_{m1}x_1+\cdots+a_{mn}x_n=b_n\end{cases}\)（\(x_1,\cdots,x_n\) 为未知数）
3. 向量方程：\(\sum\limits_{i=1}^nx_i\mathbf a_i=\mathbf b\)（\(x_1,\cdots,x_n\) 为未知数）
4. 矩阵方程：\(A\mathbf x=\mathbf b\)（\(x_1,\cdots,x_n\) 为未知数）
5. 解，解集，等价：线性方程组的解定义为能替代 \((x_1,x_2,\dots,x_n)\) 的一组数 \((s_1,s_2,\dots,s_n)\)；线性方程组的解集为所有解的集合，即 \(\{\mathbf x~:~有关\mathbf x的方程组\}\)；两个线性方程组等价，当且仅当它们的解集相同
6. 相容性：若(非齐次)线性方程组有唯一解或无穷多解，则称该线性方程组是相容的；若它无解，则称它是不相容的
7. 系数矩阵，增广矩阵：线性方程组，向量方程，矩阵方程三者可以一一对应，其中 A 称为系数矩阵，\([A~~\mathbf b]\) 称为增广矩阵
8. 行初等变换：(1) 倍加变换 \(L_i \leftarrow L_i+kL_j\)，(2) 对换变换 \(L_i \leftrightarrow L_j\)，(3) 倍乘变换 \(L_i \leftarrow kL_i\)；行初等变换是可逆的，并且象与原像之间是行等价的

1. \(\mathbb R^n\) 上一个线性方程（隐含 n 个未知数）代表 \(\mathbb R^n\) 的 \(n-1\) 子空间

(1)，(2)，(3)：使用不同程度的[行初等变换]算法即可

(6.1) 包含 2 个未知量的线性方程组表示多个二维平面上直线的交集

(6.2) 包含 3 个未知量的线性方程组表示多个三维空间上平面的交集

(6.3) 包含 n 个未知量的线性方程组表示多个 \(\mathbb R^n\) 上的 \(n-1\) 维子空间的交集

(8) \(\begin{bmatrix}a&b&f\\c&d&g\end{bmatrix}\sim\begin{bmatrix}a&b&f\\0&d-\frac cab&g-\frac caf\end{bmatrix}\)，于是 \(d-\frac cab\ne0\)

(9) \(E=\begin{bmatrix}1&0&0\\0&1&0\\0&3&1\end{bmatrix}\)

2.行化简与阶梯型矩阵

假设 \(L_i\) 为某个矩阵的非零行（即 至少包含一个非零元素的行），那么其先导元素为该行中从左往右第一个非零元素

注：先导元素也指的是列向量？；也可以推广到 非零列的先导元素

若一个矩阵称为 阶梯型（或行阶梯型），它满足以下三个性质：

1. 任意非零行都在任意零行之上
2. 除了第一行外的非零行的先导元素严格位于上一个非零行的先导元素右下方
3. 任意先导元素（所在列）的正下方的元素都是零（实则是性质 2 的推论）

若阶梯型矩阵称为 简化阶梯型（或简化行阶梯型），它还满足以下两个性质：

1. 任意非零行的先导元素是 1
2. 任意先导元素 1 是该元素所在列的唯一非零元素（即该元素 正上方 或 正下方均是 0）

每个矩阵行等价于唯一的简化阶梯型矩阵

证明：详见 附录 A

主元位置：某个矩阵 A 对应的行阶梯型 B 中，某个非零行从左往右第一个非零元素所在的位置，称为 主元位置

主元列：A 的某行中主元位置所在的列，称为该行的 主元列，如果主元位置存在

注：某个矩阵的的任意列只有两种情况：对应一个主元列 或 不存在主元列；A 经过行变换为简化阶梯型 B 后，可以确定 A 的主元列

主元：对于某一行，在该行主元位置上的非零元素

1. 从左到右确定第一个非零列为 主元列，主元位置 为主元列最上方的位置
2. 从主元列中选择一个非零元素作为 主元；如有必要，将主元所在行与主元位置所在的行进行交换
3. 用倍加变换使主元下方的元素变为 0
4. 去除与主元相关联的 行 和 列，得到新矩阵，如果非空，则执行前三个步骤
5. 从最后一个主元开始迭代，使用倍加变换使每个主元上方的元素变为 0；若主元不为 1，则用倍乘变换使其变为 1

注：前 4 个步骤可以得到 阶梯型；前 5 个步骤可以得到 简化阶梯型

注2：计算机在第二个步骤中会选取绝对值最大的元素作为主元，称为 部分主元法，用于减少舍入误差

注3：回代法类似于以人的思维来化简 阶梯型 得到 简化阶梯型

基本变量：主元列对应的变量，称为基本变量

自由变量：非主元列对应的变量，称为自由变量；意味着该变量可以取任意值

注：基本变量可以用自由变量来表示，仅当线性方程组是相容的

通解：将基本变量通过自由变量来表示的方程组

参数表示：是一种解集的表示方法，约定自由变量总是作为 参数（换句话说解集的表示形式不唯一）；比如：\(\begin{cases}x_1=3x_2+5\\x_2为参数/自由变量\\x_3=4\end{cases}\)

• 解集为空集，仅当方程组不相容

注：对于 \(n\times (n+1)\) 的矩阵，化简为阶梯型需要 \(\frac {2n^3}3 + \frac {n^2}2 - \frac {7n}6\) 次浮点运算，进一步化简为 简化阶梯型 仅需大约 \(n^2\) 次运算

线性方程组相容，当且仅当 其增广矩阵的最右列不是主元列（换句话说，增广矩阵的阶梯型没有形如 \([0~\dots~0~b],~b\ne 0\) 的行；即 \(\{A 的主元列数\}=\{[A~~\mathbf b]的主元列数\}\)）

假设线性方程组相容，若没有自由变量，则为唯一解，否则有无穷多解

1. 写出方程组的增广矩阵
2. 使用 行化简算法 将增广矩阵化为 阶梯型；若方程组相容，则进入步骤 3，否则返回 无解
3. 继续行阶梯算法得到 简化阶梯型，得到对应的方程组
4. 将得到的方程组表示为 “基本变量由自由变量表示” 的形式

1. 先导元素：矩阵 A 的某一非零行 \(\text{row}_i(A)\) 的左边第一个非零元素称为先导元素
2. (行)阶梯型，简化(行)阶梯型：矩阵 A 是行阶梯型，若满足 (1) A 的任意非零行位于任意零行之上，(2) A 的非零行的先导元素严格位于上一行右下方（蕴涵 任意先导元素所在列正下方的元素为零）；行阶梯型 A 是简化阶梯型，若满足 (1) 任意先导元素为 1，(2) 任意先导元素所在列正上方的元素为零
3. 定理：矩阵 A 行等价于唯一的简化阶梯型；A 行等价于无穷多个阶梯型
4. 主元位置，主元，主元列：假设矩阵 A 行等价与阶梯型 U，那么 U 的任意先导元素所在的位置称为主元位置（同时也是 A 的主元位置），A 的主元位置上的元素称为主元，A 的主元所在的列称为主元列；注：行等价于同一简化阶梯型的矩阵拥有相同的一组主元位置，通常主元和主元列互不相同
5. 行化简算法：
6. 基本变量，自由变量，线性方程组的通解：主元位置对应的未知变量称为基本变量，非主元位置对应的未知变量称为自由变量，线性方程的解集或通解可以用以自由变量线性表示基本变量的方程组来表示（但形式不唯一）
7. 线性方程组解的存在性，唯一性：线性方程组的解存在，当且仅当 其增广矩阵 A 的最右列不是主元列（即 \(\text{rank}A=\text{rank}[A~~\mathbf b]\)）；方程组的解唯一，当且仅当方程组没有自由变量（即 \(\dim\text{Nul}A=0\)）
8. 线性方程组解法：假设线性方程组为 \(A\mathbf x=\mathbf b\)，求解过程为：(1) 使用[行化简算法]将 \([A~~\mathbf b]\sim[U~~\mathbf v']\)（U 为简化阶梯型），(2) 给 U 添加或减少一些零行得到 \(n\times n\) 矩阵 \(D'\)（\(\mathbf v\) 同样也添加或减少相等数量的 0 得到 \(\mathbf v\)），重排 \(D'\) 的行使得每个主元为于对角线上得到矩阵 \(D\)，(3) 方程组的解为 \(\mathbf x=(I_n-D)\mathbf x+\mathbf v\)

(1) \([A~~\mathbf b]=\begin{bmatrix}1&-3&-5&0\\0&1&-1&-1\end{bmatrix}\sim\begin{bmatrix}1&0&-8&-3\\0&1&-1&-1\end{bmatrix}\)，\(\mathbf x=\begin{bmatrix}0&0&8\\0&0&1\\0&0&1\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}+\begin{bmatrix}-3\\-1\\0\end{bmatrix}=\begin{bmatrix}8\\1\\1\end{bmatrix}x_3+\begin{bmatrix}-3\\-1\\0\end{bmatrix}\) 或者 \(\begin{cases}x_1=-3+8x_3\\x_2=-1+x_3\\x_3是自由变量\end{cases}\)

(2) \([A~~\mathbf b]=\begin{bmatrix}1&-2&-1&3&0\\-2&4&5&-5&3\\3&-6&-6&8&2\end{bmatrix}\sim\begin{bmatrix}1&-2&-1&3&0\\0&0&3&1&3\\0&0&-3&-1&2\end{bmatrix}\sim\begin{bmatrix}1&-2&-1&3&0\\0&0&3&1&3\\0&0&0&0&5\end{bmatrix}\)，方程组不相容，即无解

(3.9) 方程组具有自由变量，并不蕴涵方程组相容

(4) \(\begin{bmatrix}1&h&2\\4&8&k\end{bmatrix}\sim\begin{bmatrix}1&h&2\\0&8-4h&k-8\end{bmatrix}\)，于是：

\(h=2,k\ne8\) 时，无解；\(h\ne2\) 时，有唯一解；\(h=2,k=8\) 时，有无穷多解

(5) 方程组相容，因为 \(3\times (3+k)\)（\(k\ge0\)）矩阵最多有 3 个主元列，而 A 有 3 个主元列，于是 \([A~~\mathbf b]\) 的主元列个数不会比 A 的更多，即 \(\text{rank}A=\text{rank}[A~~\mathbf b]\)

(6) \(m=\text{rank}A\le\min\{m,n\}\)，蕴涵 \(m\le n\)，而 \(\text{rank}A\le\text{rank}[A~~\mathbf b]\le\min\{m,n+1\}\)，于是 \(m\le\text{rank}[A~~\mathbf b]\le m\)，即 \(\text{rank}[A~~\mathbf b]=\text{rank}A\)，于是方程组相容（结论总结到了[2.3矩阵定理]）

(7) \(\text{rank}A\le\min\{m,n\}=m\)，根据[4.6秩定理]有 \(\dim\text{Nul}A=n-\text{rank}A\ge n-m>0\)，即自由变量个数不小于 1，于是方程组有无穷多解

3.向量方程

\(\mathbb R^n\) 中的向量定义为一组有序数，以 \(\mathbf a=\begin{bmatrix}a_1\\a_2\\ \vdots\\ a_n\end{bmatrix}\) 表示，简记为 \((a_1,a_2,\dots, a_n)\)

算子：向量加法 \(\mathbf u + \mathbf v\)，数乘向量 \(a \mathbf u\)

性质：

• 向量加法满足 交换性，结合性，加法单位元，加法逆元
• 向量加法 与 数乘向量 的分配率，数加法 与 数乘向量 的分配率
• 数乘法 与 数乘向量 的结合性

给定 \(\mathbb R^n\) 中向量 \(\mathbf v_1,\mathbf v_2,\dots,\mathbf v_p\) 和标量 \(c_1,c_2\dots,c_p\)，那么向量

\(y=c_1\mathbf v_1 + c_2\mathbf v_2 + \dots + c_p\mathbf v_p\) （其中 \(\mathbf v_i\in \mathbb R^n\)，\(c_i\in \mathbb R\)）

称为向量 \(\mathbf v_1,\mathbf v_2,\dots,\mathbf v_p\) 以 \(c_1,c_2\dots,c_p\) 为权的线性组合

(1) 向量方程 \(x_1\mathbf a_1 + x_2\mathbf a_2 + \dots + x_n\mathbf a_n = \mathbf b\)

(2) 增广矩阵为 \([\mathbf a_1~\mathbf a_2~\dots~\mathbf a_n~\mathbf b]\) 的线性方程组

(1) 与 (2) 具有相同的解集

特别地，\(\mathbf b\) 可以表示为 \(\mathbf a_1, \mathbf a_2, \dots, \mathbf a_n\) 的线性组合当且仅当 (2) 有解

若向量组 \(\mathbf v_1, \mathbf v_2, \dots, \mathbf v_p\) 是 \(\mathbb R^n\) 中的向量，则 该向量组的线性组合所成的集合，称为 由\(\mathbf v_1, \mathbf v_2, \dots, \mathbf v_p\)所生成(或 张成)的集合（该集合为 \(\mathbb R^n\) 的子集），记为 \(\text {Span}\{\mathbf v_1, \mathbf v_2, \dots, \mathbf v_p\}\)

等价于： \(\text {Span}\{\mathbf v_1, \mathbf v_2, \dots, \mathbf v_p\} = \{ c_1\mathbf v_1 + c_2\mathbf v_2 + \dots + c_p\mathbf v_p~|~c_i \in \mathbb R\}\)

注：\(\mathbf b \in \text {Span}\{\mathbf v_1, \mathbf v_2, \dots, \mathbf v_p\}\) \(\iff\) 向量方程 \(x_1\mathbf v_1 + x_2\mathbf v_2 + \dots + x_p\mathbf v_p = \mathbf b\) 有解 \(\iff\) 增广矩阵为 \([\mathbf v_1~\mathbf v_2~\dots~\mathbf v_p~\mathbf b]\) 的线性方程组有解

特别地：

• \(\text{Span}\{\mathbf u\}\) 表示 \(\mathbf u\) 的倍数的集合；在 \(\mathbb R^3\) 上表示 \(\mathbf 0\) 或 直线
• 假设 \(\mathbf u,\mathbf v \ne \mathbf 0\)，且 \(\mathbf u \ne k\mathbf v\)（k 为变量），那么 \(\mathbb R^3\) 上 \(\text{Span}\{\mathbf u, \mathbf v\}\) 表示一个平面

1. \(\mathbb R^n\) 中向量定义，相等，加法，标量乘法（\(\forall\mathbf u,\mathbf v\in\mathbb R^n,c\in\mathbb R\)）：(1) 向量定义 \(\mathbf v=(v_1,\cdots,v_n)\)，(2) 向量相等 \(\mathbf u=\mathbf v\iff u_1=v_1,\cdots,u_n=v_n\)，(3) 向量加法 \(\mathbf u+\mathbf v=(u_1+v_1,\cdots,u_n+v_n)\)，(4) 向量标量乘法 \(c\mathbf v=(cv_1,\cdots,cv_n)\)
2. \(\mathbb R^n\) 公理：\(\mathbb R^n\) 满足[向量空间公理]，并且具有该公理的所有性质和推论（有10种基本性质）
3. 线性组合：\(\forall i=1..p,\mathbf v_i\in\mathbb R^n,c_i\in\mathbb R\)，\(\mathbf y=\sum\limits_{i=1}^pc_i\mathbf v_i\) 称为向量 \(\mathbf v_1,\mathbf v_2,\dots,\mathbf v_p\) 以 \(c_1,c_2\dots,c_p\) 为权的线性组合
4. 向量方程：形如 \(x_1\mathbf a_1 + x_2\mathbf a_2 + \dots + x_n\mathbf a_n = \mathbf b\) 的方程称为向量方程；其增广矩阵为 \([\mathbf a_1~\mathbf a_2~\dots~\mathbf a_n~\mathbf b]\)
5. 张成：\(\text{Span}\{\mathbf v_1,\dots,\mathbf v_p\}=\left\{\sum\limits_{i=1}^pc_i\mathbf v_i~:~\forall i=1..p,c_i\in\mathbb R\right\}\)（在[4.1节]已给出定义）；性质：\(\mathbf b\in\text{Span}\{\mathbf a_1,\cdots,\mathbf a_n\}\iff A\mathbf x=\mathbf b相容\)（总结为[2.3矩阵定理]）

(1) \(\begin{bmatrix}1&5&-3&-4\\-1&-4&1&3\\-2&-7&0&h\end{bmatrix}\sim\begin{bmatrix}1&5&-3&-4\\0&1&-2&-1\\0&0&0&h-5\end{bmatrix}\)，\(\text{rank}A=\text{rank}[A~\mathbf b]\)，当且仅当 \(h=5\)

(2) \(\mathbf u+\mathbf v=\sum\limits_{i=1}^nc_i\mathbf w_i+\sum\limits_{i=1}^nd_i\mathbf w_i=\sum\limits_{i=1}^n(c_i+d_i)\mathbf u_i\in\text{Span}\{\mathbf w_1,\mathbf w_2,\mathbf w_3\}\)；实际上根据[4.1]的讨论，\(H=\text{Span}(S)\)（\(S\subset V\)）是向量空间 V 的子空间，也即 H 是向量空间，蕴涵 H 满足加法封闭性

(4)

1. \(\mathbf b\not\in\{\mathbf a_1,\mathbf a_2,\mathbf a_3\}\)，并且 \(\{\mathbf a_1,\mathbf a_2,\mathbf a_3\}\) 有三个向量
2. \(\mathbf b\in W\)，并且 W 有无穷多个向量
3. \(\mathbf a_1=1\mathbf a_1+0\mathbf a_2+0\mathbf a_3\)，于是 \(\mathbf a_1\in W\)

4. 矩阵方程

\(\mathbf A\mathbf x = \mathbf b\)

\(m\times n\) 的阵列，各列分别为 \(\mathbf a_1, \mathbf a_2,\dots, \mathbf a_n\)，其中 \(\mathbf a_i \in \mathbb R^m\)，称该阵列为 \(m\times n\) 的矩阵

记为 \(A = \begin{bmatrix}a_{11}&a_{12}&\dots&a_{1n}\\a_{21}&a_{22}&\dots&a_{2n}\\\vdots&\vdots&&\vdots\\a_{m1}&a_{m2}&\dots&a_{mn}\end{bmatrix} = \begin{bmatrix}\mathbf a_1&\mathbf a_2&\dots&\mathbf a_n\end{bmatrix}\)

若 A 是 \(m\times n\) 矩阵，若 \(\mathbf x\in \mathbb R^n\)，

则 A 与 \(\mathbf x\) 的积为 A 的各列以 x 中对应元素为权的线性组合，即：

\(A\mathbf x = \begin{bmatrix}\mathbf a_1&\mathbf a_2&\dots&\mathbf a_n\end{bmatrix} \begin{bmatrix}x_1\\ x_2\\\vdots\\ x_n\end{bmatrix} = x_1\mathbf a_1 + x_2\mathbf a_2 + \dots + x_n\mathbf a_n\)

形如 \(A\mathbf x = \mathbf b\) 的方程，称为矩阵方程

假设 A 是 \(m\times n\) 矩阵，其各列为 \(\mathbf a_1,\mathbf a_2,\dots, \mathbf a_n\)，并且 \(\mathbf x\in \mathbb R^n\)，\(\mathbf a_i,\mathbf b\in \mathbb R^m\)以下三个方程或方程组等价：

1. 矩阵方程 \(A\mathbf x = \mathbf b\)
2. 向量方程 \(x_1\mathbf a_1 + x_2\mathbf a_2 + \dots + x_n\mathbf a_n = \mathbf b\)
3. 增广矩阵为 \(\begin{bmatrix}\mathbf a_1&\mathbf a_2&\dots&\mathbf a_n&b\end{bmatrix}\) 的线性方程组

方程 \(A\mathbf x = \mathbf b\) 有解 \(\iff\) \(\mathbf b\) 是 A 的各列的线性组合

设 A 是 \(m\times n\) 矩阵，以下 4 个命题等价：

1. \(A\mathbf x = \mathbf b\) 有解，其中 \(\mathbf b\in \mathbb R^m\)
2. A 中的各列 \(\mathbf a_1, \mathbf a_2,\dots,\mathbf a_n\) 张成 \(\mathbb R^m\)
3. \(\mathbb R^m\) 的每个 \(\mathbf b\) 都是 A 的各列的一个线性组合（与 (2) 相似）
4. A 在每一行都有主元位置（注：此处讨论的是系数矩阵 \(A\)，而非增广矩阵 \([A~\mathbf b]\)）

\(A\mathbf x\) 中的第 i 个元素是 A 的第 i 个行向量 与列向量 \(\mathbf x\) 的点积，仅当 \(A\mathbf x\) 有定义

假设 \(n\times n\) 矩阵的主对角线上均为 1，而其他元素为 0，则称该矩阵为 单位矩阵，记为 \(I=I_n\)

性质：\(I_n\mathbf x = \mathbf x\)，仅当 \(\mathbf x\in \mathbb R^n\)

假设 A 是 \(m\times n\) 矩阵，\(\mathbf u,\mathbf v\in \mathbb R^n\)，c 为标量，则：

1. \(A(\mathbf u + \mathbf v) = A\mathbf u + A\mathbf v\)
2. \(A(c\mathbf u) = c(A\mathbf u)\)

1. 矩阵：矩阵 A 是 \(m\times n\) 的阵列，各列分别为 \(\mathbf a_1, \mathbf a_2,\dots, \mathbf a_n\)（\(\mathbf a_i \in \mathbb R^m\)），记为 \(A=\begin{bmatrix}a_{11}&a_{12}&\dots&a_{1n}\\a_{21}&a_{22}&\dots&a_{2n}\\\vdots&\vdots&&\vdots\\a_{m1}&a_{m2}&\dots&a_{mn}\end{bmatrix} = \begin{bmatrix}\mathbf a_1&\mathbf a_2&\dots&\mathbf a_n\end{bmatrix}\)
2. 矩阵向量乘法：\(A\in M_{m\times n}\) 与 \(\mathbf x\in\mathbb R^n\) 的乘法为 \(A\mathbf x=\begin{bmatrix}\mathbf a_1&\mathbf a_2&\dots&\mathbf a_n\end{bmatrix} \begin{bmatrix}x_1\\ x_2\\\vdots\\ x_n\end{bmatrix}=\sum\limits_{i=1}^nx_i\mathbf a_i\)（详见[2.1]）
3. 矩阵方程：形如 \(A\mathbf x=\mathbf b\) 的方程，称为矩阵方程
4. 部分的矩阵定理（该内容归纳在[2.3矩阵定理]中）
5. 单位矩阵：对角线元素均为 1 的，其他元素为 0 的 \(n\times n\) 矩阵，记为 \(I=I_n\)；满足 \(\forall\mathbf x\in \mathbb R^n,I_n\mathbf x=\mathbf x\)
6. 定理：假设 \(A\in M_{m\times n},\mathbf u,\mathbf v\in\mathbb R^n,c\in\mathbb R\)，那么 (1) \(A(\mathbf u + \mathbf v) = A\mathbf u + A\mathbf v\)，(2) \(A(c\mathbf u) = c(A\mathbf u)\)

1. 若 \(A\in\mathbf M_{m\times n}\) 是欠定的（即 \(m<n\)），那么 \(\mathbf x\mapsto A\mathbf x\) 不是一对一的（其推论参考[2.3总结]）
2. 若 \(A\in\mathbf M_{m\times n}\) 是超定的（即 \(m>n\)），那么 \(\mathbf x\mapsto A\mathbf x\) 不是满的（其推论参考[2.3总结]）

(1) \(\mathbf b=3\begin{bmatrix}1\\-3\\4\end{bmatrix}-2\begin{bmatrix}5\\1\\-8\end{bmatrix}+0\begin{bmatrix}-2\\9\\-1\end{bmatrix}-4\begin{bmatrix}0\\-5\\7\end{bmatrix}\)（如果先行化简 \([A~~\mathbf b]\) 得到 \(A\mathbf x=\mathbf b\) 的一个解就显得没有必要了）

(4) 欠定：\(\dim\text{Nul}A\ge\max\{0,n-m\}=n-m>0\)，蕴涵方程组没有唯一解

(5) 超定：\(\text{rank}A\le\min\{m,n\}=n<m\)，蕴涵方程组不张成 \(\mathbb R^m\)

5. 线性方程组的解集

线性方程组称为 齐次的，若它能写成 \(A\mathbf x=\mathbf 0\) （\(\mathbf x\in\mathbb R^n,0\in\mathbb R^m\)）

注：齐次线性方程组总有一个平凡解 \(\mathbf x=\mathbf 0\)（\(\mathbf 0\in \mathbb R^n\)）

齐次方程 \(A\mathbf x=\mathbf 0\) 有非平凡解 当且仅当 方程至少有一个自由变量

如果齐次线性方程组的基本变量可以表示为 \(x_{a_i}=\sum\limits_{j=1}^q V_{ib_j}'x_{b_j}\)，（其中 \(i\le p\)，\(a_i\) 为基本变量的下标，\(b_j\) 为自由变量的下标；\(p+q=n\)）

那么可以把基本变量的解组合成 \(\mathbf x'=\mathbf V'\mathbf x^"\) (V' 为 \(p\times q\) 矩阵)

若把方程 \(\mathbf x^"=\mathbf x^"\) 与上述方程合并在一起，可以得到 \(\mathbf x = V^"\mathbf x\)（其中 V 是主对角线为 0 的 \(n\times n\) 矩阵）

将 \(V^"\mathbf x\) 表示成向量方程的形式：\(\sum\limits_{j=1}^n\mathbf v_j^"x_j\)（称为 参数向量方程），

又因为每个变量都不受基本变量的影响（换句话说，每个变量只由自由变量决定），那么 \(\mathbf x=\sum\limits_{j=1}^q\mathbf v^"_{b_j}x_{b_j}\)

把 \(\mathbf v^"_{b_j}\) 替换为 \(\mathbf v_j\)，\(x_{b_j}\) 替换为 \(t_j\) 得到参数向量形式 \(\mathbf x=\sum\limits_{j=1}^n\mathbf v_jt_j\) （\(t_j\in \mathbb R\)）

线性方程组 \(A\mathbf x=\mathbf b\) 的解可以表示为 \(\mathbf x = \mathbf w + \mathbf v_h = \mathbf w + \sum\limits_{j=1}^n\mathbf v_jt_j\)，仅当 \(A\mathbf x=\mathbf b\) 与某个 \(\mathbf b\) 是相容的

注：\(\mathbf w\) 为原方程组的一个特解，\(\mathbf v_h\) 为 \(A\mathbf x=\mathbf 0\) 的通解

1. 将增广矩阵行化简为简化阶梯型
2. 把每个基本变量用自由变量表示
3. 把一般解 \(\mathbf x\) 表示成向量，如果有自由变量，其元素依赖于自由变量
4. 把 \(\mathbf x\) 分解为向量的线性组合，将方程右侧的自由变量替换为参数

设 (1) 方程 \(A\mathbf x=\mathbf b\) 对某个 \(\mathbf b\) 是相容的，\(\mathbf p\) 为一个特解；(2) \(\mathbf v_h\) 是齐次方程 \(A\mathbf x=\mathbf 0\) 的通解

则 \(A\mathbf x=\mathbf b\) 的通解是所有形如 \(\mathbf w=\mathbf p+\mathbf v_h\)

由 \(A\mathbf p=\mathbf b\) 和 \(A\mathbf v_h=\mathbf 0\)，于是 \(A\mathbf w=A(\mathbf p+\mathbf v_h)=A\mathbf p+A\mathbf v_h=\mathbf b+\mathbf 0=\mathbf b\)

\(\blacksquare\)

1. 齐次线性方程组，平凡解：齐次线性方程组形如 \(A\mathbf x=\mathbf 0\)；齐次线性方程组总有平凡解（零解）\(\mathbf x=\mathbf 0\)
2. 方程组解的参数向量形式：参见[1.2总结]
3. 非齐次方程的构造解：相容方程组 \(A\mathbf x=\mathbf b\) 的通解为 \(\mathbf w=\mathbf p+\mathbf v_h\)（其中 \(\mathbf p\) 是方程的一个特解，\(\mathbf v_h\) 的对应齐次方程的通解）

(1) \(\begin{bmatrix}1&4&-5&0\\2&-1&8&9\end{bmatrix}\sim\begin{bmatrix}1&0&3&4\\0&1&-2&-1\end{bmatrix}\)，于是 \(\mathbf x=x_3\begin{bmatrix}-3\\2\\1\end{bmatrix}+\begin{bmatrix}4\\-1\\0\end{bmatrix}\)

(2) \(\begin{bmatrix}10&-3&-2&7\end{bmatrix}\sim\begin{bmatrix}1&-3/10&-1/5&7/10\end{bmatrix}\)，于是 \(\mathbf x=x_2\begin{bmatrix}3/10\\1\\0\end{bmatrix}+x_3\begin{bmatrix}1/5\\0\\1\\\end{bmatrix}+\begin{bmatrix}7/10\\0\\0\end{bmatrix}\)

(4) \(A\mathbf x=\mathbf b\) 的解为 \(\mathbf x=\mathbf p+\mathbf v_h\)（其中 \(A\mathbf p=\mathbf b\)，\(A\mathbf v_h=\mathbf 0\)，\(\mathbf v_h\) 是任意一个齐次解），又因 \(\mathbf v_h=\mathbf 0\)，于是 \(\mathbf p+\mathbf v_h\) 唯一（反命题也成立）

(5) \(\mathbf x=x_1\begin{bmatrix}1\\0\\0\end{bmatrix}+x_2\begin{bmatrix}0\\1\\0\end{bmatrix}+x_3\begin{bmatrix}0\\0\\1\end{bmatrix}\)

(6) 假设解集经过原点，蕴涵存在一个解 \(\mathbf x=\mathbf 0\)，使得 \(\mathbf 0=A\mathbf b=\mathbf b\)，矛盾；所以解集不经过原点

6. 线性方程组的应用

1. 经济学：“投入-产出”模型
2. 化学：化学方程式配平
3. 图论：网络流

7. 线性无关

1.5 的齐次线性方程组可以从 向量方程 的角度研究

\(\mathbb R^n\) 中一组向量 \(\{\mathbf v_1,\dots, \mathbf v_p\}\) 称为线性无关的，若向量方程 \(x_1\mathbf v_1 + x_2\mathbf v_2 + \dots + x_p\mathbf v_p = \mathbf 0\) 仅有平凡解（平凡解为 \(\mathbf x = \mathbf 0\)）

该向量组称为线性无关组

\(\mathbb R^n\) 中一组向量 \(\{\mathbf v_1,\dots, \mathbf v_p\}\) 称为线性相关的，若存在不全为零的权 \(c_1,\dots,c_p\)，使得 \(c_1\mathbf v_1 + c_2\mathbf v_2 + \dots + c_p\mathbf v_p = \mathbf 0\)

该向量组称为线性相关组；上述方程称为 \(\mathbf v_1,\mathbf v_2,\dots,\mathbf v_p\) 之间的线性相关关系

注：一个向量组线性相关 \(\iff\) 该向量组不是线性无关的

假设 \(A=[\mathbf a_1\dots \mathbf a_n]\)，矩阵方程 \(A\mathbf x = \mathbf 0\) 可以写成 \(x_1\mathbf a_1+x_2\mathbf a_2+\dots+x_n\mathbf a_n=\mathbf 0\)

定义：矩阵 A 的各列线性无关，当且仅当方程 \(A\mathbf x=\mathbf 0\) 仅有平凡解

多向量的集合 \(S=\{\mathbf v_1,\dots,\mathbf v_p\}\) 线性相关（\(|S|\ge 2\)），当且仅当 S 中存在一个向量，使得该向量是其他某些向量的线性组合

等价命题：S 线性相关 \(\iff\) 存在向量 \(\mathbf v_i\) 是 \(\{\mathbf v_1,\dots,\mathbf v_{i-1}\}\) 的线性组合（\(i\ge 2\)）

推论：S 线性相关 \(\iff\) 存在 \(\mathbf v_i\) 是 \(\{\mathbf v_1,\dots,\mathbf v_{i-1}\}\)（\(i\ge 2\)） 的线性组合 \(\iff\) 存在 \(\mathbf v_i \in \text{Span} \{\mathbf v_1,\dots,\mathbf v_{i-1}\}\) （参见 1.3）

证明：参见 p75

1. \(\{\mathbf v_1,\dots,\mathbf v_p\}\) 线性无关：\(\sum\limits_{i=1}^p\mathbf v_ix_i=\mathbf0\)，等价于仅有 \(\mathbf x=\mathbf 0\)（\(x_1=\dots=x_p=0\)）使方程成立
2. \(\{\mathbf v_1,\dots,\mathbf v_p\}\) 线性相关：\(\sum\limits_{i=1}^p\mathbf v_ix_i=\mathbf0\)，等价于存在 \(x_1,\dots,x_p\) 使得 \(\prod\limits_{i=1}^px_i\ne0\) 并且方程成立
   1. 等价条件：\(\exists i=2..p,\mathbf v_i=\sum\limits_{j=1}^{i-1}c_j\mathbf v_j\)
   2. 充分性：\(p>m\)（其中 \(\mathbf v_i\in\mathbb R^m\)，即未知数严格多于方程数）；\(\exists\mathbf v_i=\mathbf0\)

假设向量组为 \(S=\{\mathbf v_1,\dots,\mathbf v_n\}\)

1. 向量组向量个数 n 严格大于该每个向量的元素个数 m，则该向量组 S 线性相关
2. 如果存在 \(\mathbf v_i=\mathbf 0\)，那么 S 线性相关

1. 线性无关，线性相关，线性相关判定定理：参见[4.3总结]
2. 矩阵各列的线性无关的等价条件：参见[2.3总结]
3. 线性相关的充分性：(1) \(\exists\mathbf v_i=\mathbf0\)，(2) 线性组合是欠定的（即 \(m<n\)），(3) \(\exists i,\exists j<i\)，\(\mathbf v_i\) 与 \(\mathbf v_j\) 有倍数关系

1. 向量集 S 的超集 T 线性无关，蕴涵 S 线性无关
2. 向量集 S 的子集 R 线性相关，蕴涵 S 线性相关

(1)

1. 可验证以上任意两个向量组成的向量集中的两个向量不是倍数关系，所以这些大小为 2 的向量集线性无关
2. 该命题为假
3. 没必要
4. 这些向量的齐次线性组合方程是欠定的（\(3<4\)），所以它们线性相关

(2) \(\exists c_1\cdot c_2\cdot c_3\ne0\)，使得 \(c_1\mathbf v_1+c_2\mathbf v_2+c_3\mathbf v_3=\mathbf 0\)，蕴涵 \(c_1\mathbf v_1+c_2\mathbf v_2+c_3\mathbf v_3+0\mathbf v_4=\mathbf 0\)，于是 \(\{\mathbf v_1,\mathbf v_2,\mathbf v_3,\mathbf v_4\}\) 是线性相关集

8. 线性变换

定义 \(\mathbb R^n\) 到 \(\mathbb R^m\) 的一个变换 T 为一个规则，记为 \(T:~\mathbb R^n\to \mathbb R^m\)

集合 \(\mathbb R^n\) 称为 T 的定义域，而 \(\mathbb R^m\) 称为 T 的余定义域（或取值空间）

\(\mathbf x\in \mathbb R^n\) 称为原像，\(T(\mathbf x) \in \mathbb R^m\) 称为 \(\mathbf x\) 在 T 作用下的像，\(\{T(\mathbf x)~|~ \mathbf x \in \mathbb R^n \}\) 称为 T 的值域

注：变换实则是一种 函数 或 映射

若变换 \(T(\mathbf x) = A\mathbf x\)，则称 T 为矩阵变换（其中 \(A\) 是 \(m\times n\) 矩阵）

T 为线性变换，仅当 T 满足以下条件：

1. \(T(\mathbf u + \mathbf v) = T(\mathbf u) + T(\mathbf v)\)（\(\mathbf u,\mathbf v\in \mathbb R^n\)）
2. \(T(c\mathbf u)=cT(\mathbf u)\) （\(\mathbf u\in \mathbb R^n\)，\(c\in\mathbb R\)）

性质：

• \(T(\mathbf 0)=\mathbf 0\)
• \(T(c\mathbf u + d\mathbf v)=cT(\mathbf u)+dT(\mathbf v)\)

1. 变换，定义域，余定义域，原像，像，值域：变换 T 是一个映射规则 \(T:~\mathbb R^n\to \mathbb R^m\)，\(\mathbb R^n\) 称为 T 的定义域，\(\mathbb R^m\) 称为 T 的余定义域（或取值空间）；\(\forall\bf x\in\mathbb R^n\) 称为原像，\(T(\mathbf x) \in \mathbb R^m\) 称为 \(\bf x\) 在 T 作用下的像，\(\{T(\mathbf x)~|~ \mathbf x \in \mathbb R^n \}\) 称为 T 的值域
2. 矩阵变换：变换 \(T(\mathbf x) = A\mathbf x\) 称为矩阵变换（其中 \(A\in M_{m\times n}\)）
3. 线性变换：线性变换 T 满足：假设 \(\forall \mathbf u,\mathbf v\in\mathbb R^n,c\in\mathbb R\)，有 (1) \(T(\mathbf u+\mathbf v)=T(\mathbf u)+T(\mathbf v)\)，(2) \(T(c\mathbf u)=cT(\mathbf u)\)；蕴涵 T 的值域也是向量空间（参见[4.2总结]）

(1) A 是 \(2\times 5\) 矩阵

(2) A 是一个初等矩阵，具体来说将第二行变为相反数，几何上 Y 将某点 \(\bf x\) 映射到与 \(x_1\) 对称的点上

9. 线性变换的矩阵

当一个线性变换 T 是由几何中提出来或用语言叙述时，我们通常希望有关于 \(T(\mathbf x)\) 的公式

下面的讨论指出，从 \(\mathbb R^n\) 到 \(\mathbb R^m\) 的每个线性变换实际上是一个矩阵变换 \(\mathbf x \mapsto A\mathbf x\)，而且变换 T 的重要性质归结为 A 的性质

设 \(T~:~\mathbb R^n \to \mathbb R^m\) 为线性变换，则存在唯一的 \(m\times n\) 矩阵 A，使得对 \(\mathbb R^n\) 中的一切 \(\mathbf x\)，\(T(\mathbf x) = A\mathbf x\)

其中 \(A=[T(\mathbf e_1) \dots T(\mathbf e_n)]\)（\(e_i\) 是 n 阶单位矩阵 \(I_n\) 的第 i 列）

也就是说，$$

注：A 称为线性变换 T 的标准矩阵

假设映射 \(T~:~\mathbb R^n \to \mathbb R^m\)

若对于每个 \(\mathbf b\in\mathbb R^m\)，至少有一个映射 T 下的原像 \(\mathbf x\)

则称 T 为 满射 或 \(\mathbb R^m\) 上的映射

假设映射 \(T~:~\mathbb R^n \to \mathbb R^m\)

若 \(\forall\bf b\in\mathbb R^m\) 是至多一个 \(\bf\in\mathbb R^n\) 的像

则称 T 为 单射 或 一对一映射

假设 \(T~:~\mathbb R^n \to \mathbb R^m\)

T 为线性变换，当且仅当 \(A\mathbf x=\mathbf 0\) 仅有平凡解

设 \(T~:~\mathbb R^n \to \mathbb R^m\) 是线性变换，设 A 为 T 的标准矩阵，则：

1. T 把 \(\mathbb R^n\) 映射到 \(\mathbb R^m\)，当且仅当 A 的列生成 \(\mathbb R^m\)
2. T 是一对一的，当且仅当 A 的列线性无关

1. 线性变换的模型：假设有线性变换 \(T:~\mathbb R^n\to\mathbb R^m\)，\(T(\mathbf x)=A\mathbf x\)，那么 \(A=[T(\mathbf e_1) \dots T(\mathbf e_n)]\) 称为 T 的标准矩阵
2. 满射(到 \(\mathbb R^m\) 上的映射)：假设有映射 \(T~:~\mathbb R^n \to \mathbb R^m\)，若 \(\forall \bf b\in\mathbb R^m,\exists x\in\mathbb R^n\)，使得 \(T(\mathbf x)=\mathbf b\)，那么 T 称为满射，或 T 将 \(\mathbb R^n\) 映上到 \(\mathbb R^m\)（余定义域=值域）；等价条件：标准矩阵 A 的列张成 \(\mathbb R^m\)
3. 单射(一对一映射)：假设有映射 \(T~:~\mathbb R^n \to \mathbb R^m\)，若 \(\forall\bf b\in\mathbb R^m\) 是至多一个 \(\bf\in\mathbb R^n\) 的像，则称 T 为 单射 或 一对一映射；等价条件：A 的各列线性无关

(1) \(A=\begin{bmatrix}-1&0\\0&1\end{bmatrix}\begin{bmatrix}1&-0.5\\0&1\end{bmatrix}=\begin{bmatrix}-1&0.5\\0&1\end{bmatrix}\)

(2) \(\text{rank}A=5\)，蕴涵 \(\dim\text{Nul}A=5-5=0\)，蕴涵 A 的各列线性无关，于是 T 是一对一的；A 是超定的，所以 T 不可能映上到 \(\mathbb R^7\)

10. 商业，科学，工程中的线性模型

• 营养学 - 减肥食谱
• 电学 - 线性方程与电路网路
• 线性差分方程

补充练习

1. 如果本章的所有练习都能看一眼知道如何做，那么你已经学会了本章知识
2. 若所有的练习都能理顺背后完整的知识体系树，那么你已经熟练了本章知识
3. 假若所有的练习都能看一眼就知道如何从最原始公理和定义出发，知晓如何解决并且推敲各种不同解决方案，那么你已经精通了本章知识

(1.10) 抠字眼，“只有”和“有”是有区别的

(2) 设 \(ax=b\) 的解集为 S

1. 若 \(a=0,b\ne0\)，那么 \(S=\emptyset\)
2. 若 \(a=0,b=0\)，那么 \(S=\mathbb R\)
3. 若 \(a\ne0\)，那么 \(S=\{b/a\}\)