矩阵论-线性空间

数环和数域

运算封闭

若数集中的任意两个元素经过某种运算后,结果仍在这个数集中,则称该数集对此运算封闭.

如实数集 $\mathbb{R}$ 对加法运算封闭,因为任意两个实数的和仍是实数.

数环

设 $Z$ 为非空数集,且 $Z$ 对加法、剑法、乘法运算封闭,则称 $Z$ 是一个数环.因此我们可以立即得到以下结论: $0\in Z$.因为对于任意 $a\in Z$ ,必有 $a-a=0 \in Z$.故 $Z=\{0\}$ 是最小的数环.

数域

若 $Z$ 已经是一个数环,且 $Z$ 中至少含有两个互异的数,同时任何两个数 $a,b$ 的商仍属于 $Z$,即 $Z$ 对四则运算封闭,则 $Z$ 构成数域.同理, $1 \in Z$.

符号表示

线性空间

设 $V$ 是一个非空集合, $P$ 是一个数域,且 $V$ 满足:

1. 在 $V$ 中定义一个封闭的加法运算,即当 $x,y \in V$ 时,两数的和唯一且 $x+y \in V$,同时该加法运算满足以下4条性质:

(1). $x+y=y+x$.

(2). x+(y+z)=(x+y)+z.

(3). 存在零元 $\bm{0} \in V$,且对 $V$ 中任意一个元素$x$都有$x + \mathbf{0}=x$.

(4). 存在负元,即对于任意 $x \in V$,都存在唯一的 $y \in V$,使得 $x+y= \bm{0}$,此时 $y$ 为 $x$ 的负元,记为 $-x$,因此 $x+(-x)= \bm{0}$.

2. 在 $V$ 中定义一个封闭的数乘运算,即当 $x \in V, \lambda \in P$ 时,有唯一的 $\lambda x \in V$,且数乘运算满足4条性质:

(1). $(\lambda + \mu)x=\lambda x + \mu x$.

(2). $\lambda (x+y)=\lambda x + \lambda y$.

(3). $\lambda (\mu x) = (\lambda \mu )x$.

(4). $\bm{1} \cdot x = x$.

则称 $V$ 是数域 $P$ 上的线性空间(也称向量空间),根据数域 $P$ 的类型,还可分为实线性空间和复线性空间. $V$ 中满足以上8条性质的封闭运算:加法、乘法称为线性运算.

向量

向量的概念

任意线性空间中的元素即为向量.但通常情况下,我们把向量定义为有序数对,通常使用列来表示向量,称为列向量,如:

$$\bm{v} = \begin{pmatrix} 1 \\ 2 \\ 3 \end{pmatrix}$$

将其转置后得到行向量:

$$\bm{v}^\top = \begin{pmatrix} 1,2,3 \end{pmatrix}$$

向量运算

设 $\bm{a} = {(a_1, a_2, \cdots a_n)}^\top, \bm{b} = {(b_1, b_2, \cdots, b_n)}^\top$

加法运算:

$$\bm{a} + \bm{b} = {(a_1+b_1, a_2+b_2, \cdots, a_n+b_n)}^\top$$

数乘运算:

$$\lambda \cdot \bm{a} = \lambda \begin{pmatrix} a_1 \\ a_2 \\ \cdots \\ a_n \end{pmatrix} = \begin{pmatrix} \lambda a_1 \\ \lambda a_2 \\ \cdots \\ \lambda a_n \end{pmatrix} , \lambda \in \mathbb{R}$$

内积:

$$\bm{a} \cdot \bm{b} = \bm{a}^\top \bm{b} = \bm{b}^\top \bm{a} = \sum\limits_{i=1}^{n}{a_i b_i}$$

叉乘:

叉乘并不等同于外积,向量的外积有着更为严格的定义,此处仅介绍三维向量$(n=3)$的叉乘

$$\bm{a} \times \bm{b} = \begin{vmatrix} \bm{i} & \bm{j} & \bm{k} \\ a_1 & a_2 & a_3 \\ b_1 & b_2 & b_3 \end{vmatrix}$$

向量空间

全体 $n$ 维向量组成向量空间 $\bm{R}^n$.如所有三维空间的直角坐标构成 $\bm{R}^3$

基与坐标

线性组合

若 $\bm{x}_1, \bm{x}_2,\cdots, \bm{x}_r$ 是线性空间 $V$ 的一组向量,而 $k_1, k_2, \cdots, k_r$ 是数域 $P$ 中的一组数,则称向量

$$\bm{x} = k_1 \bm{x}_1 + k_2 \bm{x}_2 + \cdots + k_r \bm{x}_r$$

为 $\bm{x}_1, \bm{x}_2,\cdots, \bm{x}_r$ 的线性组合,这 $r$ 个向量称为向量组, $\bm{x}$ 可以由该向量组线性表示.

若 $k_i(i=1,2,\cdots, r)$ 不全为零,且有

$$k_1 \bm{x}_1 + k_2 \bm{x}_2 + \cdots + k_r \bm{x}_r = \bm{0}$$

则该向量组线性相关,否则为线性无关.也就是说,当该向量组线性无关时,上述方程的解只能是 $k_i=0(i=1,2,\cdots , r)$.

基

若某个向量组 $S$ 线性无关,且线性空间 $V$ 中的任意向量都可以用 $S$ 线性表示,则称 $S$ 是线性空间 $V$ 的基(基底), $S$ 中的向量称为基向量.

如三维空间 $\bm{R}^3$ 中,可以定义一组基: $(1, 0, 0)^\top, (0, 1, 0)^\top, (0, 0, 1)^\top$.因为任意三维向量 $(a, b, c)^\top$ 均可以用这三个向量线性表示.

维数

线性空间 $V$ 的基所含向量个数就是 $V$ 的维数.实际上就是该线性空间中的任意一个向量里的数字的个数. $n$ 维线性空间记作 $\text{dim } V=n$.其中零空间的维数是0.

如果在线性空间 $V$ 中存在任意多个线性无关的向量,则称 $V$ 是无限维数线性空间.

形如 $(1, 0, \cdots, 0)^\top, (0, 1, \cdots, 0)^\top, (0, 0, \cdots, 1)^\top$的基称为 $\bm{R}^n$ 的自然基.

坐标与坐标变换

任意一个线性空间的维数都是确定的,即它的所有基的向量数量都是相同的.线性空间中的任意向量都可以用一个基唯一的线性表示.对于任意向量 $\bm{x} \in V^n$, 有且仅有一组有序数 $a_1, a_2, \cdots, a_n$, 使

$$\bm{x} = a_1 \bm{x}_1 + a_2 \bm{x}_2 + \cdots + a_n \bm{x}_n$$

那么这组有序数就是向量 $\bm{x}$ 在基 $\bm{x}_1, \bm{x}_2, \cdots, \bm{x}_n$ 下的坐标.注意不同的基往往对应不同的坐标.

若线性空间 $V^n$ 中有两组基: $\bm{e}_1, \bm{e}_2, \cdots, \bm{e}_n$ 及 $\bm{e}'_1, \bm{e}'_2, \cdots, \bm{e}'_n$, 且

$$(\bm{e}'_1, \bm{e}'_2, \cdots, \bm{e}'_n) = (\bm{e}_1, \bm{e}_2, \cdots, \bm{e}_n) \bm{C} = (\bm{e}_1, \bm{e}_2, \cdots, \bm{e}_n) \begin{pmatrix} c_{11} & c_{12} & \cdots & c_{1n} \\ c_{21} & c_{22} & \cdots & c_{2n} \\ \vdots & \vdots & & \vdots \\ c_{n1} & c_{n2} & \cdots & c_{nn} \\ \end{pmatrix}$$

则称 $\bm{C}$ 是基 $\bm{e}_1, \bm{e}_2, \cdots, \bm{e}_n$ 到基 $\bm{e}'_1, \bm{e}'_2, \cdots, \bm{e}'_n$ 的过渡矩阵.显然 $\bm{C}$ 是可逆的,因为两组基都是线性无关的.

将向量 $\bm{x}$ 同时用两组基来表示

$$\bm{x} = (\bm{e}_1, \bm{e}_2, \cdots, \bm{e}_n) \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix} = (\bm{e}'_1, \bm{e}'_2, \cdots, \bm{e}'_n) \begin{pmatrix} x'_1 \\ x'_2 \\ \vdots \\ x'_n \end{pmatrix} = (\bm{e}_1, \bm{e}_2, \cdots, \bm{e}_n) \bm{C} \begin{pmatrix} x'_1 \\ x'_2 \\ \vdots \\ x'_n \end{pmatrix}$$

因此

$$\begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix} = \bm{C} \begin{pmatrix} x'_1 \\ x'_2 \\ \vdots \\ x'_n \end{pmatrix} , \begin{pmatrix} x'_1 \\ x'_2 \\ \vdots \\ x'_n \end{pmatrix} = \bm{C}^{-1} \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}$$

线性子空间

子空间

过坐标原点的直线或平面对向量加法和数乘分别构成一维和二维的线性空间,同时这个空间又是三维几何空间的子集.这种现象可以推广到任意 $n$ 维空间.

若 $S$ 是数域 $P$ 上的线性空间 $V$ 的子集,且 $S$ 对 $V$ 已有的加法和数乘运算也构成线性空间,则称 $S$ 为 $V$ 的线性子空间,简称子空间.记为 $S \subseteq V$, 如果 $S \neq V$,记为 $S \subset V$.

通过上述定理,我们可以得到 $S \subseteq V$ 的充分必要条件:

1. 如果 $\bm{x}, \bm{y} \in S$, 那么 $\bm{x} + \bm{y} \in S$;
2. 如果 $\bm{x} \in S, k \in P$, 那么 $k \bm{x} \in S$;

显然 $V \subseteq V, \{\bm{0}\} \in V$, 这两个子空间称为平凡子空间,仅含零向量的空间称为零子空间,除此之外的其他子空间称为非平凡子空间或真子空间.

子空间中的基所含向量个数不可能超过原空间,故 $\dim S \leq \dim V$.

如果 $\bm{A} \in \mathbb{R}^{m \times n}$, 则齐次线性方程组 $\bm{A} \bm{x} = \bm{0}$ 的全部解就构成了 $\mathbb{R}^n$ 的一个子空间.称为解空间,记为 $N(\bm{A})$ 或 $\ker (A)$,显然该方程的基础解系就是一个基,故 $\dim (N(\bm{A})) = n - r(A)$.

子空间的生成

设 $\bm{x}_1. \bm{x}_2, \cdots, \bm{x}_n$ 是线性空间 $V$ 中的一组向量,则这组向量所有可能的线性组合形成的集合为

$$S = \{k_1 \bm{x}_1 + k_2 \bm{x}_2 + \cdots + k_m \bm{x}_m\}$$

显然 $S \subseteq V$, 称 $S$ 为 $\bm{x}_1. \bm{x}_2, \cdots, \bm{x}_n$ 的生成子空间.记为

$$\text{Span}(\bm{x}_1. \bm{x}_2, \cdots, \bm{x}_n) = \{k_1 \bm{x}_1 + k_2 \bm{x}_2 + \cdots + k_m \bm{x}_m\}$$

子空间的交与和

与集合论中的交一样,子空间也有交运算,记作 $S \cap V$,表示同时属于 $S$ 和 $V$ 的向量构成的集合,可以证明,新的集合仍是原空间的子空间.

若有 $\bm{x} \in S, \bm{y} \in V$, 则由 $\bm{x} + \bm{y}$ 构成的集合称为 $S$ 与 $V$ 的和空间,记作 $S + V$.同样,和空间也是原空间的子空间.

需要注意的是, $Q \cap (S+T)$ 不一定等于 $(Q \cap S) + (Q \cap T)$.

当 $S + T$ 中的任一向量只能唯一地表示为子空间 $S$ 中的一个向量与子空间 $V$ 中的一个向量的和,则称 $S + T$ 为直和或直接和,记作 $S \oplus V$ 或 $S \overset{\cdot}{+} V$. $S + T$ 为直和的充分必要条件是 $S \cap V = \{ \bm{0} \}$ 或 $\dim (S + T) = \dim S + \dim T$