不变子空间亦称稳定子空间，与线性变换有关的一种子空间。设σ是数域P上线性空间V的线性变换，W是V的子空间，若对W中的任意一个向量α，σ(α)也属于W，则称W是σ的不变子空间或称σ子空间。σ的值域与核以及σ的特征子空间等都是σ的不变子空间，有限维的复线性空间的所有的线性变换都有一维不变子空间，有限维实线性空间的线性变换都有一维或二维不变子空间，特别地，奇数维的实线性空间的每一个线性变换都有一维的不变子空间。

设 是数域P上线性空间V的线性变换，W是V的子空间，若W中的向量在 下的象仍在W中，即 ，均有 ，则称W为 的不变子空间，也可简称 -子空间。

设 是线性空间V的线性变换，W是 的不变子空间，可把 看成是W的一个线性变换，称为 在不变子空间W上引起的变换，用符号 表示。

设 ， ，W是 的不变子空间，取W的基 ，将其扩充为V的一组基 ，则 在此基下的矩阵为 ，且左上角的k阶块 就是 在W的基 下的矩阵；反之，若 在基 下的矩阵为 ，则 是 的不变子空间。

V能分解成若干个 一子空间的直和 的充分必要条件是V中存在一组基 ，其中 为 的一组基，使得 在此基下的矩阵为准对角矩阵 ，其中 是 在基 下的矩阵。

设线性变换 的特征多项式 ，则V可分解成不变子空间的直和

证明思路： 令 记 。

1)证明 ；

2)证明 ；

3)证明 是直和，从而 也是直和；

4)证明 。

例1 设 ， ， 在基 下的矩阵为

求 的含 的最小不变子空间W，并写出 在W的相应基下的矩阵。

证明 由于 ，那么

因W是含 的 一子空间， ，那么 ，因此, ，从而有 ，所以

另外，由 知， ，

因此 也是 一子空间，所以 ，

由 也可知， 在W的基 下的矩阵为

例2 设V是复数域上的n维线性空间， ， ， 。证明：

1)若 是 的一特征值，则特征子空间 是 -子空间；

2) ， 至少有一个公共的特征向量。

证明 1) ，任给 ，那么

因此 ，所以 是 -子空间。

2)由1)知 是 -子空间，则 是 的一个线性变换，其特征多项式必有复根 (即 的特 征值)，设相应的特征向量为 ∈ ，那么

所以 就是 的公共特征向量。