矩阵范数

有些矩阵范数不可以由向量范数来诱导，比如常用的Frobenius范数(也叫Euclid范数，简称F-范数或者E-范数)：║A║F= ( ∑∑ aij^2 )^1/2 (A全部元素平方和的平方根)。容易验证F-范数是相容的，但当min{m,n}>1时F-范数不能由向量范数诱导(||E11+E22||F=2>1)。可以证明任一种矩阵范数总有与之相容的向量范数。例如定义║x║=║X║，其中X=&#91;x,x,…,x&#93;是由x作为列的矩阵。由于向量的F-范数就是2-范数，所以F-范数和向量的2-范数相容。另外还有以下结论：║AB║F <= ║A║F ║B║2 以及 ║AB║F <= ║A║2 ║B║F矩阵的谱半径和范数的关系定义：A是n阶方阵，λi是其特征值，i=1,2,…,n。则称特征值的绝对值的最大值为A的谱半径，记为ρ(A)。注意要将谱半径与谱范数(2-范数)区别开来，谱范数是指A的最大奇异值，即A^H*A最大特征值的算术平方根。谱半径是矩阵的函数，但不是矩阵范数。谱半径和范数的关系是以下几个结论：定理1：谱半径不大于矩阵范数，即ρ(A)≤║A║。因为任一特征对λ,x,Ax=λx，可得Ax=λx。两边取范数并利用相容性即得结果。定理2：对于任何方阵A以及任意正数e，存在一种矩阵范数使得║A║<ρ(A)+e。定理3(Gelfand定理)：ρ(A)=lim_{k->∞} ║A^k║^{1/k}。利用上述性质可以推出以下两个常用的推论：推论1：矩阵序列 I,A,A^2,…A^k,… 收敛于零的充要条件是ρ(A)<1。推论2：级数 I+A+A^2+... 收敛到(I-A)^{-1}的充要条件是ρ(A)<1。

定义：如果范数║·║满足║A║=║UAV║对任何矩阵A以及酉矩阵U,V成立，那么这个范数称为酉不变范数。容易验证，2-范数和F-范数是酉不变范数。因为酉变换不改变矩阵的奇异值，所以由奇异值得到的范数是酉不变的，比如2-范数是最大奇异值，F-范数是所有奇异值组成的向量的2-范数。反过来可以证明，所有的酉不变范数都和奇异值有密切联系：定理(Von Neumann定理)：在酉不变范数和对称度规函数(symmetric gauge function)之间存在一一对应关系。也就是说任何酉不变范数事实上就是所有奇异值的一个对称度规函数。

把矩阵看作线性算子，那么可以由向量范数诱导出矩阵范数║A║ = max{║Ax║:║x║=1}= max{║Ax║/║x║: x≠0} ，它自动满足对向量范数的相容性║Ax║ ≤ ║A║║x║，并且可以由此证明║AB║ ≤ ║A║║B║。注：1.上述定义中可以用max代替sup是因为有限维空间的单位闭球是紧的(有限开覆盖定理)，从而上面的连续函数可以取到最值。2.显然，单位矩阵的算子范数为1。常用的三种p-范数诱导出的矩阵范数是1-范数：║A║1 = max{ ∑|ai1|, ∑|ai2| ,…… ,∑|ain| } (列和范数，A每一列元素绝对值之和的最大值)(其中∑|ai1|第一列元素绝对值的和∑|ai1|=|a11|+|a21|+...+|an1|,其余类似)；2-范数：║A║2 = A的最大奇异值 = ( max{ λi(A^H*A) } ) ^{1/2} (谱范数,即A'A特征值λi中最大者λ1的平方根，其中A^H为A的转置共轭矩阵)；∞-范数：║A║∞ = max{ ∑|a1j|, ∑|a2j| ,..., ∑|amj| } (行和范数，A每一行元素绝对值之和的最大值)(其中为∑|a1j| 第一行元素绝对值的和，其余类似)；其它的p-范数则没有很简单的表达式。对于p-范数而言，可以证明║A║p=║A^H║q，其中p和q是共轭指标。简单的情形可以直接验证：║A║1=║A^H║∞，║A║2=║A^H║2，一般情形则需要利用║A║p=max{y^H*A*x：║x║p=║y║q=1}。

第一章 矩阵知识的复习和补充

1 主要记号和定义

2 Schur分解和奇异值分解

2.1 Schur分解

2.2 奇异值分解

3 向量范数和矩阵范数

3.1 向量范数

3.2 矩阵范数

3.3 谱半径和矩阵序列的收敛性

4 正交投影和子空间之间的距离

4.1 正交投影

4.2 子空间之间的距离

5 非负矩阵

5.1 基本概念和性质

5.2 PerronFrobenius定理

5.3 非负矩阵的谱

5.4 Birkhoff定理

6 有关矩阵特征值的几个重要定理

6.1 一般方阵的Bauer-Fike定理

6.2 正规矩阵的Hoffman-Wielandt定理

6.3 Hermite矩阵的极小极大定理

习题

第二章 矩阵计算概论

1 矩阵计算的基本问题和来源

1.1 基本问题

1.2 膜的振动

1.3 弹性系统的振动

1.4 多元线性回归分析

2 病态问题和数值稳定性

2.1 矩阵计算问题的病态和良态

2.2 算法的数值稳定性

3 矩阵计算的基本工具

3.1 Householder变换

3.2 Givens变换

3.3 Gauss变换

习题

第三章 线性方程组的直接解法

1 线性方程组的条件数

2 基本解法的回顾

2.1 Gauss消去法

2.2 Cholesky分解法

3 对称不定方程组的解法

4 Vandermonde方程组的解法

5 Toeplitz方程组的解法

5.1 YuleWalker方程组

5.2 一般右端项的Toeplitz方程组

5.3 Toeplitz矩阵的逆

6 条件数的估计和迭代改进

6.1 条件数的估计

6.2 迭代改进

习题

第四章 线性方程组的迭代解法

1 迭代法概述

2 基本迭代法

3 正定矩阵和某些迭代法的收敛性

4 H矩阵和某些迭代法的收敛性

5 多项式加速

习题

第五章 共轭梯度法

1 最速下降法

2 二次泛函的几何性质

3 共轭梯度法及其基本性质

4 实用共轭梯度法及其收敛性

4.1 实用共轭梯度法

4.2 收效性分析

5 预优共轭梯度法

6 不完全分解预优技巧

6.1 松弛不完全LU分解

6.2 松弛不完全Cholesky 分解

6.3 分块不完全Cholesky 分解

7 求解非正定线性方程组的共轭梯度法

7.1 正规化方法

7.2 广义共轭剩余法题

第六章 最小二乘问题的数值解法

1 最小二乘解的数学性质

1.1 最小二乘解的特征

1.2 最小二乘解的一般表示

1.3 最小二乘解的扰动分析

2 求解满秩LS问题的数值方法

2.1 正规化方法

2.2正交化方法

3 求解亏秩LS问题的数值方法

3.1 列主元QR分解法

3.2 奇异值分解法

3.3 数值秩的定义和确定方法

4 求解L8问题的迭代法

4.1 基于正规化方程组的古典迭代法

⒋2 基于等价方程组的SOR和SSOR迭代法

5 完全最小二乘问题

习题

第七章 求解特征值问题的QR方法

1 特征值和不变子空间的条件数

1.1 特征值的条件数

1.2 不变子空间的条件数

2 双重步位移的QR算法

2.1Q R算法的基本思想

2.2 实Schur标准形

2.3 上Hessenberg化

2.4 双重步位移的QR迭代

2.5 双重步位移的QR算法

3 特征向量和不变子空间的计算

3.1 特征向量的计算

3.2 不变子空间的计算

4 对称QR方法

5 奇异值分解的计算

6 分而治之法

6.1 分割

6.2 胶合

习题

第八章 求解实对称特征值问题的同伦方法

1 同伦算法概述

2 同伦的构造和性质

3 同伦路径的数值追踪

3.1 预估

3.3 校正

3.3 核查

3.4 同伦算法

习题

第九章 Lanczos方法

1 Lanczos迭代及其基本性质

2 Kanie-Paige-Saad理论

3 Lanczos算法

4 求解对称线性方程组的Lanczos方法

5 求解非对称线性方程组的广义极小剩余法

习题

第十章 求解Jacobi矩阵特征值反问题的数值方法

1 基本问题和定性理论

2 数值方法

2.1 Lanczos方法

2.2 正交约化法

3 相关问题

3.1 秩1修改问题

3.2 广对称Jacobi矩阵的特征值反问题

3.3 对角矩阵与秩1矩阵之和的特征值

习题

参考文献

索引

第一章 矩阵的相似变换

1.1特征值与特征向量

1.2相似对角化

1.3Jordan标准形介绍

1.4IHamilton-CayIey定理

1.5向量的内积

1.6酉相似下的标准形

习题1

第2章 范数理论

2.1向量范数

2.2矩阵范数

2.2.1方阵的范数

2.2.2与向量范数的相容性

2.2.3从属范数

2.2.4长方阵的范数

2.3范数应用举例

2.3.1矩阵的谱半径

2.3.2矩阵的条件数

习题2

第3章 矩阵

第4章 矩阵分解

第5章 特征值的估计与表示

第6章 广义逆矩阵

第7章 矩阵的直积

第8章 线性空间与线性变换

习题解答与提示

参考文献