SVD 视角 · Moore–Penrose 伪逆
A = UΣVT 说的是:任何矩阵作用在向量上,都只是转个方向、把各个轴按 σ 拉伸、再转个方向。旋转永远可以撤销,长度都没变。 唯一可能撤不回来的是中间那一步:σ 是 0 的方向,除不回去。伪逆在那里做的不是数学,是一个决定——把撤不回来的方向直接填 0。 这一页的所有现象,都是这个决定的后果。
A = U Σ VT A+ = V Σ+ UT
白点 x 可以拖。虚线椭圆是单位圆经 A⁺ 后的样子,半轴是 1/σ——σ 一小它就冲出画面。
白点 b 可以拖。实线椭圆是同一个单位圆经 A 之后的样子,半轴是 σ。三维视图可拖动旋转。
这一页以 U、Σ、V 为状态本体,A 和 A⁺ 都由它们实时合成——所以 σ 可以一路拖到 1e-16 而不损失精度 (若反过来从 A 做特征分解,条件数会被平方,小于约 1e-8 的奇异值根本恢复不出来)。 伪逆按 A⁺ = VΣ⁺Uᵀ 计算,Σ⁺ 对 σ ≤ rcond·σ₁ 的方向填 0。