python - 使用Numpy(np.linalg.svd)进行奇异值分解

我正在阅读Abdi＆Williams(2010)的“主成分分析”，我正在尝试重做SVD以获取进一步PCA的值。

本文指出，以下SVD:

X = P D Q ^ t

我将数据加载到np.array X中。

X = np.array(data)
P, D, Q = np.linalg.svd(X, full_matrices=False)
D = np.diag(D)

但是我检查时没有得到上述平等

X_a = np.dot(np.dot(P, D), Q.T)

X_a和X是相同的尺寸，但是值不相同。我是否缺少某些内容，或者np.linalg.svd函数的功能与本文的方程式不兼容？

最佳答案

TL; DR:numpy的SVD计算X = PDQ，因此Q已转位。

SVD有效地将矩阵X分解为旋转P和Q以及对角矩阵D。我拥有的linalg.svd()版本返回P和Q的正向旋转。在计算Q时，您不希望转换X_a。

import numpy as np
X = np.random.normal(size=[20,18])
P, D, Q = np.linalg.svd(X, full_matrices=False)
X_a = np.matmul(np.matmul(P, np.diag(D)), Q)
print(np.std(X), np.std(X_a), np.std(X - X_a))

我得到:1.02、1.02、1.8e-15，表明X_a非常准确地重构了X。

如果您使用的是Python 3，则@运算符将实现矩阵乘法，并使代码易于遵循:

import numpy as np
X = np.random.normal(size=[20,18])
P, D, Q = np.linalg.svd(X, full_matrices=False)
X_a = P @ diag(D) @ Q
print(np.std(X), np.std(X_a), np.std(X - X_a))
print('Is X close to X_a?', np.isclose(X, X_a).all())

关于python - 使用Numpy(np.linalg.svd)进行奇异值分解，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/24913232/