一、什么是PCA

主成分分析 Principal Component Analysis

一个非监督学的学习算法

主要用于数据的降维

通过降维,可以发现更便于人类理解的特征

其他应用:可视化;去噪

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

第一步:将样例的均值归零(demean)

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

二、使用梯度上升法求解PCA问题

梯度上升法解决主成分分析问题

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

三、求数据的主成分PCA

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

四、求数据的主成分 PCA

求数据的前 N 个主成分

求出第一个主成分以后,如何求出下一个主成分?

数据进行改变,将数据在第一个主成分的分量去掉。

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

机器学习(七)  PCA与梯度上升法 (上)-LMLPHP

我写的文章只是我自己对bobo老师讲课内容的理解和整理,也只是我自己的弊见。bobo老师的课 是慕课网出品的。欢迎大家一起学习。

05-27 03:48