Andrew Ng机器学习课程14

声明：引用请注明出处http://blog.csdn.net/lg1259156776/

引言：主要介绍了当数据量不足，利用EM算法对混合高斯模型进行建模时数据量比较少时，得到的协方差矩阵是一个奇异矩阵，即行列式为0，也就是协方差矩阵的逆矩阵是不存在的，所以也就无法使用混合高斯进行建模。需要对 协方差矩阵进行限制，比如对角阵或者是单位矩阵等。这样限制之后实际上是认为不同维的数据之间没有相关性，因此不能把握数据不同维之间的相关性。而本文介绍的factor analysis是采用EM思想，不依赖全协方差矩阵，同时又能对相关性进行建模。

2015-10-7 艺少