在学习spark mlib机器学习方面,为了进行算法的学习,所以对原有的算法进行了试验。从其官网(http://spark.apache.org/docs/latest/mllib-guide.html)上进行了相关文档的介绍学习,并通过其给定的例子包中相关进行测试。
(1)SVM测试(SVMwithSGD,要知道在mahout中都不支持SVM的)
(2)Kmeans算法测试
(3) LDA算法测试
(4)PIC算法(超强的迭代聚类算法)
(5)推荐系统的ALS算法测试(利用movie lens数据)
同样的数据,用spark选出的MSE精度似乎比其它网页上介绍的0.46多的值要高。这个有待于进一步验证。
(6) 关联挖掘(FPGrowth算法)
通过之前的mahout与spark的学习,总体上mahout用起来非常不方便,而spark开发方便,速度更高效