spark mlib中机器学习算法的测试(SVM,KMeans, PIC, ALS等)

2022-05-07 13:57:15 浏览数 (1)

在学习spark mlib机器学习方面,为了进行算法的学习,所以对原有的算法进行了试验。从其官网(http://spark.apache.org/docs/latest/mllib-guide.html)上进行了相关文档的介绍学习,并通过其给定的例子包中相关进行测试。

(1)SVM测试(SVMwithSGD,要知道在mahout中都不支持SVM的)

(2)Kmeans算法测试

 (3)  LDA算法测试

(4)PIC算法(超强的迭代聚类算法)

(5)推荐系统的ALS算法测试(利用movie lens数据)

同样的数据,用spark选出的MSE精度似乎比其它网页上介绍的0.46多的值要高。这个有待于进一步验证。

(6) 关联挖掘(FPGrowth算法)

通过之前的mahout与spark的学习,总体上mahout用起来非常不方便,而spark开发方便,速度更高效

0 人点赞