望穿秋水
管理&技术&业务 项目管理方面:加强通过工具辅助管理,构建Web项目管理系统来协助项目管理。技术开发方面:加强系统分析能力、架构设计能力,时刻把握新技术动态。业务方面:加强需求分析能力,使最终需求来源于客户又高于客户。

之前Mahout或者自己写的MR来解决复杂的机器学习,导致效率低,Spark特别适合迭代式的计算,这正是机器学习算法训练所需要的,MLlib是基于spark之上算法组件,基于spark平台来实现。

 

主要的机器学习的算法目前在MLlib中都已经提供了,分类回归、聚类、关联规则、推荐、降维、优化、特征抽取筛选、用于特征预处理的数理统计方法、以及算法的评测。

 

 

 

以上是目前spark1.3支持的算法包,相比较之前的版本增加了新的算法,主题模型LDA,高斯混合模型GMM,FP-Growth关联规则等,当然还有其他一些算法性能方面的提升等等。

posted on 2021-02-03 09:27  望穿秋水  阅读(282)  评论(0编辑  收藏  举报