随笔分类 - hadoop
摘要:查看日志是发现Hadoop问题和解决Hadoop问题的第一步。 开始我不知道该去哪找日志,后来我发现在我启动节点的时候,有打印信息以及明确告诉了日志写在哪。 NameNode:Hadoop目录下的logs目录下/hadoop-*-namenode-主节点.out。 DataNode:Hadoop目录
阅读全文
摘要:我对推荐系统很感兴趣,虽然我还是个菜鸟,对大数据了解的还不够多。但在学习之中!我相信有朝一日我会成为大数据方面的专家。 据我目前的理解,推荐系统是对客户的隐形需求进行深入的挖掘。在市面各个领域,应用也是非常之广泛。像新浪微博、抖音、今日头条、淘宝等电商等等系统中,推荐系统都具有很大的作用。带来的价值
阅读全文
摘要:环境:Centos 6.9,Hadoop 2.7.1,JDK 1.8.0_161,Maven 3.3.9 前言: 1、配置一台master服务器,两台或多台slave服务器。 2、master可以无密码ssh登陆slave 3、解压安装Hadoop,配置hadoop的core-site.xml、hd
阅读全文