03 2017 档案
摘要:Nutch是一个Java实现的网络爬虫。Nutch的安装可以使用二进制包,也可以使用源代码安装。这里介绍用二进制包安装。 1. 下载apache-nutch-1.12-bin.tar.gz,并且解压,解压后会形成一个apache-nutch-1.12文件夹; 2. 编辑conf/nutch-site
阅读全文
摘要:最近重新格式化NameNode以后,发现几个DataNode都不能启动了。 这是因为dfs.name.dir路径下面有一个current/VERSION文件,里面有一个clusterID,重新格式化以后,clusterID和以前的不一样了,需要把新的clusterID复制到所有DataNode的df
阅读全文
摘要:运行Pig时出现错误: 这是因为没有启动jobhistoryserver,在mapred-site.xml中增加设置: 然后再启动jobhistoryserver: 以上命令需要在${HADOOP_HOME}/sbin/下执行。
阅读全文
摘要:运行Pig时出现这个错误: 解决的办法是把${HADOOP_HOME}/share/hadoop/yarn/lib下的jline-2.1.1.jar删除掉,再重启Hadoop就可以了。
阅读全文
摘要:Hive Web Interface,简称hwi,是Hive的Web接口。 首先,安装ant,下载ant,解压,并在/etc/profile中设置: 然后 修改${HIVE_HOME}/conf/hive-site.xml文件,加上下面几个设置: 但是,${HIVE_HOME}/lib下默认是没有那
阅读全文
摘要:在Hive里创建表时出现了错误: 解决的办法是把数据库的Character Set改成latin1:
阅读全文
摘要:运行Hadoop时出现了: 导致运行失败。仔细分析后发现,这是因为以前192.168.1.201的主机名为master,后来把192.168.1.202改名为master,由于两台主机的公钥不一样,所以提示DNS欺骗(网络中有主机冒充master),或者master的IP地址和公钥同时改变了。 解决
阅读全文
摘要:SSH是一种协议,实现计算机之间的加密登录,即使被截获,截获的也只是加密后的密文,不会泄密。 如果每次登录另外一台计算机,都需要输入密码,就显得太麻烦,所以SSH协议实现了无密码登录,即公钥登录。所谓公钥登录,就是用户先把自己的公钥发给远程主机存储起来,登录时,远程主机向登录主机发送一个随机的字符串
阅读全文
摘要:1. 安装 安装前先关闭iptables和SELinux。 Centos输入以下命令: Ubuntu输入以下命令: 2. 设置 创建一个文件夹: 编辑/etc/samba/smb.conf文件: 3. 运行 CentOS下运行: Ubuntu下运行: 4. Windows7访问Samba 因为Sam
阅读全文
摘要:复制密钥另一台主机时,出现了错误: 到被登录主机的/var/log/auth.log查看日志: 应该是/etc/ssh文件夹的权限问题,执行下面的操作更改权限: 再重新启动sshd服务,复制成功,并且可以ssh登录。
阅读全文
摘要:运行 时FAILED,查看日志: 意思是说没有内核源文件,解决的办法是运行 分别是编译器,内核,内核头文件以及Makefile,然后再重启,让系统从新的内核文件选项启动。再运行 就可以编译成功了。
阅读全文