2017年3月4日

hadoop常见问题汇总

摘要: 1.格式化HDFS的时候:hadoop namenode -format hadoop namenode –format重新格式化HDFS,在格式化之前,需要将你 NameNode上所配置的dfs.name.dir这一namenode用来存放NameNode 持久存储名字空间及事务日志的本地文件系统 阅读全文

posted @ 2017-03-04 23:40 潺潺水声 阅读(170) 评论(0) 推荐(0) 编辑

hive数据导入

摘要: 可以通过多种方式将数据导入hive表 1.通过外部表导入 用户在hive上建external表,建表的同时指定hdfs路径,在数据拷贝到指定hdfs路径的同时,也同时完成数据插入external表。例如:编辑文件test.txt$ cat test.txt 1 hello2 world3 test4 阅读全文

posted @ 2017-03-04 13:56 潺潺水声 阅读(154) 评论(0) 推荐(0) 编辑

2017年2月22日

Sqoop1.4.6配置和使用

摘要: http://jingpin.jikexueyuan.com/article/39333.html http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_example_invocations_4 http://blog.csdn.net/p 阅读全文

posted @ 2017-02-22 18:34 潺潺水声 阅读(240) 评论(0) 推荐(0) 编辑

nginx配置,配合lua编程实现

摘要: 本次目的是使用nginx结合lua语言配置待检测功能的服务器 首先nginx配置项: 加载的lua 配置文件源码: 在nginx中使用lua语言,首先需要安装lua模块,然后在nginx中的location中使用: rewrite_by_lua_file "lua/oss_auth_paper_bb 阅读全文

posted @ 2017-02-22 10:31 潺潺水声 阅读(2360) 评论(0) 推荐(0) 编辑

2017年2月4日

hadoop中hive配置mysql

摘要: hadoop 大数据 hive mysql 阅读全文

posted @ 2017-02-04 18:53 潺潺水声 阅读(4368) 评论(0) 推荐(1) 编辑

2017年1月16日

Python socket

摘要: python socke编程 阅读全文

posted @ 2017-01-16 23:18 潺潺水声 阅读(163) 评论(0) 推荐(0) 编辑

2017年1月9日

tensorflow Ubuntu 64 安装

摘要: 本机是ubuntu 64位操作系统 。 安装: 首先安装pip 安装成功之后安装 tensorflow 如果Python是2版本的请使用下面命令: 如果Python版本是3使用下面命令: 下载安装成功之后我们进行测试: 阅读全文

posted @ 2017-01-09 22:23 潺潺水声 阅读(225) 评论(0) 推荐(0) 编辑

2016年12月25日

docker 安装

摘要: 很简单只要是linux 就可以执行下面的代码: curl -sSL https://get.daocloud.io/docker | sh 成功之后运行 docker 测试是否安装成功。 需要注意一点的是,现在docker只是支持x64架构的系统 阅读全文

posted @ 2016-12-25 15:24 潺潺水声 阅读(110) 评论(0) 推荐(0) 编辑

2016年11月4日

Centos将python 2.6 升级到 2.7

摘要: 查看当前的Python版本: 找到安装的Python2.7位置:以我的举例子:路径在 查看版本信息: 建立软连接,使系统默认的 python指向 python2.7 重新检测Python版本: 解决系统 Python 软链接指向 Python2.7 版本后,因为yum是不兼容 Python 2.7的 阅读全文

posted @ 2016-11-04 18:06 潺潺水声 阅读(425) 评论(0) 推荐(0) 编辑

2016年11月2日

sphinx增量索引教程(3)

摘要: 本节说增量索引, 首先我们要先做一个实时索引更新的功能,然后要把实时索引合并到主索引上面。 1.实时索引更新 有这么一种常见的情况:整个数据集非常大,以至于难于经常性的重建索引,但是每次新增的记录却相当地少。一个典型的例子是:一个论坛有1000000个已经归档的帖子,但每天只有1000个新帖子。 在 阅读全文

posted @ 2016-11-02 16:52 潺潺水声 阅读(452) 评论(0) 推荐(0) 编辑

导航