摘要: 刚看一下,我的上一篇博客竟然是在8.10写的,到今天已经差不多40天了,时间过的可真快,最近太忙,一直没时间整理看过的东西,索性这会没事随便写点。 我的专业是地图学与地理信息,听这个名字就知道少不了要与地理数据打交道,我用spark一般也是处理地理数据... 阅读全文
posted @ 2016-09-19 16:36 xtfge0915 阅读(360) 评论(0) 推荐(0) 编辑
摘要: 昨天在yarn上提交spark任务一直出现一个错误INFO org.apache.hadoop.ipc.Client: Retrying connect to server: master/172.16.50.131:9000. Already tried ... 阅读全文
posted @ 2016-09-07 09:29 xtfge0915 阅读(170) 评论(0) 推荐(0) 编辑
摘要: 今天使用sublime发现导入第三方库的时候死活找不到,而我在REPL 中则完全没有问题,最终发现两个用的不是同一个解释器,也就是说我要用自己安装的python解释器而不是sublime默认的,那么如何修改就成了问题了,查找资料发现下面方法,经测试没有问题T... 阅读全文
posted @ 2016-08-30 13:07 xtfge0915 阅读(168) 评论(0) 推荐(0) 编辑
摘要: 今天刚搭建好spark的集群环境,在打开本地文件的时候遇到下面这样的错误 Lost task 0.0 in stage 10.0 (TID 17, slave1): java.io.FileNotFoundException程序都能运行出结果,但就是会报错... 阅读全文
posted @ 2016-08-16 22:43 xtfge0915 阅读(1024) 评论(0) 推荐(0) 编辑
摘要: 2016.8.10其实北京一年,我也一直在考虑我回所到底研究什么方向,但都只是停留在想想的层次,最终也没什么结果,回来老师问了我的想法说,学分布式计算吧,读博也可以,找工作也好找,文章也好发,我一想,这感情好啊,既符合我搞开发的兴趣,文章也不难发,毕业了还有... 阅读全文
posted @ 2016-08-10 23:38 xtfge0915 阅读(177) 评论(0) 推荐(0) 编辑
摘要: 最近在用Docker布署hadoop,要将文件上传到HDFS首先文件得在Docker容器中吧,网上提供的方法差不多有三种1.用-v挂载主机数据卷到容器内2.直接在主机上拷贝到容器物理存储系统3.用输入输出符具体方法这篇文章写的很详细:http://blog.... 阅读全文
posted @ 2016-08-10 11:00 xtfge0915 阅读(116) 评论(0) 推荐(0) 编辑
摘要: 接着上一次的操作,我们来继续配置hadoop前面的操作请看这儿5.hadoop配置(1)core-site.xml配置打开core-site.xml文件(nano core-site.xml) hadoop.tmp.dir ... 阅读全文
posted @ 2016-08-05 15:16 xtfge0915 阅读(201) 评论(0) 推荐(0) 编辑
摘要: 1.安装Docker 安装Docker的方法这里不再详述,根据自己的操作系统在网上有一大堆教程。今天我们的主要任务是在DOCKER上布署HADOOP。 2.下载 ubutun镜像docker pull ubuntu:14.04这条命令的作用是从Docker仓... 阅读全文
posted @ 2016-08-04 14:01 xtfge0915 阅读(342) 评论(0) 推荐(0) 编辑
摘要: Examples Generating Excel Documents Using Python’s xlwtHere are some simple examples usingPython’s xlwt library to dynamically generat... 阅读全文
posted @ 2015-10-21 15:13 xtfge0915 阅读(252) 评论(0) 推荐(0) 编辑
摘要: 文章转自:http://www.cnblogs.com/xcsn/p/3413074.html原文1:http://www.cnblogs.com/silence516/archive/2013/01/25/2876611.html原文2:http://www.cnb... 阅读全文
posted @ 2015-09-25 21:03 xtfge0915 阅读(266) 评论(0) 推荐(0) 编辑