摘要: ./redis-server /etc/redis.conf Redis安装部署 Redis是一种高级key-value数据库。它跟memcached类似,不过数据可以持久化,而且支持的数据类型很丰富。有字符串,链表,集 合和有序集合。支持在服务器端计算集合的并,交和补集(difference)等,还支持多种排序功能。所以Redis也可以被看成是一个数据结构服务 器。 Redis的所有数据都... 阅读全文
posted @ 2017-08-18 14:04 闭眼的鱼 阅读(175) 评论(0) 推荐(0) 编辑
摘要: redis的储存都是key-value的格式 一般会将spark统计完的结果按时间来作为文件的名字(也就是key值),统计结果是整个分类好的数据,转换成json格式, 注意,调用JedisUtils工具的类需要实现Serializable系列化接口; 阅读全文
posted @ 2017-08-17 15:06 闭眼的鱼 阅读(4796) 评论(0) 推荐(0) 编辑
摘要: 这篇跟上面一篇java代码部分基本相同,直接上代码 按上面步骤操作,配置即可 阅读全文
posted @ 2017-08-15 21:32 闭眼的鱼 阅读(407) 评论(0) 推荐(0) 编辑
摘要: 直接创建一个类,用来连接需要分析统计的数据源; 上面代码加上注释比较多,简单一点就几步 阅读全文
posted @ 2017-08-15 21:24 闭眼的鱼 阅读(542) 评论(0) 推荐(0) 编辑
摘要: 简介 HDFS(Hadoop Distributed File System )Hadoop分布式文件系统。是根据google发表的论文翻版的。论文为GFS(Google File System)Google 文件系统(中文,英文)。 HDFS有很多特点: ① 保存多个副本,且提供容错机制,副本丢失 阅读全文
posted @ 2017-08-10 11:58 闭眼的鱼 阅读(195) 评论(0) 推荐(0) 编辑
摘要: 先上传hadoop的安装包到服务器上去/home/hpc/ 注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop 伪分布式需要修改5个配置文件 4.1配置hadoop--配置文件目录 /etc/hadoop/ 第一个文件:hadoop-env.sh vi hadoop-e 阅读全文
posted @ 2017-08-09 21:38 闭眼的鱼 阅读(142) 评论(0) 推荐(0) 编辑
摘要: 需要手动增加可以远程访问数据库的用户。 方法一、本地登入mysql,更改 "mysql" 数据库里的 "user" 表里的 "host" 项,将"localhost"改为"%" #mysql -u root -prootmysql>use mysql;mysql>update user set ho 阅读全文
posted @ 2017-08-08 10:59 闭眼的鱼 阅读(228) 评论(0) 推荐(0) 编辑
摘要: 1.修改主机名 Vim /etc/sysconfig/network NETWORKING=yes HOSTNAME=server1.itcast.cn 2.修改ip地址 vi /etc/sysconfig/network-scripts/ifcfg-eth0 如ifcfg-eth0文件不是绿色,表 阅读全文
posted @ 2017-08-08 10:11 闭眼的鱼 阅读(372) 评论(0) 推荐(0) 编辑
摘要: CentOS上javaweb开发环境搭建 安装jdk yum list java* yum install java-1.7.0-openjdk* -y java -version 安装tomcat cd /usr/local wgethttps://mc.qcloudimg.com/static/ 阅读全文
posted @ 2017-08-07 23:32 闭眼的鱼 阅读(125) 评论(0) 推荐(0) 编辑
摘要: 本人在设计数据库缓存层的时候,需要对数据进行深拷贝,这样用户操作的数据对象就是不共享的。 这个思路实际上和Erlang类似,就是用数据不共享解决并发问题。 1. 序列化? 原来的做法,是用序列化,我用了Json的序列化,lib-json。一个再传统不过的方法。把数据字段序列化成json保存。取出来的 阅读全文
posted @ 2017-07-20 21:05 闭眼的鱼 阅读(2298) 评论(1) 推荐(0) 编辑