摘要: 参考hive常用运算。•If函数: if•非空查找函数: COALESCE•条件判断函数:CASE•If函数: if语法: if(boolean testCondition, T valueTrue, T valueFalseOrNull)返回值: T说明: 当条件testCondition为TRU... 阅读全文
posted @ 2014-10-09 15:37 晋心 阅读(37540) 评论(0) 推荐(0) 编辑
摘要: insert overwrite table canal_amt1......2014-10-09 10:40:27,368 Stage-1 map = 100%, reduce = 32%, Cumulative CPU 2772.48 sec2014-10-09 10:40:28,426 St... 阅读全文
posted @ 2014-10-09 10:51 晋心 阅读(6842) 评论(0) 推荐(0) 编辑
摘要: 1.平衡磁盘利用率hadoop balancer -Threshold 20或者sh $HADOOP_HOME/bin/start-balancer.sh –t 20%参数20是比例参数,表示20%,也就是平各个DataNode直接磁盘使用率偏差在20%以内。threshold 默认设置:10,参数... 阅读全文
posted @ 2014-10-08 17:24 晋心 阅读(271) 评论(0) 推荐(0) 编辑
摘要: 主键唯一而非空,只能有一个作用:1.唯一的标识一行 2.作为一个可以被外键有效引用的对象 3.保证数据完整性设计原则:1. 主键应当是对用户没有意义的。如果用户看到了一个表示多对多关系的连接表中的数据,并抱怨它没有什么用处,那就证明它的主键设计地很好。2. 主键应该是单列的,以便提高连接和筛选操作的... 阅读全文
posted @ 2014-09-25 23:25 晋心 阅读(757) 评论(0) 推荐(0) 编辑
摘要: 1.Select 语法SELECT [ALL | DISTINCT] select_expr, select_expr, ...FROM table_reference[WHERE where_condition][GROUP BY col_list][CLUSTER BY col_list | ... 阅读全文
posted @ 2014-09-24 22:39 晋心 阅读(365) 评论(0) 推荐(0) 编辑
摘要: 1.修改windows配置文件C:\WINDOWS\system32\drivers\etc\hosts将远程hbase和zookeeper主机的IP地址加进去54.0.88.53 HADOOP154.0.88.54 HADOOP22.加入jar包3.加载配置文件问题:网上很多都是自定义配置... 阅读全文
posted @ 2014-09-24 11:01 晋心 阅读(7035) 评论(0) 推荐(1) 编辑
摘要: 1.hive表操作复制表结构create table denserank_amt like otheravgrank_amt;修改表名alter table tmp rename to credit_card; 修改表结构修改column属性ALTER TABLE table_name ... 阅读全文
posted @ 2014-09-23 23:12 晋心 阅读(729) 评论(0) 推荐(0) 编辑
摘要: 1.安装sqoop请参考http://www.cnblogs.com/Richardzhu/p/3322635.html增加了SQOOP_HOME相关环境变量:source~/.bashrc /etq/profilesqoop help检测sqoop是否安装好了,没有error表示安装好了2.互导数... 阅读全文
posted @ 2014-09-23 22:25 晋心 阅读(3566) 评论(0) 推荐(0) 编辑
摘要: MySQL字符集设置mysql>CREATE DATABASE IF NOT EXISTS mydb default charset utf8 COLLATE utf8_general_ci;//数据库mysql>create table mytable (name varchar(20) not ... 阅读全文
posted @ 2014-09-22 22:42 晋心 阅读(1235) 评论(0) 推荐(0) 编辑
摘要: linux下修改文件权限:在shell环境里输入:ls -l 或者ls-lhdrwxr-xr-x 2 nsf users 1024 12-10 17:37 下载文件备份对应:文件属性 连接数 文件拥有者 所属群组 文件大小 文件修改时间 文件名例如: d rwx r-x r-x第一个字符... 阅读全文
posted @ 2014-09-08 22:59 晋心 阅读(12831) 评论(0) 推荐(0) 编辑