day1

用sqoop脚本从mysql 导入到hive 建立ods层

#将mysql 中第一张表导入hive 中的ods层
/usr/bin/sqoop import "-Dorg.apache.sqoop.splitter.allow_text_splitter=true" \
--connect 'jdbc:mysql://106.75.33.59:3306/nev?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true' \#mysql中的数据库名
--username itcast_edu_stu \
--password itcast_edu_stu \
--query "select * from web_chat_ems_2019_07 where 1=1 and \$CONDITIONS" \#mysql中的表名
--hcatalog-database itcast_ods \#hive中的数据库名
--hcatalog-table web_acc_info \#hive数据库中ods层的表名
-m 1
***注意 ods层建表语句 表的字段数和字段名 都要完全和mysql中相同 随便加个主键就会sqoop导入失败

虚拟机上安装rz
yum install -y lrzsz

然后将shell脚本拖入选最下面的
让后修改shell文件权限 并执行

chmod u+x sqoop_import.sh
sh sqoop_import.sh

 

sqoop export \
--connect jdbc:mysql://192.168.88.80:3306/yp_olap \
--username root \
--password 123456 \
--table v \
--hcatalog-database itcast_dwb \
--hcatalog-table x_v \
--input-fields-terminated-by '\t' \
-m 1 

导出