大数据

下载并解压
  1) 下载地址:http://mirrors.hust.edu.cn/apache/sqoop/1.4.6/
  2) 上传安装包 sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz 到虚拟机中
  3) 解压 sqoop 安装包到指定目录,如:
    $ tar -zxf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz -C /opt/module/
2、 修改配置文件
  Sqoop 的配置文件与大多数大数据框架类似,在 sqoop 根目录下的 conf 目录中。
  1) 重命名配置文件
    $ mv sqoop-env-template.sh sqoop-env.sh
  2) 修改配置文件
    sqoop-env.sh
    export HADOOP_COMMON_HOME=/opt/module/hadoop-2.7.2
    export HADOOP_MAPRED_HOME=/opt/module/hadoop-2.7.2
    export HIVE_HOME=/opt/module/hive
    export ZOOKEEPER_HOME=/opt/module/zookeeper-3.4.10
    export ZOOCFGDIR=/opt/module/zookeeper-3.4.10
    export HBASE_HOME=/opt/module/hbase
3、 拷贝 JDBC 驱动
  拷贝 jdbc 驱动到 sqoop 的 lib 目录下,如:
    $ cp mysql-connector-java-5.1.27-bin.jar
    /opt/module/sqoop-1.4.6.bin__hadoop-2.0.4-alpha/lib/
4、 验证 Sqoop
  我们可以通过某一个 command 来验证 sqoop 配置是否正确:
    $ bin/sqoop help
 
5、 测试 Sqoop 是否能够成功连接数据库
    $ bin/sqoop list-databases --connect jdbc:mysql://hadoop102:3306/
    --username root --password 000000
  出现如下输出:
    information_schema
    metastore
    mysql
    oozie
    performance_schema
6、导出数据
  
4.2.1 HIVE/HDFS 到 RDBMS
$ bin/sqoop export \
--connect jdbc:mysql://hadoop102:3306/company \
--username root \
--password 000000 \
--table staff \
--num-mappers 1 \
--export-dir /user/hive/warehouse/staff_hive \
--input-fields-terminated-by "\t"
 
posted @ 2021-10-19 08:57  大风吹爱护  阅读(33)  评论(0编辑  收藏  举报