Sqoop配置

1.下载sqoop

 

 

 

 

 

 2.安装配置sqoop

需要在hadoop的core-site.xml的配置文件中加入sqoop的相关配置

<property>
<name>hadoop.proxyuser.sqoop2.hosts</name>
<value>*</value>
</property>
<property>
<name>hadoop.proxyuser.sqoop2.groups</name>
<value>*</value>
</property>

并且,在配置文件 container-executor.cfg 中,记得添加:

  allowed.system.users=sqoop2

把sql的驱动jar包导入sqoop的lib目录下,由于前面已经导入了hive直接拷贝即可

cp /opt/hive-1.1.0-cdh5.7.0/lib/mysql-connector-java-5.1.7-bin.jar /opt/sqoop-1.4.6-cdh5.7.0/lib/

注意:1.使用sqoop前需要导入Java-json.jar的包到sqoop的lib目录下 使用FileZilla上传 已   2.将hive/lib/hive.* 拷贝到sqoop的lib目录下 cp /root/hive-1.1.0-cdh5.7.0/lib/hive* /root/sqoop-1.4.6-cdh5.7.0/lib/

cp /opt/hive-1.1.0-cdh5.7.0/lib/hive* /opt/sqoop-1.4.6-cdh5.7.0/lib/

配置环境变量

export SQOOP_HOME=sqoop安装路径
export PATH=$PATH:$SQOOP_HOME/bin

sqoop version查看版本,报警主要是因为Sqoop加载$ACCUMULO_HOME环境变量,没有找到所以做出警告,其实也可以忽略。

 

 

 

尝试连接mysql,注意大写的P

  sqoop list-databases --connect jdbc:mysql://192.168.56.2:3306/ --username root -P


提示输入MySQL的密码,如果出先下面的报错,

  com.mysql.jdbc.exceptions.jdbc4.CommunicationsException: Communications link failure

  Last packet sent to the server was 0 ms ago.

可能是因为 /etc/my.cnf中少了一行配置

[mysqld]
bind-address=0.0.0.0

出现这个就是成功了

information_schema
hive
mysql
performance_schema
sys


 

posted @   qtyanan  阅读(82)  评论(2编辑  收藏  举报
编辑推荐:
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
阅读排行:
· 使用C#创建一个MCP客户端
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· ollama系列1:轻松3步本地部署deepseek,普通电脑可用
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 按钮权限的设计及实现
点击右上角即可分享
微信分享提示