Sqoop的(Value '0000-00-00' can not be represented as java.sql.Date)和tinyint转换异常问题解决

错误1:Mysql数据库的tinyint(1)的字段(取值为0和1),Sqoop会将tinyint(1)的字段视为booleans类型,导入到Hive时会将其转化为true或者false,这是因为默认情况下,mysql jdbc connector(连接器)将tinyint(1)映射到java.sql.types.bit,而sqoop默认映射到boolean。

解决方案1:在JDBC的连接路径中添加tinyInt1isBit=false,比如jdbc:mysql://localhost/test?tinyInt1isBit=false。

解决方案2:显示覆盖列的映射类型,比如,如果是向hive导入数据,需要转换的列名为status,可以使用参数--map-column-hive status=tinyhint,如果是向HDFS导入数据可以使用参数--map-column-java status=integer

错误2:Mysql的某个字段数据类型为date,但是存在"0000-00-00"数据,导出数据到HDFS时会报错:

Caused by: java.sql.SQLException: Value '0000-00-00' can not be represented as java.sql.Date

解决方案:在JDBC的连接路径中添加参数:zeroDateTimeBehavior=convertToNull,比如:

jdbc:mysql://localhost:3306/pe?zeroDateTimeBehavior=convertToNull

posted @ 2019-07-31 18:06  大数据技术与数仓  阅读(115)  评论(0编辑  收藏  举报