RICH-ATONE

Sqoop报错:Caused by: java.sql.BatchUpdateException: Incorrect string value: '\xF0\xA4\x8F\x81'

sqoop从hive导出到mysql报错如下:

Caused by: java.sql.SQLException: Incorrect string value: '\xF0\xA4\x8F\x81' for column 'role_name' at row 68
	at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:964)
	at com.mysql.jdbc.MysqlIO.checkErrorPacket(MysqlIO.java:3973)
	at com.mysql.jdbc.MysqlIO.checkErrorPacket(MysqlIO.java:3909)
	at com.mysql.jdbc.MysqlIO.sendCommand(MysqlIO.java:2527)
	at com.mysql.jdbc.MysqlIO.sqlQueryDirect(MysqlIO.java:2680)
	at com.mysql.jdbc.ConnectionImpl.execSQL(ConnectionImpl.java:2487)
	at com.mysql.jdbc.PreparedStatement.executeInternal(PreparedStatement.java:1858)
	at com.mysql.jdbc.PreparedStatement.executeUpdateInternal(PreparedStatement.java:2079)
	at com.mysql.jdbc.PreparedStatement.executeBatchSerially(PreparedStatement.java:1756)
	... 3 more

    

发现字段中有emoji表情无法导入mysql问题解决;

在使用MySQL的过程中,可能会出现初始设计使用的字符集或Collation不符合当前需求的情况。如使用utf8的表(MySQL中的utf8即utf8mb3)要支持emoji,

而utf8mb3不支持emoji(emoji需要4个字节,而utf8mb3最长只支持3个字节),所以需要将字符集修改为utf8mb4。(更改后需要重启数据库,待测。。。

  

建表示例如下:

mysql> SHOW CREATE TABLE test_table;
+------------+----------------------------------------------------------------------------------------------------------------+
| Table      | Create Table                                                                                                   |
+------------+----------------------------------------------------------------------------------------------------------------+
| test_table | CREATE TABLE `test_table` (
  `id` int(11) NOT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 |
+------------+----------------------------------------------------------------------------------------------------------------+
1 row in set (0.00 sec)

   

如果还是不能解决,则需要查看sqoop中的jar包是否支持utf8mb4编码符。 若是不支持,则需要更改jar包。

注;mysql的版本不能太低,低于5.5.3的版本不支持utf8mb4编码。

查看mysql是否支持(maxlen表示存储的最大字节数):

 

 

 

参考:MySQL查看、修改字符集及Collation

再见乱码:5分钟读懂MySQL字符集设置 

mysql存入表情符号emoji MYSQL: Caused by: java.sql.SQLException: Incorrect string value

sqoop导入数据至mysql时,emoji表情无法导入mysql问题解决

posted on 2022-04-22 16:50  RICH-ATONE  阅读(771)  评论(0编辑  收藏  举报

导航