mysql字符集 utf8 和utf8mb4 的区别


用mysql创建数据库表时,一般都会选择用utf-8编码(防中文乱码,通用性)

对自己以前的小项目及平时学习,utf-8是足够了的,一直也没有遇到过什么问题,后面公司中的表都是用的utf-8mb4(强制要求),刚开始也不懂为什么,也没太当回事,后面无意看到一篇讲utf-8与utf-8mb4的区别后,才明白两个到底什么关联,什么区别。

建议以后不管自己用还是公司都都将数据库/表的字符集编码设置成utf8mb4。

学mysql时 utf8支持四个字节的话 好像早就忘了吧,感觉mysql这个开端不好(开头不重视,觉得简单,但是却一直没有做到学以致用)。

总结速览

总结一下,其实mysql中的utf8并不是真正的支持每个字符最大四个字节,而是三个字节,中文是占3个字节,其他数字、英文、符号占一个字节。自己日常使用影响不大,但是emoji符号占4个字节,一些较复杂的文字、繁体字也是4个字节。

但是在公司建表一定要使用utf8mb4字符编码,原因如下

  1. 因为你保不准之后写入数据是否有emoji符号(常用场景如 用户昵称),用户昵称中带有符号很正常,但是你这边一插入,数据库就报错,无法控制。
  2. utf8mb4是对utf8的一种扩展,就是为了修复utf8最多只支持三个字节的字符这个问题。utf8mb4是真正的支持四个字节的字符。
  3. 越来越多的公司或用户都在使用utf8mb4,如果现在还用utf8后期想扩展成utf8mb4就需要重新构建数据库,庞大的数据量和工作量,会给后期添加天大的障碍。

什么是编码?什么是 UTF-8?

我们都知道,计算机使用 0 和 1 来存储文本。比如字符“C”被存成“01000011”,那么计算机在显示这个字符时需要经过两个步骤:

  1. 计算机读取“01000011”,得到数字 67,因为 67 被编码成“01000011”。
  2. 计算机在 Unicode 字符集中查找 67,找到了“C”。

同样的:

  1. 我的电脑将“C”映射成 Unicode 字符集中的 67。
  2. 我的电脑将 67 编码成“01000011”,并发送给 Web 服务器。

几乎所有的网络应用都使用了 Unicode 字符集,因为没有理由使用其他字符集。

Unicode 字符集包含了上百万个字符。最简单的编码是 UTF-32,每个字符使用 32 位。这样做最简单,因为一直以来,计算机将 32 位视为数字,而计算机最在行的就是处理数字。但问题是,这样太浪费空间了。

UTF-8 可以节省空间,在 UTF-8 中,字符“C”只需要 8 位,一些不常用的字符,比如“😓”需要 32 位。其他的字符可能使用 16 位或 24 位。一篇类似本文这样的文章,如果使用 UTF-8 编码,占用的空间只有 UTF-32 的四分之一左右。

mysql中的utf8与utf8mb4

MySQL 从 4.1 版本开始支持 UTF-8,也就是 2003 年,而今天使用的 UTF-8 标准(RFC 3629)是随后才出现的。
旧版的 UTF-8 标准(RFC 2279)最多支持每个字符 6 个字节。2002 年 3 月 28 日,MySQL 开发者在第一个 MySQL 4.1 预览版中使用了 RFC 2279。同年 9 月,他们对 MySQL 源代码进行了一次调整:“UTF8 现在最多只支持 3 个字节的序列”。

是谁提交了这些代码?他为什么要这样做?这个问题不得而知。在迁移到 Git 后(MySQL 最开始使用的是 BitKeeper),MySQL 代码库中的很多提交者的名字都丢失了。2003 年 9 月的邮件列表中也找不到可以解释这一变更的线索。

不过我们可以试着猜测一下:

2002年,MySQL做出了一个决定:如果用户可以保证数据表的每一行都使用相同的字节数,那么 MySQL 就可以在性能方面来一个大提升。为此,用户需要将文本列定义为“CHAR”,每个“CHAR”列总是拥有相同数量的字符。如果插入的字符少于定义的数量,MySQL 就会在后面填充空格,如果插入的字符超过了定义的数量,后面超出部分会被截断。

MySQL 开发者在最开始尝试 UTF-8 时使用了每个字符6个字节,CHAR(1) 使用6个字节,CHAR(2)使用12个字节,并以此类推。

应该说,他们最初的行为才是正确的可惜这一版本一直没有发布但是文档上却这么写了,而且广为流传,所有了解 UTF-8 的人都认同文档里写的东西。

image-20210113151039194

不过很显然,MySQL 开发者或厂商担心会有用户做这两件事:

  • 使用 CHAR 定义列(在现在看来,CHAR 已经是老古董了,但在那时,在 MySQL 中使用 CHAR 会更快,不过从 2005 年以后就不是这样子了)。
  • 将 CHAR 列的编码设置为“utf8”。

我的猜测是 MySQL 开发者本来想帮助那些希望在空间和速度上双赢的用户,但他们搞砸了“utf8”编码。

所以结果就是没有赢家。那些希望在空间和速度上双赢的用户,当他们在使用“utf8”的 CHAR 列时,实际上使用的空间比预期的更大,速度也比预期的慢。而想要正确性的用户,当他们使用“utf8”编码时,却无法保存像“😓”这样的字符,因为“😓”是4个字节的。

在这个不合法的字符集发布了之后,MySQL 就无法修复它,因为这样需要要求所有用户重新构建他们的数据库。最终,MySQL 在 2010 年重新发布了

“utf8mb4”来支持真正的 UTF-8。

MySQL在5.5.3之后增加了这个utf8mb4的编码,mb4就是most bytes 4的意思,专门用来兼容四字节的unicode。好在utf8mb4是utf8的超集,除了将编码改为utf8mb4外不需要做其他转换。为了获取更好的兼容性,应该总是使用 utf8mb4 而非 utf8. 对于 CHAR 类型数据,utf8mb4 会多消耗一些空间,根据 Mysql 官方建议,使用 VARCHAR 替代 CHAR。

为什么使用utf8mb4

mysql中的utf8并不是真正的支持每个字符最大四个字节,而是三个字节,中文是占3个字节,其他数字、英文、符号占一个字节。自己日常使用影响不大,但是emoji符号占4个字节,一些较复杂的文字、繁体字也是4个字节。如果不使用utf8mb4插入如emoji符号或其他四个字节的字符就会报错。

可以看到

中文是占3个字节,其他数字、英文、符号占一个字节

emoji符号占4个字节

image-20210113155555281

数据库编码是utf8时往数据库存一条记录(用户名称是emoji符号):**

img

@Test
public` `void` `testInsert() {
 ``User user = ``new` `User();
 ``user.setUsername(``"\uD83D\uDE00 "``);
 ``user.setPassword(``"123456"``);
 ``userRepo.save(user);
}

因为MySQL中utf8字符集只支持三字节UTF-8编码的Unicode范围,而emoji字符属于四字节编码部分,所以程序运行预期是会报错的。运行这段代码:

image-20210113153736889

总结

点击悄咪咪地查看总结

跳转不过去的话 看上面的总结速览吧,一样的

最后

心之所向,素履以往。

posted @ 2021-01-14 09:11  cnng  阅读(642)  评论(0编辑  收藏  举报