mysql字符集 utf8 和utf8mb4 的区别
用mysql创建数据库表时,一般都会选择用utf-8编码(防中文乱码,通用性)
对自己以前的小项目及平时学习,utf-8是足够了的,一直也没有遇到过什么问题,后面公司中的表都是用的utf-8mb4(强制要求),刚开始也不懂为什么,也没太当回事,后面无意看到一篇讲utf-8与utf-8mb4的区别后,才明白两个到底什么关联,什么区别。
建议以后不管自己用还是公司都都将数据库/表的字符集编码设置成utf8mb4。
学mysql时 utf8支持四个字节的话 好像早就忘了吧,感觉mysql这个开端不好(开头不重视,觉得简单,但是却一直没有做到学以致用)。
总结速览
总结一下,其实mysql中的utf8并不是真正的支持每个字符最大四个字节,而是三个字节,中文是占3个字节,其他数字、英文、符号占一个字节。自己日常使用影响不大,但是emoji符号占4个字节,一些较复杂的文字、繁体字也是4个字节。
但是在公司建表一定要使用utf8mb4字符编码,原因如下
- 因为你保不准之后写入数据是否有emoji符号(常用场景如 用户昵称),用户昵称中带有符号很正常,但是你这边一插入,数据库就报错,无法控制。
- utf8mb4是对utf8的一种扩展,就是为了修复utf8最多只支持三个字节的字符这个问题。utf8mb4是真正的支持四个字节的字符。
- 越来越多的公司或用户都在使用utf8mb4,如果现在还用utf8后期想扩展成utf8mb4就需要重新构建数据库,庞大的数据量和工作量,会给后期添加天大的障碍。
什么是编码?什么是 UTF-8?
我们都知道,计算机使用 0 和 1 来存储文本。比如字符“C”被存成“01000011”,那么计算机在显示这个字符时需要经过两个步骤:
- 计算机读取“01000011”,得到数字 67,因为 67 被编码成“01000011”。
- 计算机在 Unicode 字符集中查找 67,找到了“C”。
同样的:
- 我的电脑将“C”映射成 Unicode 字符集中的 67。
- 我的电脑将 67 编码成“01000011”,并发送给 Web 服务器。
几乎所有的网络应用都使用了 Unicode 字符集,因为没有理由使用其他字符集。
Unicode 字符集包含了上百万个字符。最简单的编码是 UTF-32,每个字符使用 32 位。这样做最简单,因为一直以来,计算机将 32 位视为数字,而计算机最在行的就是处理数字。但问题是,这样太浪费空间了。
UTF-8 可以节省空间,在 UTF-8 中,字符“C”只需要 8 位,一些不常用的字符,比如“😓”需要 32 位。其他的字符可能使用 16 位或 24 位。一篇类似本文这样的文章,如果使用 UTF-8 编码,占用的空间只有 UTF-32 的四分之一左右。
mysql中的utf8与utf8mb4
MySQL 从 4.1 版本开始支持 UTF-8,也就是 2003 年,而今天使用的 UTF-8 标准(RFC 3629)是随后才出现的。
旧版的 UTF-8 标准(RFC 2279)最多支持每个字符 6 个字节。2002 年 3 月 28 日,MySQL 开发者在第一个 MySQL 4.1 预览版中使用了 RFC 2279。同年 9 月,他们对 MySQL 源代码进行了一次调整:“UTF8 现在最多只支持 3 个字节的序列”。
是谁提交了这些代码?他为什么要这样做?这个问题不得而知。在迁移到 Git 后(MySQL 最开始使用的是 BitKeeper),MySQL 代码库中的很多提交者的名字都丢失了。2003 年 9 月的邮件列表中也找不到可以解释这一变更的线索。
不过我们可以试着猜测一下:
2002年,MySQL做出了一个决定:如果用户可以保证数据表的每一行都使用相同的字节数,那么 MySQL 就可以在性能方面来一个大提升。为此,用户需要将文本列定义为“CHAR”,每个“CHAR”列总是拥有相同数量的字符。如果插入的字符少于定义的数量,MySQL 就会在后面填充空格,如果插入的字符超过了定义的数量,后面超出部分会被截断。
MySQL 开发者在最开始尝试 UTF-8 时使用了每个字符6个字节,CHAR(1) 使用6个字节,CHAR(2)使用12个字节,并以此类推。
应该说,他们最初的行为才是正确的,可惜这一版本一直没有发布。但是文档上却这么写了,而且广为流传,所有了解 UTF-8 的人都认同文档里写的东西。
不过很显然,MySQL 开发者或厂商担心会有用户做这两件事:
- 使用 CHAR 定义列(在现在看来,CHAR 已经是老古董了,但在那时,在 MySQL 中使用 CHAR 会更快,不过从 2005 年以后就不是这样子了)。
- 将 CHAR 列的编码设置为“utf8”。
我的猜测是 MySQL 开发者本来想帮助那些希望在空间和速度上双赢的用户,但他们搞砸了“utf8”编码。
所以结果就是没有赢家。那些希望在空间和速度上双赢的用户,当他们在使用“utf8”的 CHAR 列时,实际上使用的空间比预期的更大,速度也比预期的慢。而想要正确性的用户,当他们使用“utf8”编码时,却无法保存像“😓”这样的字符,因为“😓”是4个字节的。
在这个不合法的字符集发布了之后,MySQL 就无法修复它,因为这样需要要求所有用户重新构建他们的数据库。最终,MySQL 在 2010 年重新发布了
“utf8mb4”来支持真正的 UTF-8。
MySQL在5.5.3之后增加了这个utf8mb4的编码,mb4就是most bytes 4的意思,专门用来兼容四字节的unicode。好在utf8mb4是utf8的超集,除了将编码改为utf8mb4外不需要做其他转换。为了获取更好的兼容性,应该总是使用 utf8mb4 而非 utf8. 对于 CHAR 类型数据,utf8mb4 会多消耗一些空间,根据 Mysql 官方建议,使用 VARCHAR 替代 CHAR。
为什么使用utf8mb4
mysql中的utf8并不是真正的支持每个字符最大四个字节,而是三个字节,中文是占3个字节,其他数字、英文、符号占一个字节。自己日常使用影响不大,但是emoji符号占4个字节,一些较复杂的文字、繁体字也是4个字节。如果不使用utf8mb4插入如emoji符号或其他四个字节的字符就会报错。
可以看到
中文是占3个字节,其他数字、英文、符号占一个字节
emoji符号占4个字节
数据库编码是utf8时往数据库存一条记录(用户名称是emoji符号):**
@Test
public` `void` `testInsert() {
``User user = ``new` `User();
``user.setUsername(``"\uD83D\uDE00 "``);
``user.setPassword(``"123456"``);
``userRepo.save(user);
}
因为MySQL中utf8字符集只支持三字节UTF-8编码的Unicode范围,而emoji字符属于四字节编码部分,所以程序运行预期是会报错的。运行这段代码:
总结
跳转不过去的话 看上面的总结速览吧,一样的
最后
心之所向,素履以往。