案例

原因

• MySQL的utf8mb4是真正的“UTF-8”。

• MySQL的utf8是一种“专属的编码”，它能够编码的Unicode字符并不多。

• 总结：所有在使用utf8的MySQL和MariaDB用户都应该改用utf8mb4，不要再使用utf8。

编码 及 UTF-8

• 比如字符“C”被存成“01000011”，那么计算机在显示这个字符时需要经过两个步骤：
• 计算机读取“01000011”，得到数字67，因为67被编码成“01000011”。
• 计算机在Unicode字符集中查找67，找到了“C”。

• 同样的，反过来：
• 我的电脑将“C”映射成Unicode字符集中的67。
• 我的电脑将67编码成“01000011”，并发送给Web服务器。

• 表情包占4字节，而MySQL的utf8只可以存储1-3个字节内容，后续推广的utf8mb4是1-4字节。
• 因为在emoji表情包推广之前，MySQL以为3个字节够用，为了节省空间、并提升查询速度，所以使用了3字节，导致后续存储4字节内容时候出现错误

• 直接将utf8改为4个字节，涉及到MySQL底层存储逻辑，并且现有使用utf8的数据库无法在线升级，不如就直接出个新的utf8mb4更便捷。

MySQL中 UTF-8 简史

• MySQL从4.1版本开始支持UTF-8，也就是2003年，而今天使用的UTF-8标准（RFC 3629）是随后才出现的。

• 旧版的UTF-8标准（RFC 2279）最多支持每个字符6个字节。2002年3月28日，MySQL开发者在第一个MySQL 4.1预览版中使用了RFC 2279。同年9月，他们对MySQL源代码进行了一次调整：“UTF8现在最多只支持3个字节的序列”。
• 是谁提交了这些代码？他为什么要这样做？这个问题不得而知。
• 在迁移到Git后（MySQL最开始使用的是BitKeeper），MySQL代码库中的很多提交者的名字都丢失了。2003年9月的邮件列表中也找不到可以解释这一变更的线索。

• 2002年，MySQL做出了一个决定：如果用户可以保证数据表的每一行都使用相同的字节数，那么MySQL就可以在性能方面来一个大提升。
• 为此，用户需要将文本列定义为“CHAR”，每个“CHAR”列总是拥有相同数量的字符。如果插入的字符少于定义的数量，MySQL就会在后面填充空格，如果插入的字符超过了定义的数量，后面超出部分会被截断。
• MySQL开发者在最开始尝试UTF-8时使用了每个字符6个字节，CHAR(1)使用6个字节，CHAR(2)使用12个字节，并以此类推。
• 应该说，他们最初的行为才是正确的，可惜这一版本一直没有发布。但是文档上却这么写了，而且广为流传，所有了解UTF-8的人都认同文档里写的东西。

• 使用CHAR定义列（在现在看来，CHAR已经是老古董了，但在那时，在MySQL中使用CHAR会更快，不过从2005年以后就不是这样子了）。

• 将CHAR列的编码设置为utf8。

• 那些希望在空间和速度上双赢的用户，当他们在使用“utf8”的CHAR列时，实际上使用的空间比预期的更大，速度也比预期的慢

• 想要正确性的用户，当他们使用“utf8”编码时，却无法保存像“”这样的字符。

总结

• How to support full Unicode in MySQL databases · Mathias Bynens