字符编码简介

涉及中文的编程时,经常遇到字符编码的问题。这些问题,大多源自于概念之间的混淆。

理顺字符编码概念之间的关系,即可避免大多数问题。

经常提到的几个概念如下:

  • ASCII
  • Unicode
  • UTF-8
  • GBK
  • GB2312
  • GB18030
  • charset
  • encoding

Charset and encoding

  • charset(字符集): 是 set,即,字符的集合。
  • encoding(字符编码): 是 map,即,2 个字符集合之间的映射关系。
    主要用于字符集合之间的相互转换。

charset 字符集合

  • ASCII: 主要用于表示英语等单字节的语言。

    • standard ASCII: 取值范围是0~127,可以用7个bit表示。
    • Extended ASCII: 一般机器一字节 8 位,取值范围是 0-255。
      因此各厂商制定了很多种 ASCII 码的扩展规范。
      Latin-1 是图形界面中广泛使用的 扩展 ASCII 码。
  • GB系: 主要用于表示汉字,中国的国家标准。双字节编码。
    按推出时间的先后顺序:GB2312 –> GBK –> GB18030
  • Unicode: 为了统一表示各国语言,18位二进制数表示。

encoding 字符集之间的映射关系

字符编码与字符集的名字通常是一样的,unicode 例外。
unicode 存在多种实现方式,所以,字符编码名字较多,如 utf8/utf16/utf32 等。

编程中,建议主要使用如下 2 种编码。

  • ASCII 字符编码: 纯英文时使用。ASCII 字符集的编码方式。
  • UTF-8: 涉及汉字等非英文字符时使用。Unicode 字符集的实现方式之一。

standard ASCII

IBM expanded ASCII

Latin-1

编号为128~159的是一些控制字符,表中没有列出。

posted @ 2014-03-15 10:16  Jackon Yang  阅读(224)  评论(0编辑  收藏  举报