libiconv
由于历史原因,国际化的文字常常由于语言或者国家的原因使用不同的编码。随着互联网时代的到来,通过互联网进行文字交流也逐渐增多:浏览外国的网站,这个时候字符编码的转换变得尤为重要。这带来了一个问题,就是许多字符在某一种编码方式中没有。为了解决这种混乱,Unicode的编码方式被建立。Unicode是一种超级编码包含了所有这些编码的字符集,因此一些新的文本格式像XML的默认编码方式就是Unicode.
但是很多老式的计算机还在使用当地的传统的字符编码方式。而一些程序,例如邮件程序和浏览器必须能在这些不同的用户编码之间作转换。其他的一些程序则内置支持Unicode,以顺利支持国际化的处理,但是仍然有在Unicode和其他的传统编码之间转换的需求。GNU的libiconv就是为这两种应用设计的编码转换库。
2libiconv编码简介
libiconv库[1]为需要做转换的应用提供了一个iconv()的函数,以实现一个字符编码到另一个字符编码的转换。
包括的编码有:
欧洲语系 |
ASCII,
ISO-8859-{1,2,3,4,5,7,9,10,13,14,15,16},
KOI8-R, KOI8-U, KOI8-RU,
CP{1250,1251,1252,1253,1254,1257},
CP{850,866},
Mac{Roman,CentralEurope,Iceland,Croatian,Romania},
Mac{Cyrillic,Ukraine,Greek,Turkish},
Macintosh
|
犹太语系 | ISO-8859-{6,8}, CP{1255,1256}, CP862, Mac{Hebrew,Arabic} |
日文 | EUC-JP, SHIFT_JIS, CP932, ISO-2022-JP, ISO-2022-JP-2, ISO-2022-JP-1 |
中文 | EUC-CN, HZ, GBK, GB18030, EUC-TW, BIG5, CP950, BIG5-HKSCS, ISO-2022-CN, ISO-2022-CN-EXT |
朝鲜文 | EUC-KR, CP949, ISO-2022-KR, JOHAB |
亚美尼亚语 | ARMSCII-8 |
格鲁尼亚语 | Georgian-Academy, Georgian-PS |
塔吉克语 | KOI8-T |
泰国语 | TIS-620, CP874, MacThai |
老挝语 | MuleLao-1, CP1133 |
越南语 | VISCII, TCVN, CP1258 |
特殊平台 | HP-ROMAN8, NEXTSTEP |
全部Unicode |
UTF-8, UTF-7
UCS-2, UCS-2BE, UCS-2LE, UCS-4, UCS-4BE, UCS-4LE
UTF-16, UTF-16BE, UTF-16LE, UTF-32, UTF-32BE, UTF-32LE
C99, JAVA
|
全部Unicode,在uint16_t或uint32_t方面(使用机器相关的字节序和对齐方式):
UCS-2-INTERNAL, UCS-4-INTERNAL
本地依赖,在'char'或'wchar_t'方面(使用机器相关的字节序和对齐方式,以及系统和区域相关的语义):
char, wchar_t
空的编码名""等同于"char",它表示与区域相关的字符编码
当使用了--enable-extra-encodings设置选项,将额外提供对少量编码的支持:
UCS-2-INTERNAL, UCS-4-INTERNAL
本地依赖,在'char'或'wchar_t'方面(使用机器相关的字节序和对齐方式,以及系统和区域相关的语义):
char, wchar_t
空的编码名""等同于"char",它表示与区域相关的字符编码
当使用了--enable-extra-encodings设置选项,将额外提供对少量编码的支持:
欧洲语系
|
CP{437,737,775,852,853,855,857,858,860,861,863,865,869,1125}
|
犹太语系
|
CP864
|
日语
|
EUC-JISX0213, Shift_JISX0213, ISO-2022-JP-3
|
土库曼语
|
TDS565
|
特殊平台
|
RISCOS-LATIN1
|
通过将Unicode作为 中间编码,所有编码之间都可以相互转换。
并且也在直译上提供了有限的支持。就是说,当一个字符在目标的编码里没有的对应字符的时候,转换程序会自动从一个或多个看起来相似的字符中选择一个。目标编码名前面加上“//TRANSLIT”即可使用直译功能。
libiconv在系统缺少多种多样的字符编码支持时,提供这样方面的支持,
并且也在直译上提供了有限的支持。就是说,当一个字符在目标的编码里没有的对应字符的时候,转换程序会自动从一个或多个看起来相似的字符中选择一个。目标编码名前面加上“//TRANSLIT”即可使用直译功能。
libiconv在系统缺少多种多样的字符编码支持时,提供这样方面的支持,
3libiconv使用举例
使用步骤
(1)打开:iconv_t converter = iconv_open("gbk","utf-8");
(2)转换:size_t rc = iconv(converter, input, insize, output, outsize);
(3)关闭:iconv_close(converter);
函数参数:
(iconv_t cd, const char* * inbuf, size_t * inbytesleft, char* * outbuf, size_t * outbytesleft);
需要注意的是iconv 函数会修改指针*inbuf 和指针*outbuf的值(刚开始不知道,老是内存泄漏)(*inbytesleft,*outbytesleft也会被修改)。因此需要保存原输入、输出内存分配的地址值。
需要注意的是iconv 函数会修改指针*inbuf 和指针*outbuf的值(刚开始不知道,老是内存泄漏)(*inbytesleft,*outbytesleft也会被修改)。因此需要保存原输入、输出内存分配的地址值。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
|
//要转换至的编码应与编译器使用的默认编码不同,相同的话将转换失败 //比如VC6.0中文默认使用UTF-8进行编码,iconv_open("gbk","UTF-8");将失败 #include <iostream> #include <iconv.h> using namespace std; #pragma comment(lib,"iconv.lib") int main() { iconv_t conveter = iconv_open( "gbk" , "UTF-8" ); if (conveter== iconv_t(-1)){ cout<< "encode convert not supported!" <<endl; if ( errno ==EINVAL)cout<< "einval" <<endl; return -1; } else { cout<< "ok!" <<endl; } //待转换的字符串 size_t insize; char *input = "hello是" ; //汉字随便加 char *input_old = input; //记录待转换字符串的地址 insize= strlen (input); cout<< "input is: " <<input<<endl; //存储转换结果的字符串 size_t outsize = insize * 3+1; char *output = new char [outsize]; char *output_old = output; //记录转换后的字符串的地址 memset (output,0,outsize); //转换 size_t rc = iconv(conveter,( const char **)&input,&insize,&output_old,&outsize); if (rc==-1){ cout<< "converting failed" <<endl; return -1; } //输出转换后的字符串 cout<< "outputis: " <<output_old; cout<< " outsize=" <<outsize<<endl; //delete[] input_old;//内存释放,不需要释放它,常量字符串 delete [] output_old; //内存释放 iconv_close(conveter); } |