聪明出于勤奋,天才在于积累

  :: 首页 :: 博问 :: 闪存 :: 新随笔 :: :: :: 管理 ::

jni的中文字符串处理

几个概念首先要明确:

  • java内部是使用16bit的unicode编码(UTF-16)来表示字符串的,无论中文英文都是2字节;
  • jni内部是使用UTF-8编码来表示字符串的,UTF-8是变长编码的unicode,一般ascii字符是1字节,中文是3字节;
  • c/c++使用的是原始数据,ascii就是一个字节了,中文一般是GB2312编码,用两个字节来表示一个汉字。

 

在 JNI 的C中:

const char* str = "012345我是中国人";

strlen(str) 的值为21, 也就是说 char* 的内容是 UTF-8 编码的,而不是GB2312. 

注意这里的编码类型是和 C/C++源码文件的编码格式一至的,如果.c或者.cpp文件是UTF-8格式的,则代码里面常量字符串就是utf-8的值。

是GB2312时,strlen(str)的值将是 16,而且用  (*env)->NewStringUTF(env, "012345我是中国人");  得到的将是乱码,因为将GB2312编码的一段数据,当成utf-8了

 

 

明确了概念,操作就比较清楚了。下面根据字符流的方向来分别说明一下

1、java --> c/c++

这种情况中,java调用的时候使用的是UTF-16编码的字符串,jvm把这个字符串传给jni,c/c++得到的输入是jstring,这个时候,可以利用jni提供的两种函数,一个是GetStringUTFChars,这个函数将得到一个UTF-8编码的字符串;另一个是GetStringChars这个将得到UTF-16编码的字符串。无论那个函数,得到的字符串如果含有中文,都需要进一步转化成GB2312的编码。

       String 

(UTF-16)
|
[java] |
-------------------- JNI 调用
[cpp] |
v
jstring
(UTF-16)
|
+--------+---------+
|GetStringChars |GetStringUTFChars
| |
v v
wchar_t* char*
(UTF_16) (UTF-8)

 

 

2、c/c++ --> java

jni返回给java的字符串,c/c++首先应该负责把这个字符串变成UTF-8或者UTF-16格式,然后通过NewStringUTF或者NewString来把它封装成jstring,返回给java就可以了。

 

       String 

(UTF-16)
^
|
[java] |
-------------------- JNI 返回
[cpp] |
jstring
(UTF-16)
^
|
+--------+---------+
^ ^
| |
|NewString |NewStringUTF
wchar_t* char*
(UTF_16) (UTF-8)

 

如果字符串中不含中文字符,只是标准的ascii码,那么用GetStringUTFChars/NewStringUTF就可以搞定了,因为这种情况下,UTF-8编码和ascii编码是一致的,不需要转换。

但是如果字符串中有中文字符,那么在c/c++部分进行编码转换就是一个必须了。我们需要两个转换函数,一个是把UTF8/16的编码转成GB2312;一个是把GB2312转成UTF8/16。

这里要说明一下:linux和win32都支持wchar,这个事实上就是宽度为16bit的unicode编码UTF16,所以,如果我们的c/c++程序中完全使用wchar类型,那么理论上是不需要这种转换的。但是实际上,我们不可能完全用wchar来取代char的,所以就目前大多数应用而言,转换仍然是必须的。

具体的转换函数,linux和win32都有一定的支持,比如glibc的mbstowcs就可以用来把GB2312编码转成UTF16,但是这种支持一般是平台相关的(因为c/c++的标准中并没有包括这部分),不全面的(比如glibc就没有提供转成UTF8的编码),不独立的(linux下mbstowcs的行为要受到locale设置的影响)。所以我推荐使用iconv库来完成转换。

iconv库是一个免费的独立的编码转换库,支持很多平台,多种编码(事实上,它几乎可以处理我们所使用的所有字符编码),而且它的行为不受任何外部环境的影响。iconv在*nix平台上,基本上是缺省安装的。在win32平台上需要额外安装。

下面提供一个把GB2312编码的字符串转换成UTF8编码的示例

#include <iconv.h>

char* BytesToUtf8(string src, char* dst, int* nout)
{
size_t n_in = src.length();
size_t n_out = *nout;

iconv_t c = iconv_open("UTF-8", "GB2312");
if (c == (iconv_t)-1) {
cerr << strerror(errno) << endl;
return NULL;
}

 

char* inbuf = new char [n_in + 1];
if (!inbuf) {
iconv_close(c);
return NULL;
}

strcpy(inbuf, src.c_str());
memset(dst, 0, n_out);

char* in = inbuf;
char* out = dst;
if (iconv(c, &in, &n_in, &out, &n_out) == (size_t)-1) {
cerr << strerror(errno) << endl;
out = NULL;
}
else {
n_out = strlen(dst);
out = dst;
}

iconv_close(c);
*nout = n_out;
delete[] inbuf;

return out;
}

 

补充几点说明:

1、从jni的接口看,jni提供了UTF16和UTF8两个系列的字符串处理函数,但是由于jni的文档中说,jni的内部实现中是用UTF8作为字符串编码格式的,所以使用UTF8系列比较合适(NewStringUTF/GetStringUTFChars/ReleaseStringUTFChars)

2、使用iconv库的话,运行环境的设置对于编码转换是没有影响的,但是外层java程序对于字符串的解析依赖于运行环境的locale,所以设置正确的locale对于jni意义不大,但是对整个系统还是必要的。

posted on 2012-11-01 14:19    阅读(800)  评论(0编辑  收藏  举报