判断字符串是否UTF8编码
UTF-8的编码规则很简单,只有二条: 1)对于单字节的符号,字节的第一位设为0,后面7位为这个符号的unicode码。因此对于英语字母,UTF-8编码和ASCII码是相同的。 2)对于n字节的符号(n>1),第一个字节的前n位都设为1,第n+1位设为0,后面字节的前两位一律设为10。剩下的没有提及的二进制位,全部为这个符号的unicode码。
举个例子,已知“严”的unicode是4E25(100111000100101),根据上表,可以发现4E25处在第三行的范围内 (0000 0800-0000 FFFF),因此“严”的UTF-8编码需要三个字节,即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然后,从“严”的最后一个二进制位开始,依次从后向前填入格式中的x,多出的位补0。这样就得到了,“严”的UTF-8编码是 “11100100 10111000 10100101”,转换成十六进制就是E4B8A5。
bool IsUTF8(char * str, int len) { int bytes = 0; bool allAscii = true; for(int i = 0 ;i < len;i++) { unsigned char c = str[i]; if(c & 0x80) allAscii = false; if(bytes==0) { if(c & 0x80) { while(c&0x80) { c <<= 1; bytes += 1; } if(bytes<2 && bytes>6) return false; bytes--; } } else { if((c & 0xc0) != 0x80) return false; bytes--; } } if(allAscii) return false; return bytes == 0; }
posted on 2014-11-23 15:41 fatemaster 阅读(2098) 评论(0) 编辑 收藏 举报