encode, decode, urlencode和urldecode小记

在对encode、decode、urlencode和urldecode的含义理解上,普遍存在一些误区。本文会对这几个概念进行对比分析。

encode和decode

encode是把字符流按照指定字符集k编码为字节流,decode是把字节流按照指定字符集解码为字符流。

IO输入一般需要进行decode解码,转换为内部的字符流。

IO输出一般需要进行encode编码,转换为字节流输出。

python内部的字符串编码是unicode,perl5.6之后内部字符串以UTF-8方式存在。

如对于一个UTF-8编码的文件的输入,用下面的python代码可以实现:

 file = open(file_path)
line = file.readline()
line = line.decode("UTF-8")
这样,line就变成了python的内部字符串。

用下面的perl代码也可以实现:

 open INPUT $file_path
my $line = <INPUT>
$line = decode("utf8", $line)
这里需要使用use Encode引入Encode包。如果在读取文件时已经指定了编码,那么就不需要再单独做decode解码了。如,
 open INPUT ”<:utf8" $file_path
代码中硬编码的字符串,可以理解为字节流,其编码与文件编码一致。

在进行字符串操作前,建议统一采用decode解码,这样可以保证内部处理的一致性和正确性。

输出到标准输出的不能是内部字符串,必须是字节流。如在python中输出某一行到屏幕,

 line = line.encode("UTF8")
print line

urlencode和urldecode

urlencode是把字节流的每个字节转换为%HH的形式。

urldecode是把urlencode过的字节流还原。

urlencode和urldecode的参数必须是字节流,字节流必须是根据字符串所属的字符集正确编码的。

在python中,提供了urlencode包:from urllib import urlencode。具体操作,请参照以下代码:

 url = "http://www.google.com/search?" + "%s"
key = "字符串";
mass = {}
mass["key"] = key
params = urlencode(mass)
encode_url = url % params
这里程序的编码是UTF-8,encode_url即为encode之后的url:
http://www.google.com/search?key=%E5%AD%97%E7%AC%A6%E4%B8%B2

在perl中,可以通过unpack函数实现。

 my $url = "http://www.google.com/search?key=";
my $query = "字符串";
$query =~ s/(\W)/sprintf("%%%02x", unpack("C", $1))/eg;
my $encode_url = $url . $query;
posted @ 2012-07-25 12:43  deaconx  阅读(602)  评论(0编辑  收藏  举报