encode, decode, urlencode和urldecode小记
在对encode、decode、urlencode和urldecode的含义理解上,普遍存在一些误区。本文会对这几个概念进行对比分析。
encode和decode
encode是把字符流按照指定字符集k编码为字节流,decode是把字节流按照指定字符集解码为字符流。
IO输入一般需要进行decode解码,转换为内部的字符流。
IO输出一般需要进行encode编码,转换为字节流输出。
python内部的字符串编码是unicode,perl5.6之后内部字符串以UTF-8方式存在。
如对于一个UTF-8编码的文件的输入,用下面的python代码可以实现:
file = open(file_path)这样,line就变成了python的内部字符串。
line = file.readline()
line = line.decode("UTF-8")
用下面的perl代码也可以实现:
open INPUT $file_path这里需要使用use Encode引入Encode包。如果在读取文件时已经指定了编码,那么就不需要再单独做decode解码了。如,
my $line = <INPUT>
$line = decode("utf8", $line)
open INPUT ”<:utf8" $file_path代码中硬编码的字符串,可以理解为字节流,其编码与文件编码一致。
在进行字符串操作前,建议统一采用decode解码,这样可以保证内部处理的一致性和正确性。
输出到标准输出的不能是内部字符串,必须是字节流。如在python中输出某一行到屏幕,
line = line.encode("UTF8")
print line
urlencode和urldecode
urlencode是把字节流的每个字节转换为%HH的形式。
urldecode是把urlencode过的字节流还原。
urlencode和urldecode的参数必须是字节流,字节流必须是根据字符串所属的字符集正确编码的。
在python中,提供了urlencode包:from urllib import urlencode。具体操作,请参照以下代码:
url = "http://www.google.com/search?" + "%s"这里程序的编码是UTF-8,encode_url即为encode之后的url:
key = "字符串";
mass = {}
mass["key"] = key
params = urlencode(mass)
encode_url = url % params
http://www.google.com/search?key=%E5%AD%97%E7%AC%A6%E4%B8%B2
在perl中,可以通过unpack函数实现。
my $url = "http://www.google.com/search?key=";
my $query = "字符串";
$query =~ s/(\W)/sprintf("%%%02x", unpack("C", $1))/eg;
my $encode_url = $url . $query;