python爬虫对于gb2312

对于刚刚接触python爬虫的人,常常会碰到一个比较烦的问题,

如果网页是GB2312编码格式,我们直接decode(’GB2312‘)一般python都会报错:

GB2312不能编码该页面。

这就比较奇怪了

<meta http-equiv="Content-Type" content="text/html; charset=gb2312" />

网页的charset明明是GB2312,却出错了。

事实上微软将 gb2312 和 gbk 统一映射为 gb18030,这个问题也比较无语大家可以参考:

 

http://powerelite.blog.163.com/blog/static/429658912014394820777/

posted @ 2017-04-11 21:40  金牛小子  阅读(888)  评论(0编辑  收藏  举报