python读txt文件的编码问题

Pytho代码:

# -*- coding: UTF-8 -*-
import codecs
#f1 = codecs.open("D:\\python_code\\bayes\\data\\label.txt", 'r', 'utf-8')
f1 = open("D:\\python_code\\bayes\\data\\label.txt")

list1 = ['味道', '物流', '外观', '包装', '性价比',  '品质', '功效', '价格', '赠品', '服务']
list2 = []
for line in f1:
    line = line.strip()
    list2.append(line)

print list1
print list2

for l1 in list1:
    #l1 = l1.decode("utf-8")
    print l1,
    if l1 in list2:
        print True
    else:
        print False

 




label.txt:
味道
物流
外观
包装
性价比
品质
功效
价格
赠品
服务

输出格式:

list1: ['\xe5\x91\xb3\xe9\x81\x93', '\xe7\x89\xa9\xe6\xb5\x81', '\xe5\xa4\x96\xe8\xa7\x82', '\xe5\x8c\x85\xe8\xa3\x85' , .......]
list2: ['\xef\xbb\xbf\xe5\x91\xb3\xe9\x81\x93', '\xe7\x89\xa9\xe6\xb5\x81', '\xe5\xa4\x96\xe8\xa7\x82', '\xe5\x8c\x85\xe8\xa3\x85' ,..........]

对比两个list,list2中的第一个元素的Unicode编码多了'\xef\xbb\xbf'三个字节的字符串,这样的话我们在使用带这种标记的数据是可能会出现错误,
出现这种错误的原因是因为在.txt的文件时,txt文件会在该文件的第一行加入这三个字节作为开始的标记符,这种标记叫BOM,当然我们在保存的时候
可以把文件保存为无BOM的文件格式,这种错误通常都很隐蔽,需要注意!



posted @ 2016-04-14 08:38  wkx。  阅读(1556)  评论(0编辑  收藏  举报