Python判断字符集

   Python利用第三方库chardet可以判断字符集。

 https://chardet.readthedocs.io

1
2
3
4
5
>>> import urllib
>>> rawdata = urllib.urlopen('http://yahoo.co.jp/').read()
>>> import chardet
>>> chardet.detect(rawdata)
{'encoding': 'EUC-JP', 'confidence': 0.99}

  

判断文件的字符集

1
2
3
4
5
6
7
8
9
detector = UniversalDetector()
   for filename in glob.glob('*.txt'):
       print(filename.ljust(60), )
       detector.reset()
       for line in open(filename, 'rb'):
           detector.feed(line)
           if detector.done: break
       detector.close()
       print(detector.result)

  显示结果:

 

posted @   头痛不头痛  阅读(1885)  评论(0编辑  收藏  举报
编辑推荐:
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
阅读排行:
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
历史上的今天:
2017-04-27 Maven构建Web项目
2016-04-27 在windows上自动备份SVN版本库及定时删除
点击右上角即可分享
微信分享提示
主题色彩