python学习笔记(二)

note eight
      使用元类
          动态语言和静态语言最大的不同,就是函数和类的定义,不是编译时定义的,而是运行时动态创建的。
          程序的调试用logging 模块
              import logging
          单元测试
              为了编写单元测试,我们需要引入python自带的unittest模块

      文件读写
          读写文件是最常见的IO操作,python内置了读写文件的函数。读写文件就是请求操作系统打开一个文件对象,然后通过操作系统提供的接口从这个文件对象中读取数据,或者把数据写入这个文件对象。
          step1:打开文件
              使用python内置的open()函数
          step2:对文件对象进行读或写
              read(),write()
          step3:关闭文件
              close(),文件使用完后必须关闭,因为文件对象会占用操作系统的资源,并且操作系统同一时间能打开的文件数量也是有限的
          但每次都这么写实在太繁琐,所以PYthon引入了with语句来自动帮我们调用close()方法
          with open() as f

          二进制文件
              前面讲的默认都是读取文本文件,并且是ASCII编码的文本文件。要读取二进制文件,比如图片、视频等等,用"rb"模式打开文件
          字符编码
              要读取非ASCII编码的文本文件,就必须以二进制模式打开,再解码。如GBK编码的文件
                   f = open('/Users/michael/gbk.txt', 'rb')
                >>> u = f.read().decode('gbk')
                >>> u
                u'\u6d4b\u8bd5'
                >>> print u
                测试
              如果每次手动转换嫌麻烦,python还提供了一个codecs模块帮我们在读文件时自动转换编码,直接读出unicode
              import codecs
            with codecs.open('/Users/michael/gbk.txt', 'r', 'gbk') as f:
                f.read() # u'\u6d4b\u8bd5'


    序列化
        在程序运行的过程中,所有的变量都是在内存中,可以随时修改变量,但是一旦程序结束,,变量所占的内存就被操作系统全部收回。
        我们把变量从内存中变成可存储或传输的过程称为序列化,在python中叫picking。序列化后,就可以把序列化之后的内容写入磁盘,或通过网络传输到别的机器上。
        反过来,把变量内容从序列化的对象重新读到内存里称为反序列化。
        python提供两个模块来实现序列化
            cPickle, pickle

        导入模块
        : d
        Out[11]: {'age': 20, 'name': 'Jack', 'score': 88}

        In [12]: try :
           ....:     import cPickle as pickle
           ....: except ImportError:
           ....:     import pickle
           ....:

        In [13]: pickle.dumps(d)
        Out[13]: "(dp1\nS'age'\np2\nI20\nsS'score'\np3\nI88\nsS'name'\np4\nS'Jack'\np5\ns."
        pickle.dumps()方法把任意对象序列化成一个str,然后就可以把这个str写入文件、或者用另一个方法pickle.dump()直接把对象序列化后写入一个file-like Object

            In [15]: f= open(r"C:\Users\MyHome\Desktop\dumps.txt","wb")

            In [16]: pickle.dump(d,f)

            In [17]: f.close()
        当我们要把对象从磁盘读到内存时,可以先把内容读到一个str,然后用pickle.loads()方法反序列化对象,也可以直接用pickle.load()方法从一个file-like Object 中直接反序列化对象。
       
        In [18]: f= open(r"C:\Users\MyHome\Desktop\dumps.txt","rb")

        In [19]: d = pickle.load(f)

        In [20]: f.close()

        In [21]: d
        Out[21]: {'age': 20, 'name': 'Jack', 'score': 88}

    JSON进阶
        如果我们要在不同的编程语言之间传递对象,就必须把对象序列化为标准格式,比如XML,但更好的方法是序列化为JSON,因为JSON表示出来就是一个字符串,可以被所有语言读取,也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式,并且比XML更快,而且可以直接在Web页面中读取,非常方便。
        python中内置的json模块提供了非常完善的Python对象到JSON格式的转换。我们先看看如何把python对象变成一个JSON

 

            In [22]: import json

            In [23]: d = dict(name = "Jack",age = 24,score = 96)

            In [24]: json.dumps(d)
            Out[24]: '{"age": 24, "score": 96, "name": "Jack"}'

            dumps()方法返回一个str,内容就是标准的JSON,类似的,dump()方法可以直接把JSON写入一个file-like Object
            要把JSON反序列化为python对象,用loads()或者对应的load()方法,前者把JSON的字符串反序列化,后者从file-like Object 中读取字符串并反序列化
            In [25]: json_str =  '{"age": 24, "score": 96, "name": "Jack"}'

            In [26]: json.loads(json_str)
            Out[26]: {u'age': 24, u'name': u'Jack', u'score': 96}


        Python的dict对象可以直接序列化为JSON的{},不过,很多时候,我们更喜欢用class表示对象,比如定义Student类,然后序列化:

            import json

            class Student(object):
                def __init__(self, name, age, score):
                    self.name = name
                    self.age = age
                    self.score = score

            s = Student('Bob', 20, 88)
            print(json.dumps(s))
            运行代码,毫不留情地得到一个TypeError:

            Traceback (most recent call last):
              ...
            TypeError: <__main__.Student object at 0x

        错误的原因是Student对象不是一个可序列化为JSON的对象。

    如果连class的实例对象都无法序列化为JSON,这肯定不合理!

    别急,我们仔细看看dumps()方法的参数列表,可以发现,除了第一个必须的obj参数外,dumps()方法还提供了一大堆的可选参数:

    https://docs.python.org/2/library/json.html#json.dumps

    这些可选参数就是让我们来定制JSON序列化。前面的代码之所以无法把Student类实例序列化为JSON,是因为默认情况下,dumps()方法不知道如何将Student实例变为一个JSON的{}对象。

    可选参数default就是把任意一个对象变成一个可序列为JSON的对象,我们只需要为Student专门写一个转换函数,再把函数传进去即可:


        def studentdict(std):
            return {"name":std.name,"age":std.age,"score":std.score}

        print (json.dumps(s,default=studentdict))

    不过,下次如果遇到一个Teacher类的实例,照样无法序列化为JSON。我们可以偷个懒,把任意class的实例变为dict:

        print(json.dumps(s, default=lambda obj: obj.__dict__))


    同样的道理,如果我们要把JSON反序列化为一个Student对象实例,loads()方法首先转换出一个dict对象,然后,我们传入的object_hook函数负责把dict转换为Student实例:

        def dict2student(d):
            return Student(d['name'], d['age'], d['score'])

        json_str = '{"age": 20, "score": 88, "name": "Bob"}'
        print(json.loads(json_str, object_hook=dict2student))
        运行结果如下:

        <__main__.Student object at 0x10cd3c190>
    打印出的是反序列化的Student实例对象。


    解析
        如果我们要编写一个搜索引擎,第一步是用爬虫把目标网站的页面抓取下来,第二部就是解析该HTML页面,看看里面的内容到底是新闻、图片还是视频。
        如何解析HTML呢,python提供了HTMLParser来非常方便地解析HTML

posted @ 2016-11-17 18:13  GoodPanpan  阅读(286)  评论(0编辑  收藏  举报