07 2017 档案
摘要:【多进程与多线程】 调度 : 在传统计算机操作系统中 cpu的调度的基本单位是进程,随着线程的引入,线程变成操作系统的最小调度单位 而进程是作为资源的拥有单位。 并行:由于线程的引入 原先一个进程只能有一个并发 现在一个进程可以有多个线程并行执行, 早起的httpserver 都是通过线程来解决服务
阅读全文
摘要:我们需要用python 写一个多线程的下载器 我们要先获取这个文件的大小 然后将其分片 然后启动多线程 分别去下载 然后将其拼接起来
阅读全文
摘要:Map --映射 Reduce -- 归纳 将大数据标准化的处理 Map 拆封任务,Reduce将结果合并 这样是不是能够将很多计算机组成一台超级计算机呢? 一些问题:如果任务本身就很复杂,那么拆解任务本身就是一个很打的难题。 python 在2.6 的时候 增加了 map reduce函数 例如我
阅读全文
摘要:#!/usr/bin/env python #coding:utf-8 ''' 监控监控程序 ''' import json import urllib import inspect import os,time,socket '''conf''' userDefine_check_time = 0 userDefine_json = [] class mon(object): ...
阅读全文
摘要:【urllib and urllib2】 这是两个python的网络模块 内置的 提供很好的网络访问的功能。 如果我们想要去爬一些图片可以这样干 可以把豆瓣某个电影页面的封面都爬下来 并且以文件名的形式保存下来 【正则表达式】 在python中想要用正则表达式就必须要要用re模块 <html><bo
阅读全文
摘要:新建一个文件 内容是从 0-9的整数 w和a 的区别是 如果1.txt存在的话 会清空本来的内容 而a是往里面追加.。 f.flush() 将buffcashe的数据真正的写入到文件里。 这里不推荐在很多写入的时候 写一次flush一次 这样会非常影响性能。 tell()告诉我们文件系统指针在哪里。
阅读全文
摘要:我们可以做一个switch case的模式 #filter a = [1,2,3,4] filter(lamda x:x%2,a) [1,3] #map 返回序列 为对原序列每个元素分别调用function获得的可以传入多个序列 但是function 也要有相应多的参数 map(lambda x,y
阅读全文