python 使用yield进行数据的流式处理

demo:从文件中取包含字符“a”的5行数据做一次批处理!!!

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
# coding: utf-8
 
import time
 
def cat(f):
    for line in f:
        yield line
 
def grep(lines,searchtext):
  for line in lines:
    if searchtext in line:
      yield line
 
def process(segment_lines):
  print (segment_lines)
 
flog = cat(open('/tmp/tflearn_logs/vae/events.out.tfevents.1540467860.lanzihuazaideMacBook-Pro.local'))
pylines = grep(flog, 'a')
segment_lines = []
for line in pylines:
  if len(segment_lines) < 5:
      segment_lines.append(line)
  else:
      print ("*"*88)
      process(segment_lines)
      segment_lines = []
if segment_lines:
    print ("*"*88)
    process(segment_lines)

 

posted @   bonelee  阅读(3985)  评论(1编辑  收藏  举报
编辑推荐:
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 没有源码,如何修改代码逻辑?
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· 记一次.NET内存居高不下排查解决与启示
· 白话解读 Dapr 1.15:你的「微服务管家」又秀新绝活了
· DeepSeek 开源周回顾「GitHub 热点速览」
历史上的今天:
2017-10-26 linux命令 — lsof 查看进程打开那些文件 或者 查看文件给那个进程使用
点击右上角即可分享
微信分享提示