jug 支持的数据类型
理论上jug 支持各类只要是可以pickle的数据类型,但是在实际使用中,推荐简单化,这样可以减少通信开销
一个案例
- 原始
from glob import glob
from mahotas import imread
def process(img):
# complex image processing
files = glob('inputs/*.png')
imgs = [Task(imread, f) for f in files]
props = [Task(process, img) for img in imgs]
- 建议修改为
from glob import glob
def process(f):
from mahotas import imread
img = imread(f)
# complex image processing
files = glob('inputs/*.png')
props = [Task(process, f) for f in files]
说明
了解一些基本套路可以设计更好的任务,方便分析监控