jug 支持的数据类型

理论上jug 支持各类只要是可以pickle的数据类型,但是在实际使用中,推荐简单化,这样可以减少通信开销

一个案例

  • 原始
from glob import glob
from mahotas import imread

def process(img):
    # complex image processing

files = glob('inputs/*.png')
imgs = [Task(imread, f) for f in files]
props = [Task(process, img) for img in imgs]
  • 建议修改为
from glob import glob

def process(f):
    from mahotas import imread
    img = imread(f)
    # complex image processing

files = glob('inputs/*.png')
props = [Task(process, f) for f in files]

说明

了解一些基本套路可以设计更好的任务,方便分析监控

参考资料

https://jug.readthedocs.io/en/latest/types.html

posted on 2025-03-22 08:00  荣锋亮  阅读(3)  评论(0)    收藏  举报

导航