多线程处理脚本
在处理数据集的时候,往往是一张一张循环处理,如果数据集太大,处理时间就会很长。我们可以使用多线程处理。
多线程的模板直接用mmcv库里面的一个函数就行了
参考如下:
https://github.com/open-mmlab/mmcv/blob/master/docs_zh_CN/understand_mmcv/utils.md
比如我要写一个cp操作,把数据集按照一定格式复制一遍。
import os import mmcv def func_cp(item): img_path, cp_path = item cmd = "cp " + img_path + " " + cp_path os.system(cmd) items_cp = [] for ... : items_cp.append((img_path, cp_path)) mmcv.track_parallel_progress(func_cp, items_cp, 32)
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 地球OL攻略 —— 某应届生求职总结
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 提示词工程——AI应用必不可少的技术
· .NET周刊【3月第1期 2025-03-02】