pyinstaller打包TVM/RPC相关脚本及DSO文件
0. 创建anaconda env
numpy中MKL/BLAS库占用很大空间。使用如下命令创建新环境,并替换numpy。
conda create -n extranumpy python=3.8.12
conda activate extranumpy
conda install -c conda-forge numpy
pip install pyinstaller
1. 测试用python脚本
#! /usr/bin/python3.6
# -*- coding:utf-8 -*-
# test_py.py
import tvm
import sys
import tvm.rpc
print('test_py.py will run...')
ip_addr, ip_port = sys.argv[1].split(':')
remote = tvm.rpc.connect(ip_addr, int(ip_port))
add_func = remote.get_function('rpc.test_add')
print(add_func(10, 20))
2. 待打包的文件
- test_py.py
- libtvm_runtime.so
- tvm: init.py _ffi contrib parser rpc runtime support.py error.py
其中,tvm文件夹中的python脚本删除不需要的子目录,只保留如上所示依赖项。
3. 修改spec文件
# -*- mode: python ; coding: utf-8 -*-
block_cipher = None
a = Analysis(['test_py.py'],
pathex=['/data/huangxiaofeng/work/vsext_example/py_package'],
binaries=[('libtvm_runtime.so', '.')],
datas=[],
hiddenimports=[],
hookspath=[],
hooksconfig={},
runtime_hooks=[],
excludes=[],
win_no_prefer_redirects=False,
win_private_assemblies=False,
cipher=block_cipher,
noarchive=False)
pyz = PYZ(a.pure, a.zipped_data,
cipher=block_cipher)
exe = EXE(pyz,
a.scripts,
a.binaries,
a.zipfiles,
a.datas,
[],
name='test_py',
debug=False,
bootloader_ignore_signals=False,
strip=False,
upx=True,
upx_exclude=[],
runtime_tmpdir=None,
console=False,
disable_windowed_traceback=False,
target_arch=None,
codesign_identity=None,
entitlements_file=None )
说明:由于依赖于libtvm_runtime.so,故将该so文件放置在python测试脚本同一级目录,这样运行时就可以找到并加载该so文件。
进一步参考:使用pyinstaller将图片,文件等打包到exe依赖文件的处理方法
标签:
TVM
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构