Detectron2 在虚拟机上预测推断时无任何输出卡退问题
环境
虚拟机 Ubuntu 18.04
问题描述
在实体机上运行没有任何问题,在虚拟机上运行到预测图片这一步直接卡退,没有任何输出。
...
predictor = DefaultPredictor(cfg)
outputs = predictor(imgs) # 这一步直接卡退
解决过程
使用 pdb 库进入 detectron2 库源码里断点调 bug,最终发现 bug 出现在 torch.Tensor.max()
方法这一步,报错内容:
Illegal instruction (core dumped)
搜索发现是因为 KVM 虚拟机不支持 AVX(Advanced Vector Extensions)。联系虚拟机提供方开启了此功能,问题解决。