这个问题主要是因为我使用了多个显卡,导致在inference阶段,模型和数据不在同一个卡,所以后面同时报了:

TypeError: forward() missing 1 required positional argument: 'input'

没有数据的错误