model.eval和model.train对于同一数据集结果不同
原本以为:Drop out和BN在train和eval的模式下计算方式会有差异,从而会导致输出结果会有差异。
测试过程不管是一个数据还是一批数据 用到的均值和方差是全量训练数据的均值和方差吗?也就是说网络训练好以后保存的bn层的均值和方差的参数就是全量训练数据的
后来发现是推理的时候多了一个数据增强的方式!!!
原本以为:Drop out和BN在train和eval的模式下计算方式会有差异,从而会导致输出结果会有差异。
测试过程不管是一个数据还是一批数据 用到的均值和方差是全量训练数据的均值和方差吗?也就是说网络训练好以后保存的bn层的均值和方差的参数就是全量训练数据的
后来发现是推理的时候多了一个数据增强的方式!!!