pytorch 前期为何要使用self.model.train()和self.model.eval()

       如果模型中有BN层(Batch Normalization)和Dropout,需要在训练时添加model.train(),在测试时添加model.eval()。其中model.train()是保证BN层用每一批数据的均值和方差,而model.eval()是保证BN用全部训练数据的均值和方差;而对于Dropout,model.train()是随机取一部分网络连接来训练更新参数,而model.eval()是利用到了所有网络连接。

posted @ 2021-08-20 16:06  今夜无风  阅读(1518)  评论(0编辑  收藏  举报