2019年7月17日

Some helper functions for PyTorch

摘要: 1 '''Some helper functions for PyTorch, including: 2 - get_mean_and_std: calculate the mean and std value of dataset. 3 - msr_init: net parameter initialization. 4 - progress_bar:... 阅读全文

posted @ 2019-07-17 15:05 那抹阳光1994 阅读(490) 评论(0) 推荐(0) 编辑

Pytorch固定部分参数(只训练部分层)

摘要: 在迁移学习中我们经常会用到预训练模型,并在预训练模型的基础上添加额外层。训练时先将预训练层参数固定,只训练额外添加的部分。完了之后再全部训练微调。 在pytorch 固定部分参数训练时需要在优化器中施加过滤。 需要自己过滤 另外,如果是Variable,则可以初始化时指定 但是如果是(神经网络层) 阅读全文

posted @ 2019-07-17 11:19 那抹阳光1994 阅读(29360) 评论(0) 推荐(3) 编辑

导航