lr_mult

lr_mult:学习率系数

放置在param{}中

该系数用来控制学习率,在进行训练过程中,该层参数以该系数乘solver.prototxt配置文件中的base_lr的值为学习率

即学习率=lr_mult*base_lr

如果该层在结构配置文件中有两个lr_mult,则第一个表示权值学习率系数,第二个表示偏执项的学习率系数(一般情况下,偏执项的学习率系数是权值学习率系数的两倍)

 

lr_mult为0则表示在反向传播中不更新此参数。例如faster rcnn交替训练中的第二阶段的网络中很多都设置成了0。

posted on 2017-11-17 16:23  MissSimple  阅读(328)  评论(0编辑  收藏  举报

导航