第二个专利所用材料

多任务学习
https://blog.csdn.net/laolu1573/article/details/78205180/

http://www.ebrun.com/20170725/239411.shtml

综合上述发现后,科学家提出了一种“弹性”权重整合(EWC)(Kirkpatrick等,2017),将神经科学的这些发现用于解决深层网络中连续学习的挑战。具体说,EWC找出那些对先前任务很重要的网络权重的子集,将这些参数锚定,减轻它们的学习率,从而实现继续学习(图1D)。这样,在不增加网络容量的情况下网络能够学习多个任务,权重在具有相关结构的任务之间实现了有效共享。以这种方式,EWC算法让深度强化学习网络支持大规模的持续学习。

 

 

论文---overcoming catastrophic forgetting in neural networks
https://blog.csdn.net/u010195841/article/details/69257897

posted @ 2018-10-29 22:01  cn_gzb  阅读(121)  评论(0编辑  收藏  举报