2024年7月13日
持续学习中避免灾难性遗忘的Elastic Weight Consolidation Loss数学原理及代码实现
摘要： 训练人工神经网络最重要的挑战之一是灾难性遗忘。神经网络的灾难性遗忘（catastrophic forgetting）是指在神经网络学习新任务时，可能会忘记之前学习的任务。这种现象特别常见于传统的反向传播算法和深度学习模型中。主要原因是网络在学习新数据时，会调整权重以适应新任务，这可能会导致之前学到的 阅读全文
posted @ 2024-07-13 11:33 deephub 阅读(74) 评论(0) 推荐(0) 编辑