摘要: Pytorch 加载数据集的几种方法 总结 坑 方案1: 方案2: train_dataset = torchvision.datasets.MNIST(root='./data', train=True, transform=transforms.ToTensor(), download=True 阅读全文
posted @ 2022-04-26 17:06 bH1pJ 阅读(98) 评论(0) 推荐(0) 编辑
摘要: 如何理解梯度爆炸和梯度消失 何为梯度消失,产生的原因是什么? 梯度消失的最核心原因是,选择的优化方法不能很好的应对多层结构。在利用链式法则,求导的过程中导致梯度逐层衰减,最后消失。反之如果每次求导之后,梯度的值大于1,通过累乘就会产生爆炸的结果,即梯度爆炸。 梯度消失带来的后果是:较深的神经元中的梯 阅读全文
posted @ 2022-04-26 14:42 bH1pJ 阅读(239) 评论(0) 推荐(0) 编辑
摘要: 机器学习和深度学习之间的联系和区别 人工智能 > 机器学习 > 深度学习 , 阅读全文
posted @ 2022-04-26 12:09 bH1pJ 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 7、Hopfield网络 特点: (1)是一个简单的单层全连接神经网络; (2)每个神经元和其他神经元是全连接的关系; (3)在更新网络权重时,有异步工作方式:每次只更新一个神经元的权重,其他权重保持不变;和同步工作方式:所有神经元同时调整状态; (4)Loss function是什么?(能量函数) 阅读全文
posted @ 2022-04-26 12:00 bH1pJ 阅读(67) 评论(0) 推荐(0) 编辑
摘要: Hopfield神经网络 特点: 特点: (1)是一个简单的单层全连接神经网络; (2)每个神经元和其他神经元是全连接的关系; (3)在更新网络权重时,有异步工作方式:每次只更新一个神经元的权重,其他权重保持不变;和同步工作方式:所有神经元同时调整状态; (4)Loss function是什么?(能 阅读全文
posted @ 2022-04-26 11:59 bH1pJ 阅读(101) 评论(0) 推荐(0) 编辑
摘要: Hopfield网络 能量函数定义的合理性是什么? 暂时没有找到答案,以下是一些线索: 解释: 动力学系统中的 李亚诺夫函数、Ising模型; 参考资料: 1、深度学习 Hopfield神经网络详解_zsffuture的博客-CSDN博客_hopfield神经网络 2、 深度置信网络(一):HopF 阅读全文
posted @ 2022-04-26 11:39 bH1pJ 阅读(9) 评论(0) 推荐(0) 编辑