01 2021 档案
摘要:第12课 神经网络训练细节part1(下) 用高斯分布初始化相关参数,然后乘以权值0.01,称为高斯分布初始化。本节中我们着重关注隐藏层中的神经元会如何激活,将均差和标准差绘制成柱状图。 使用高斯分布的数据,让他们与w参数相乘,然后通过激活函数。最终所有的数据都将坍缩到0。而在我们反向传播时要求x的
阅读全文
摘要:第9课 反向传播与神经网络初步 上一节课讲到了评价函数,了解了损失函数。损失函数有两部分组成,数据损失和正则化损失。我们要做的是对损失函数进行优化操作。 计算梯度的方法有两种: 数值梯度:写起来容易,但运算慢 解析梯度:(微积分运算得到)运算快,但有时会出错,所以要进行梯度检查的操作。 强调,在处理
阅读全文
摘要:版本问题 *检测安装版本 conda --version conda -V *升级版本 conda update conda 环境问题 *创建一个新环境 conda create -n python3 创建环境的命令为conda create -n env-name [list of package
阅读全文
摘要:The future of computing and wisdom: Insights from Human–Computer Interaction Daniel Sapiens Pargman Elina Eriksson Oliver Bates , Ben Kirman , Rob Com
阅读全文
摘要:原文: 《A Decision Variable Clustering-Based Evolutionary Algorithm for Large-Scale Many-Objective Optimization》 将分为论文摘要、背景介绍、算法原理、实验结果分析和总结五个部分 摘要 当前的进化
阅读全文
摘要:摘要 遗传算法(Genetic Algorithm, GA)是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型,是一种通过模拟自然进化过程搜索最优解的方法。 本文在遗传算法的模式理论的基础上,用Matlab程序实现了遗传算法,实现了5个二维单目标函数优化和解决了20个城市的旅行商问
阅读全文
摘要:粒子群优化(PSO)算法是一种新兴的优化技术,其思想来源于人工生命和进化计算理论。粒子群优化通过粒子追随自己找到的最好解和整个群的最好解来完成优化。同其它进化算法相比,该算法简单易实现,可调参数少,有更强的全局优化能力,已得到广泛研究和应用。本文简单介绍粒子群优化算法的基本原理及应用,分析该算法的起源、发展过程和当今的研究状况。目前,该算法还有很多问题值得研究、改进,是优化领域的研究热点。同时该算法具有很大的发展价值和空间,在群智能算法中具有重要的地位,能够在相关产业创造价值,发挥作用。
阅读全文