郑哲 - 博客园

2017年8月21日

摘要：一、什么是面板数据模型而数据较少，回归不准确面板数据模型； β0 阅读全文

posted @ 2017-08-21 11:02 郑哲阅读(1295) 评论(0) 推荐(0) 编辑

摘要：一、Logistic模型(只有一个种群） x(t):t时种群数量 K：环境容纳量 r:种群增长率 dx/dt=rx(1-x/k) 其中x/k为已占用空间 x=k/(1+(k-x0)*e-rt/x0 x0:初值二、L-V种群竞争模型 x1(t),x2(t):t时种群1,2数量 K1,K2,:种群1，阅读全文

posted @ 2017-08-21 10:03 郑哲阅读(1883) 评论(0) 推荐(0) 编辑

2017年8月19日

偏差vs方差

摘要：在这部分我们检验多项式层数d和过拟合和欠拟合之间的关系。 1.我们区分是否是偏差或方差导致我们预测错误。 2.大偏差是欠拟合，大方差是过拟合。理想情况下，我们需要在这两者之间找到中庸之道。当我们增加多项式的D时，训练误差会减小。同时，交叉验证误差会随着d增加到一个点而减小，然后随着d的增加而增大阅读全文

posted @ 2017-08-19 19:08 郑哲阅读(522) 评论(0) 推荐(0) 编辑

评估假设

摘要：如果我们对我们的预测中的错误进行了一些解决： 1.更多的训练样本 2.减少变量 3.尝试额外的参数 4.在多项式的参数 5.增加或减少λ 我们可以评估我们的新假设假设可能有一个低误差的训练例子但仍然是不准确的（因为过度拟合）。因此，为了评估一个假设，给定训练样本的数据集，我们可以将数据分成两组：一阅读全文

posted @ 2017-08-19 14:04 郑哲阅读(314) 评论(0) 推荐(0) 编辑

遗传算法

摘要：结论： 1.遗传算法本质上是一种启发式的随机搜索算法，所以由遗传算法得出的结果每次都不相同。 2.自变量在给定的约束条件下进行了无缝编码（即这种编码方式能够表达解空间中的所以可行解），所以从理论上讲，遗传算法总有很多机会得到全局最优结果而不是局部最优解。阅读全文

posted @ 2017-08-19 12:58 郑哲阅读(817) 评论(0) 推荐(0) 编辑

2017年8月15日

灰色模型

摘要： 1.灰色模型为预测模型。预测模型一般用回归分析（需要大量数据，数据较少会造成较大误差）优点：灰色模型需要的数据较少，运算方便，是处理小样本预测的有效工具。缺点：不考虑系统内在机理，有所会出现较大错误。在内在机理明确的系统中，不推荐使用。 2.特点：（1）用灰色数学处理不确定量，使之量化（2）阅读全文

posted @ 2017-08-15 16:36 郑哲阅读(1412) 评论(0) 推荐(0) 编辑

2017年8月9日

神经网络（总代码）

摘要：首先，选择一个网络体系结构；选择你的神经网络的布局，包括每个层有多少隐藏单元，以及你想要拥有多少层。 1.输入层的节点数=x(i)的维度 2.输出层的节点数=分类的数量 3.每层隐藏单位数=通常更好（必须与计算成本相平衡，因为它增加了隐藏单位） 4.默认值：1隐藏层。如果你有超过1个隐藏层，那么建议阅读全文

posted @ 2017-08-09 18:04 郑哲阅读(309) 评论(0) 推荐(0) 编辑

随机初始化（代码实现）

摘要：将所有θ权重初始化为零并不适用于神经网络。当我们反向传播，所有节点将更新为相同的值反复。我们可以为我们的Θ矩阵随机初始化使用以下方法我们的砝码：因此，我们初始化每个在[−ϵ，ϵ]。使用上述公式保证我们得到期望的约束。同样的程序适用于所有的Θ的。下面是一些工作的代码，你可以使用实验。 If the 阅读全文

posted @ 2017-08-09 16:58 郑哲阅读(596) 评论(0) 推荐(0) 编辑

梯度检测（代码实现）

摘要：梯度检查将确保我们的反向传播工作的预期。我们可以把我们的成本函数的导数近似为：多θ的矩阵，我们可以近似导数ΘJ如下：对于ϵ小值（ε）如ϵ= 10−4，保证了正确的数学。如果ϵ的值足够小，我们可以最终数值问题。因此，我们只添加或减去ε的ΘJ矩阵。在matlab我们可以如下做： epsilon = 阅读全文

posted @ 2017-08-09 16:51 郑哲阅读(481) 评论(0) 推荐(0) 编辑

实现注意：展开参数

摘要：我们使用神经网络处理矩阵集合：为了使用优化功能，如“fminunc()”，我们会想“打开”所有的元素放在一个长的矢量： thetaVector = [ Theta1(:); Theta2(:); Theta3(:); ]deltaVector = [ D1(:); D2(:); D3(:) ] 如阅读全文

posted @ 2017-08-09 16:40 郑哲阅读(185) 评论(0) 推荐(0) 编辑