摘要:
这服务器小崩了一会儿。。。 今日完成 因为昨天已经看到了有过拟合的倾向了,所以今天先不加正则化的部分,先找最佳模型 依然是两层隐层,调正节点参数 这是64X64 这个是64X32 这是32X32 这是16X16 看的出来16X16好像很有潜力,或者说暂时还没过拟合? 所以先训着 明日计划 明天这的要 阅读全文
摘要:
今日完成 主要是环境配置,数据迁移,运行GPU板的tensorflow 详情可见我写的另一篇文章 https://www.cnblogs.com/I-AM-DUMBASS/p/11452747.html 明日计划 不出意外,不出意外,仍然是过拟合的。 在验证集上的loss function升高速率令 阅读全文
摘要:
使用conda创建一个新的虚拟环境 输入 conda create -n intelligent-judge python=3.6 创建一个python版本为3.6的名字是intelligent-judge的虚拟环境 查看显卡信息 输入lspci | grep -i vga查看显卡信息 很明显是NV 阅读全文
摘要:
今日完成 加入了验证集,果不其然过拟合了,在验证集上的loss非常之高,accuracy非常之低。 accuracy最高只到百分之50左右,而且我的这个破电脑根本就跑不动了,需要借助学校实验室的GPU(大概)。 所以用ssh连接远端的linux系统,在另外一个服务器上跑我的代码。 这是用ssh成功连 阅读全文
摘要:
今日完成 完了忘记了在九点之前写了 换了架构,换成了256 128的架构,效果还可以,loss function降到4.x了,准确率在训练集上的表现有98%左右,非常的不错了 明日计划 增加数据样本,增加测试集,测试模型在测试集上的精准率 今日体会 这个项目应该快要出成果了 最后再在GPU上跑一下加 阅读全文
摘要:
今日完成 完成了tensorborad的可视化部分 新增了四十余组crime数据,现在loss function正在训练,稳步下降中,如上图loss可视化所示 明日计划 继续训练,继续等,看最后的结果,继续收集更多的数据。 如果可能的话把代码移植一下,移植到GPU上去跑,这样效率大概会快四五倍 数据 阅读全文
摘要:
今日完成 今天是做的demonstration 这一周主要做的是超参数(hyper parameter)搜寻,神经网络架构(architecture)调整,损失函数(loss function)调整 使用的架构是两层隐层,每层隐层十个节点 拟合效果不好,loss function下不去,最低只能到6 阅读全文
摘要:
今日完成 调整了神经网络的参数,从两层隐层扩展为三层隐层 第一层隐层64个节点 第二层隐层32个节点 第三层隐层16个节点 修改了loss fuction 得到了新一轮的拟合曲线 而误差保持在百分之五十七,如果继续进行训练,可以展望结果 明日计划 用tensorflow GPU跑模型,更快得到一个结 阅读全文
摘要:
今日完成 拟合模型,训练结果非常不错,曲线形状大致相似 但是误差有一点高,可能是因为没有将概率转换成实际的数据的原因 明日计划 修改神经网络输出部分,寻找真实误差 今日体会 拟合过程中非常容易陷入局部最优点,即使使用动量优化方法也得重复使用好几遍才能有一个较好的拟合结果 初步判定可能是初值设置有问题 阅读全文
摘要:
今日完成 学习使用git管理文件 ssh密钥 已配对 更改状态 明日计划 继续学习神经网络相关原理,调整神经网络架构 今日体会 使用分布式系统git管理文件十分方便 使用ssh密钥连接远程仓库和本地仓库,通过git shell命令可以很方便的管理文件,管理版本 神经网络架构可能有问题,误差太大了 阅读全文