Fork me on GitHub

03 2019 档案

关于神经网络训练的一些建议笔记
摘要：关于网络训练时的参考建议： 1.train loss不断下降，test loss不断下降，网络正在学习 2.train loss不断下降，test loss趋于不变，网络过拟合，需要增大数据；减小网络规模dropout；权重衰减或正则化L2等 3.train loss趋于不变，test loss趋于 阅读全文
posted @ 2019-03-24 22:05 石头木 阅读(914) 评论(0) 推荐(0) 编辑
两篇将rf和boosting方法用在搜索排序上的paper
摘要：在网上看到关于排序学习的早期文章，这两篇文章大致都使用了Random Forest和Boosting方法。 一.paper 1.Web-Search Ranking with Initialized Gradient Boosted Regression Trees，2011 主要将Random F 阅读全文
posted @ 2019-03-24 18:13 石头木 阅读(531) 评论(0) 推荐(0) 编辑
排序学习(learning to rank)中的ranknet pytorch简单实现
摘要：一.理论部分 理论部分网上有许多，自己也简单的整理了一份，这几天会贴在这里，先把代码贴出，后续会优化一些写法，这里将训练数据写成dataset,dataloader样式。 排序学习所需的训练样本格式如下： 解释：其中第二列是query id，第一列表示此query id与这条样本的相关度（数字越大， 阅读全文
posted @ 2019-03-03 23:05 石头木 阅读(7931) 评论(0) 推荐(1) 编辑

点击右上角即可分享
微信分享提示