摘要：
二十个球一个较轻用天平至少称3次能保证找出这个较轻的球。 一、分成三组，7,7,6，称7和7找到最轻的一个，如果相等，那么轻的在6； 二、如果在7中，分成2,2,3，秤2和2，找轻的；或秤3时：1,1,1，秤1和1找最轻的 如果在6中，分成2,2,2，秤2和2，最多秤两次，最少秤一次，就找了在哪个2 阅读全文
摘要：
1、使用模拟退火算法SA（Simulate Anneal） 贪心算法是，在求最优解时，从a点开始试探，如果函数值继续减少，那么试探过程继续，到达b点时，试探过程结束（因为无论朝哪个方向努力，结果只会越来越大），因此找到了局部最优b点。 模拟退火算法以一定的概率来接受一个比当前解要差的解，因此有可能会 阅读全文
摘要：
梯度的衰减是有连续乘法导致的，如果在连续乘法中出现一个非常大的值，最后计算出的梯度就会很大，就想当优化到断崖处是，会获得一个很大的梯度值，如果以这个梯度值进行更新，那么这次迭代的步长就很大，可能会一下子飞出了合理的区域。 解决的方法是： 梯度裁剪： 把沿梯度下降方向的步长限制在一个范围之内，计算出来 阅读全文
摘要：
假设目标函数是平房误差和函数，激活函数是sigmoid， 1、目标函数：平方误差和 2、使用随机梯度下降法进行优化时要计算每一个权值通过全导公式计算这个偏导，要想到这个w是通过影响j的加权输入来影响网络中的其他部分的，所以可以转变成： 就转变成求下面这个偏导了，这个偏导的相反数就是所说的误差项。 3 阅读全文
摘要：
1.简介 gbdt全称梯度下降树，在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一。 好处： 效果好； 可分类，也可回归； 可以筛选特征； 面试考核点： gbdt 的算法的流程？ gbdt 如何选择特征 ？ gbdt 如何构建特征 ？ gbdt 如何用于分类？ gbdt 通过什么方式减少误 阅读全文