摘要：
什么是超参数 在神经网络的村联过程中不变的参数 有哪些是超参数 网络结构参数：几层， 每层宽度，每层的激活函数等 训练参数: batch_size， 学习率， 学习率衰减算法等 为什么要超参数搜索 搜索策略 网格搜索 定义N维方格， 每个方格对应一组超参数，一组一组的尝试，直到找到最好的组合方式。 阅读全文
摘要：
归一化和批归一化 归一化 归一化： 使数据映射成均值为0，方差为1 的正态分布 类型 min-max归一化： x' = (x -min) / (max - min) z-score归一化： x' = (x - μ) / σ μ是均值 σ是方差 mean归一化: x' = (x -μ) / (max 阅读全文
摘要：
wide & Deep模型 稀疏特征 稀疏特征就是离散值特征，比如一个人的性别，就是男或者女， 没有其他的选项，是一个离散值。 像这样只能从有限个选项中选择的数据叫做稀疏特征 稀疏特征的优缺点 优: 叉乘（点积）后有意义, 可以帮助获取共现信息，从而实现记忆效果 两个稀疏特征A和B A是性别[M, 阅读全文