随笔分类 - learning-eat-pytorch-20-days
摘要:DeepFM继承了Wide&Deep的主体结构,将高低特征进行融合。其主要创新点有2个。一是将Wide部分替换成了 FM结构,以更有效的捕获特征交互interaction;二是FM中的隐向量 和 Deep部分的 embedding 向量共享权重,减少模型复杂性。
阅读全文
摘要:nanoGPT - learning。
阅读全文
摘要:FM算法全称为因子分解机 (FactorizationMachine)。它是广告和推荐领域非常著名的算法,在线性回归模型上考虑了特征的二阶交互。适合捕捉大规模稀疏特征(类别特征)当中的特征交互。
阅读全文
摘要:当参数迭代过程成为训练时间的主要瓶颈时,我们通常的方法是应用GPU来进行加速。
阅读全文
摘要:Pytorch通常需要用户编写自定义训练循环,训练循环的代码风格因人而异。
阅读全文
摘要:可以使用以下3种方式构建模型:
1,继承nn.Module基类构建自定义模型。
2,使用nn.Sequential按层顺序构建模型。
3,继承nn.Module基类构建模型并辅助应用模型容器进行封装(nn.Sequential,nn.ModuleList,nn.ModuleDict)。
其中 第1种方式最为常见,第2种方式最简单,第3种方式最为灵活也较为复杂。
阅读全文
摘要:Dataset和DataLoader。
阅读全文
摘要:nn.functional和nn.Module。
阅读全文
