推荐模型之特征交叉PLOY2模型(特征交叉的开始)【学习笔记】
来源:老弓的学习笔记
视频1 什么事特征交叉?
针对问题:逻辑回归存在很大一个问题是只对单一特征做简单加权,不具备特征交叉生成组合特征的能力,因此表达能力收到了限制。
特征交叉:
例子1:
线性加权 不能1+1>2
例子2:
视频2 POLY2模型讲解 特征交叉的开始
数学模型:
损失函数:交叉熵损失
梯度下降:这里有仔细推导的公式
求梯度
梯度更新
部分代码:
没有特征交叉是n
PLOY2优缺点:
同时为1 才能进行权重更新
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· Docker 太简单,K8s 太复杂?w7panel 让容器管理更轻松!