模型训练——样本选择,训练方式,loss等
数据采样
第一阶段预训练时,通过 是否点击、点击位次等,将曝光点击率大于一定阈值Query-POI对 作为正样本。
负样本采样上,skip-above采样策略将位于点击POI之前 & 点击率小于阈值的POI,这样的query-POI对 作为负样本。
此外,也可以随机负采样补充简单负例。
欠采样 过采样
样本不均衡训练:
数据采样
第一阶段预训练时,通过 是否点击、点击位次等,将曝光点击率大于一定阈值Query-POI对 作为正样本。
负样本采样上,skip-above采样策略将位于点击POI之前 & 点击率小于阈值的POI,这样的query-POI对 作为负样本。
此外,也可以随机负采样补充简单负例。
欠采样 过采样
样本不均衡训练:
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 单元测试从入门到精通
· 上周热点回顾(3.3-3.9)
· Vue3状态管理终极指南:Pinia保姆级教程