transformer 预测 ENSO 合集
第一篇《A self-attention–based neural network for threedimensional multivariate modeling and its skillful ENSO predictions 》
发表在Sci Adv. 张荣华 2023-3-8
起名3D-Geoformer
摘要中说SST anomaly prediction 18个月,但文中又说是12个月预测未来20个月
特点:由于耦合了海温(异常)和风,所以说模拟了ENSO时期的Bjerknes feedback mechanism
变量:该模型考虑了三个变量,径向/纬向风应力,以及上层海洋温度(共七层,5,20,40,60,90,120,150)
参数设置:全部变量叠加到一起是九层,一起输入模型。每一层是以channel的形式加到一起的,同时输入12个月的,所以输入大小是12*9*51*120(C*H),模型输出后20个月的20*9*51*120。但文章开头说预测18个月。这里的意思是输出20个月,但是后面又说一次预测1一个月,迭代预测。一个patch是9*3*4;一个token是多少维的没说;多头的头数是4;encoder和decoder层数都是4
训练用的三维海温(异常)数据和风场数据都是CMIP6,而评估用的是GODAS再分析数据。他提到一个观测数据并没有用于微调模型,因为高分辨率下的不同数据的迁移学习难以保证一致性,详见补充材料。
数据来源:模型训练用实测数据和CMIP6(1850-2014)模式数据,验证用SODA(1871-1979)和ORAS5(1958-1979)再分析数据,测试用GODAS再分析数据(1980-2021)。
数据预处理:所有数据需要处理,去除长期趋势和季节变化气候态,得到月距平场
注意评估指标ACC是异常相关系数,要比直接算相关系数更敏感一些
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 没有源码,如何修改代码逻辑?
· PowerShell开发游戏 · 打蜜蜂
· 在鹅厂做java开发是什么体验
· WPF到Web的无缝过渡:英雄联盟客户端的OpenSilver迁移实战