这里的键可以理解成x,值可以理解成y,也就是说每一个x都会对应一个y(在这个情形下,x和y都可以是向量,而且维度不一定相同);查询可以理解成一个我们想要预测的量z,想要预测z的输出y是多少(注意z的维度不一定要与x一样,此时要用加性注意力);由于我们现在只有x与y的对应关系,所以我们可以通过找z与各个x的关系,得出z与各个y关系,从而获得各个y的一个加权平均和得到预测输出。至于怎么找z与各个x的关系,就是后面讲的加权平均和的权重系数的定义过程了
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构