10.7.2 基于位置的前馈网络

image
注意，我们这里必须要将输入的前两维（batch_size和num_steps）结合起来，而不能将后两维（num_steps和dimension）结合起来，因为这里num_steps是变化的（num_steps是我们指定的超参数，指定之后编码器-解码器的确只能处理固定长度的序列，因为有truncate_pad；但是我们指定的值是可以变化的），而前面的卷积神经网络部分是不用变化的，所以可以把后两维结合起来

posted @   最爱丁珰  阅读(5)  评论(0)  编辑  收藏  举报
相关博文：
·  10.6.3 位置编码
·  7.3.2 NiN模型
·  卷积神经网络（Convolutional Neural Network,CNN）思想 实例 具体代码实现
·  机器学习——延后初始化
·  《神经网络与深度学习》第五章 卷积神经网络
阅读排行：
· TypeScript + Deepseek 打造卜卦网站：技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗？
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维：从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句：使用策略模式优化代码结构
历史上的今天：
2024-03-03 货币兑换
2024-03-03 序列分割
点击右上角即可分享
微信分享提示