04 2021 档案
摘要:归纳偏置 如何理解Inductive bias?
阅读全文
摘要:台式机安装了一些默认更新后,发现插入耳机没有声音了,不管是前面的耳机孔还是后面的耳机孔,都没有声音。 捣鼓了一阵,解决了这个问题,下面记录一下。 1. 打开控制面板,找到Realtek音频管理器 2. 弹出如下界面,点击设置,再点击选项 3. 把HD音频前面板取消勾,改为在AC97前面板打钩,点击确
阅读全文
摘要:Attention in RNN
阅读全文
摘要:微信视频讲解(1) (推荐) 微信视频讲解(2) (推荐) Transformer 详解 (有详细的原理以及pytorch代码实现讲解,推荐) 李宏毅哔哩哔哩视频讲解 Vision Transformer 超详细解读 (原理分析+代码解读) (一) (推荐) 举个例子讲下transformer的输入
阅读全文
摘要:1. 蒸馏损失函数代码实现 摘自:知识蒸馏loss求解方法 - tangjunjun - 博客园 (cnblogs.com) import torch import torch.nn as nn import numpy as np loss_f = nn.KLDivLoss() # 生成网络输出
阅读全文