04 2021 档案
摘要：归纳偏置 如何理解Inductive bias？
阅读全文
摘要：台式机安装了一些默认更新后，发现插入耳机没有声音了，不管是前面的耳机孔还是后面的耳机孔，都没有声音。 捣鼓了一阵，解决了这个问题，下面记录一下。 1. 打开控制面板，找到Realtek音频管理器 2. 弹出如下界面，点击设置，再点击选项 3. 把HD音频前面板取消勾，改为在AC97前面板打钩，点击确
阅读全文
摘要：Attention in RNN
阅读全文
摘要：微信视频讲解(1) （推荐） 微信视频讲解(2) （推荐） Transformer 详解 （有详细的原理以及pytorch代码实现讲解，推荐） 李宏毅哔哩哔哩视频讲解 Vision Transformer 超详细解读 (原理分析+代码解读) (一) （推荐） 举个例子讲下transformer的输入
阅读全文
摘要：1. 蒸馏损失函数代码实现 摘自：知识蒸馏loss求解方法 - tangjunjun - 博客园 (cnblogs.com) import torch import torch.nn as nn import numpy as np loss_f = nn.KLDivLoss() # 生成网络输出
阅读全文
