05 2022 档案
摘要:一、写毕设论文(设计说明书) 1. 2022-4-29 ① 目录前天首先就从知网下载了近十篇同一课题的研究生毕业论文,每个人的目录挨个扫,学习他们是怎么构思目录框架,发现都很相似(难道这是硕士毕业论文的特制要求??我也不太清楚),然后就开始整合出一套自己的目录。 ② 昨天的进度,是把想要搜到的内容用
阅读全文
摘要:一 Introduction GNN 可以理解为是由 Graph(图) + Nerual Networks 组合而成的,图结构应该都在数据结构与算法里了解得很清楚,关键要解决的问题是:将图的结构和图中每个节点和边的特征转化为一般的神经网络的输入(张量)。 GNN 可以应用于许多分类和生成的场景,例如
阅读全文
摘要:李宏毅机器学习2022年学习笔记(一)-- Introduction 点击查看 李宏毅机器学习2022年学习笔记(二)-- Tips for Training 点击查看 李宏毅机器学习2022年学习笔记(三)-- CNN 点击查看 李宏毅机器学习2022年学习笔记(四)-- 注意力机制 点击查看 李
阅读全文
摘要:一、 seq2seq 1. 含义 输入一个序列,机器输出另一个序列,输出序列长度由机器决定。 文本翻译:文本至文本; 语音识别:语音至文本; 语音合成:文本至语音; 聊天机器人:语音至语音。 2. 应用 ① 自然语言处理(NLP问题),不过seq2seq有时候不一定是最佳的解决方法。 ② 应用于Se
阅读全文
摘要:一、 Self-attention 1. 特点 输出对每一个向量处理后的带黑框的向量(考虑整个序列 sequence 和 单个向量个体 的 信息)。将这些向量再连接一个 FC 全连接层,输出标签,得到对应结果 其中,self-attention 的功能是处理整个 sequence 的信息,而 FC
阅读全文
摘要:P.S. 本次将第三章 CNN 讲解有关内容和之前看的吴恩达深度学习 - 卷积神经网络专项课程的内容结合在一起进行总结 一、 概念导入:边缘检测 假如有一张如下的图像,想让计算机搞清楚图像上有什么物体,有两种方法:检测图像的 垂直边缘 和 水平边缘。 如下图所示,一个 6 * 6 的灰度图像,构造一
阅读全文
摘要:一、 General Guide——如何达到更好的效果 1. Training data 出现的问题 训练完一次模型后,根据训练集的损失以及测试集的损失来确定网络需要进行模型改进还是优化函数改进。 整体调整方向如下图所示: 如果你觉得模型预测的结果不满意的话,第一件事情你要做的事情是,检查你的tra
阅读全文