随笔分类 - 学习笔记
摘要:一 Introduction GNN 可以理解为是由 Graph(图) + Nerual Networks 组合而成的,图结构应该都在数据结构与算法里了解得很清楚,关键要解决的问题是:将图的结构和图中每个节点和边的特征转化为一般的神经网络的输入(张量)。 GNN 可以应用于许多分类和生成的场景,例如
阅读全文
摘要:一、 seq2seq 1. 含义 输入一个序列,机器输出另一个序列,输出序列长度由机器决定。 文本翻译:文本至文本; 语音识别:语音至文本; 语音合成:文本至语音; 聊天机器人:语音至语音。 2. 应用 ① 自然语言处理(NLP问题),不过seq2seq有时候不一定是最佳的解决方法。 ② 应用于Se
阅读全文
摘要:一、 Self-attention 1. 特点 输出对每一个向量处理后的带黑框的向量(考虑整个序列 sequence 和 单个向量个体 的 信息)。将这些向量再连接一个 FC 全连接层,输出标签,得到对应结果 其中,self-attention 的功能是处理整个 sequence 的信息,而 FC
阅读全文
摘要:P.S. 本次将第三章 CNN 讲解有关内容和之前看的吴恩达深度学习 - 卷积神经网络专项课程的内容结合在一起进行总结 一、 概念导入:边缘检测 假如有一张如下的图像,想让计算机搞清楚图像上有什么物体,有两种方法:检测图像的 垂直边缘 和 水平边缘。 如下图所示,一个 6 * 6 的灰度图像,构造一
阅读全文
摘要:一、 General Guide——如何达到更好的效果 1. Training data 出现的问题 训练完一次模型后,根据训练集的损失以及测试集的损失来确定网络需要进行模型改进还是优化函数改进。 整体调整方向如下图所示: 如果你觉得模型预测的结果不满意的话,第一件事情你要做的事情是,检查你的tra
阅读全文
摘要:一. 概念 机器学习可以应用到很多场景中,例如语音识别、图像识别、AI智能下棋等。 它的输入可以是一段声音信号/图片/物体之间的位置关系,数据类型例如:Vector、Matrix、Sequence等。之后通过机器学习寻找一种将输入进行转化为你想要的输出结果的方法,经过这个方法的计算之后得到最终的输出
阅读全文