摘要：基于SVD的降维优化 向量降维：尽量保留数据“重要信息”的基础上减少向量维度。可以发现重要的轴（数据分布广的轴），将二维数据 表示为一维数据，用新轴上的投影值来表示各个数据点的值，示意图如下。 稀疏矩阵和密集矩阵转换：大多数元素为0的矩阵称为稀疏矩阵，从稀疏矩阵中找出重要的轴，用更少的维度对其进行重 阅读全文
nlp PPMI
2022-04-05 14:35 by jym蒟蒻, 267 阅读, 0 推荐, 收藏, 编辑
摘要：使用PPMI改进共现矩阵 共现矩阵的元素表示两个单词同时出现的次数，这里的次数并不具备好的性质，举个例子，有短语叫the car，因为the是个常用词，如果以两个单词同时出现的次数为衡量相关性的标准，与drive 相比，the和car的相关性更强，这是不对的。 点互信息(Pointwise Mutu 阅读全文
nlp 共现矩阵和余弦相似度
2022-04-05 14:34 by jym蒟蒻, 618 阅读, 0 推荐, 收藏, 编辑
摘要：通过共现矩阵和余弦相似度实现机器对单词的认知、python实现 本文介绍的定义： 一、语料库预处理 二、单词的分布式表示 三、单词的相似度 四、相似单词排序 本文介绍的定义： 语料库、计数方法的目的、语料库预处理、单词的分布式表示、分布式假设、上下文、窗口大小、基于计数的方法表示单词、用向量表示单词 阅读全文
机器学习 深度学习 手写数字识别
2022-04-05 14:32 by jym蒟蒻, 135 阅读, 0 推荐, 收藏, 编辑
摘要：基于深度学习的手写数字识别、python实现 一、what is 深度学习 二、加深层可以减少网络的参数数量 三、深度学习的手写数字识别 一、what is 深度学习 深度学习是加深了层的深度神经网络。 二、加深层可以减少网络的参数数量 加深层的网络可以用更少参数获得与没有加深层同等水平的表现力。 阅读全文
机器学习 卷积神经网络 手写数字识别
2022-04-05 14:30 by jym蒟蒻, 64 阅读, 0 推荐, 收藏, 编辑
摘要：一、CNN网络结构与构建 参数： 输入数据的维数，通道，高，长 input_dim=(1, 28, 28) 卷积层的超参数，filter_num：滤波器数量，filter_size：滤波器大小，stride：步幅，pad，填充。 conv_param={'filter_num':30, 'filte 阅读全文
机器学习 随机梯度下降法 手写数字识别
2022-04-05 14:29 by jym蒟蒻, 227 阅读, 0 推荐, 收藏, 编辑
摘要：基于随机梯度下降法的手写数字识别、epoch是什么、python实现 一、普通的随机梯度下降法的手写数字识别 1.1 学习流程 1.2 二层神经网络类 1.3 使用MNIST数据集进行学习 注：关于什么是epoch 二、基于误差反向传播算法求梯度的手写数字识别 2.1 学习流程 2.2 实现与结果分 阅读全文
机器学习 卷积神经网络
2022-04-05 14:27 by jym蒟蒻, 91 阅读, 0 推荐, 收藏, 编辑
摘要：卷积神经网络的整体结构、卷积层、池化、python实现 一、整体结构 二、卷积层 三、池化层 四、python实现卷积层、池化层 一、整体结构 神经网络相邻层所有神经元之间都有连接，称为全连接。前面用Affine层实现了全连接。 举个例子 全连接神经网络结构： 卷积神经网络CNN的结构： 新增了Co 阅读全文
机器学习 超参数
2022-04-05 14:26 by jym蒟蒻, 409 阅读, 0 推荐, 收藏, 编辑
摘要：神经网络如何调参、超参数的最优化方法、python实现 一、what is 超参数 二、超参数优化实验 一、what is 超参数 超参数是什么，其实就是，各层神经元数量、batch大小、学习率等人为设定的一些数。 数据集分为训练数据、测试数据、验证数据。 用测试数据评估超参数值的好坏，就可能导致超 阅读全文
机器学习 Dropout方法
2022-04-05 14:25 by jym蒟蒻, 588 阅读, 0 推荐, 收藏, 编辑
摘要：解决神经网络过拟合问题—Dropout方法 一、what is Dropout？如何实现？ 二、使用和不使用Dropout的训练结果对比 一、what is Dropout？如何实现？ 如果网络模型复杂，L2范数权值衰减方法就难以对付过拟合。这种情况下，用Dropout方法。 Dropout是一种在 阅读全文
机器学习 神经网络过拟合 权值衰减算法
2022-04-05 14:24 by jym蒟蒻, 137 阅读, 0 推荐, 收藏, 编辑
摘要：使用权值衰减算法解决神经网络过拟合问题、python实现 一、what is 过拟合 二、过拟合原因 三、权值衰减 四、实验验证 4.1制造过拟合现象 4.2使用权值衰减抑制过拟合 一、what is 过拟合 过拟合指只能拟合训练数据，但不能很好拟合不包含在训练数据中的其他数据的状态。 二、过拟合原 阅读全文