随笔分类 - Machine Learning & Deep Learning
摘要:优化与深度学习 在深度学习问题中,我们通常会预先定义一个损失函数,有了损失函数,我们就可以使用优化算法试图将其最小化。在优化中,这样的损失函数通常被称作优化问题的目标函数。 虽然优化为深度学习提供了最小化损失函数的方法,但本质上,优化与深度学习的目标是有区别的,由于优化算法的目标函数通常是一个基于训
阅读全文
摘要:从零开始实现 %matplotlib inline import torch import numpy as np import random 生成数据集 设训练数据集样本数为1000,特征数为2,使用线性回归模型真实权重 和偏差 , 以及一个噪声
阅读全文
摘要:Pytorch之Tensor学习 Tensors是与数组和矩阵类似的数据结构,比如它与numpy 的ndarray类似,但tensors可以在GPU上运行。实际上,tensors和numpy数组经常共用内存,消除了拷贝数据的需要。Tensors被优化的可以自动求微分。 import torch im
阅读全文
摘要:%matplotlib inline from sklearn import datasets import matplotlib.pyplot as plt import numpy as np scikit-learn生成随机数据集 scikit-learn 包含了一系列的用来创建指定规模和复杂
阅读全文
摘要:流行的开放数据存储库: UC http://archive.ics.uci.edu/ml/ Kaggle https://www.kaggle.com/datasets Amazon's aws http://aws.amazon.com/fr/datasets/ 元门户站点: http://dat
阅读全文
摘要:对随机变量X的概率密度函数f(x)做积分运算,我们就可以通过 这样的积分形式来表示指定函数g在参数X时函数值的期望值。 基于蒙特卡洛方法的数值积分正好是这种方法的逆推。如果我们需要计算某个定积分的值
阅读全文
摘要:梯度是微积分多元函数的一个重要概念,简单来说,梯度是一个向量,当函数上的一点按照该向量移动,函数值增加最大,该向量由函数分别对自变量的偏导值所构成。如果函数是二元函数,则梯度是二维向量,在自变量构成的平面上,如果函数是三元函数,则梯度是三维向量,在自变量构成的空间中。本文着重对它的上述的意义,进行形
阅读全文