摘要：
一 简介： LSTM算法的全称是长短期记忆网络（long short–term memory），由LSTM算法对标准的RNN进行的改进，它规避了标准的RNN中的梯度爆炸和梯度消失的问题，学习速度更快。 二 原理 lstm 结构： 一个一个神经元首尾相接，同一层会把前面单元的输出作为后面单元的输入，前 阅读全文
摘要：
一.变量 定义 变量是程序运行过程中产生的中间值，暂时存在内存中，供后面的程序使用 变量直接声明就可以了 变量命名规则： 必须使用英文字母，数字，下划线组成 不要是数字开头，更不能是纯数字 要有意义 不要用中文 禁止用关键字 区分大小写 推荐使用两种形式： 驼峰：除了第一个字母外的其他单词的首字母大 阅读全文
摘要：
深度学习的数学基础 微积分 无穷小在17世纪下半叶，数学史上出现了无穷小的概念，而后发展处极限的概念 极限 数列的极限 函数的极限 导数 微分 积分 不定积分也称为原函数或反导数 定积分 定积分中值定理 牛顿-莱布尼茨公式 偏导数 概率统计 样本空间定义：随机试验 E 的所有结果构成的集合称为 E 阅读全文
摘要：
1.索引简介 索引是存储引擎用于快速查找记录的一种数据结构，通过合理的使用数据库索引可以大大提高系统的访问性能。 大大减轻了服务器需要扫描的数据量，从而提高了数据的检索速度 索引就好比一本书的目录，它会让你更快的找到内容，显然目录（索引）并不是越多越好，假如这本书1000页，有500也是目录，它当然 阅读全文
摘要：
1.常见字符集 GBK:双字节编码 UTF-8: 1~4字节，汉字占3个字节 2.mysql支持的字符集简介 mysql可以在同一台服务器、同一数据库、同一个表的不同字段可以指定不同的字符集 查看所有字符集：show character set; select * from information_ 阅读全文
摘要：
1.char和varchar 存储字符串，char是固定长度的字符类型，varchar是可变长度的字符串类型 char固定长度，处理速度比varchar快，但是缺点是浪费存储空间，程序需要对行尾空格进行处理 myisam:建议使用char memory：都使用固定长度的数据类型 InnoDB:建议使 阅读全文
摘要：
1.简介 决策树（decision tree）：是一种基本的分类与回归方法 决策树学习的目标：根据给定的训练数据集构建一个决策树模型，使它能够对实例进行正确的分类 决策树学习的本质：从训练集中归纳出一组分类规则，或者说是由训练数据集估计条件概率模型 决策树学习的损失函数：正则化的极大似然函数 决策树 阅读全文
摘要：
1.简介 logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域 例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率 2.概念 logistic回归是一种广义线性回归（generalized linear model） 阅读全文
摘要：
1.tf.clip_by_value 将一个张量中的数值限制在一个范围内 常用：避免一些运算错误（比如log0是无效的） cross_entropy=-tf.reduce_mean(y_*tf.log(tf.clip_by_value(y,1e-10,1.0))) 2.tf.where() wher 阅读全文
摘要：
1.交叉熵 它描述两个概率分布之间的距离，当交叉熵小时说明两者之间越接近，它是分类问题中使用比较广的一种损失函数 2.回归问题中常用的均方误差MSE 回归问题解决的是具体数值的预测，比如放假预测、销售预测等都是回归问题，这些问题需要预测的不是一个事先定义好的类别，而是一个任意的实数， 解决回归问题的 阅读全文
摘要：
1.梯度下降法(Gradient Descent) 梯度下降法是最基本的一类优化器，目前主要分为三种梯度下降法： 标准梯度下降法(GD, Gradient Descent) 随机梯度下降法(SGD, Stochastic Gradient Descent) 批量梯度下降法(BGD, Batch Gr 阅读全文