摘要: 强化学习读书笔记 06~07 时序差分学习(Temporal Difference Learning) 学习笔记: "Reinforcement Learning: An Introduction, Richard S. Sutton and Andrew G. Barto c 2014, 2015 阅读全文
posted @ 2017-03-09 15:23 SNYang 阅读(12110) 评论(0) 推荐(2) 编辑
摘要: 强化学习读书笔记 05 蒙特卡洛方法(Monte Carlo Methods) 学习笔记: "Reinforcement Learning: An Introduction, Richard S. Sutton and Andrew G. Barto c 2014, 2015, 2016" 数学符号 阅读全文
posted @ 2017-03-05 22:03 SNYang 阅读(11012) 评论(2) 推荐(3) 编辑
摘要: 强化学习读书笔记 03 有限马尔科夫决策过程 学习笔记: "Reinforcement Learning: An Introduction, Richard S. Sutton and Andrew G. Barto c 2014, 2015, 2016" 代理 环境接口(The agent env 阅读全文
posted @ 2017-03-03 16:39 SNYang 阅读(5926) 评论(6) 推荐(3) 编辑
摘要: 强化学习读书笔记 04 动态规划 学习笔记: "Reinforcement Learning: An Introduction, Richard S. Sutton and Andrew G. Barto c 2014, 2015, 2016" 数学符号看不懂的,先看看这里: "强化学习读书笔记 0 阅读全文
posted @ 2017-03-03 00:28 SNYang 阅读(5441) 评论(0) 推荐(4) 编辑
摘要: 强化学习读书笔记 02 多臂老O虎O机问题 学习笔记: "Reinforcement Learning: An Introduction, Richard S. Sutton and Andrew G. Barto c 2014, 2015, 2016" 数学符号的含义 通用 $a$ 行动(acti 阅读全文
posted @ 2017-02-27 20:02 SNYang 阅读(5666) 评论(0) 推荐(4) 编辑
摘要: 强化学习读书笔记 01 强化学习的问题 "Reinforcement Learning: An Introduction, Richard S. Sutton and Andrew G. Barto c 2014, 2015, 2016" 什么是强化学习(Reinforcement Learning 阅读全文
posted @ 2017-02-25 00:01 SNYang 阅读(5314) 评论(0) 推荐(0) 编辑
摘要: 神经网络学习笔记 03 循环神经网络 反向传播计算公式的证明 本文是根据WildML的 "Recurrent Neural Networks Tutorial" 写的学习笔记。 原文的例子 原文中计划实现一个循环神经网络,用于发现自然语言句子中单词出现的模式,最终可以生成一些合理的句子。 数据来源 阅读全文
posted @ 2017-02-16 20:19 SNYang 阅读(1933) 评论(0) 推荐(0) 编辑
摘要: 神经网络学习笔记 04 循环神经网络算法解释 本文是根据WildML的 "Recurrent Neural Networks Tutorial" 写的学习笔记。 门控循环单元 GRUs (Gated Recurrent Units) 先看看计算公式: $$ x_e = Ex_t \\ z = \si 阅读全文
posted @ 2017-02-16 20:11 SNYang 阅读(1813) 评论(0) 推荐(1) 编辑
摘要: 神经网络学习笔记 损失函数的定义和微分证明 损失函数 Loss function (cross entropy loss) 损失函数,反向传播和梯度计算构成了循环神经网络的训练过程。 激活函数softmax和损失函数会一起使用。 激活函数会根据输入的参数(一个矢量,表示每个分类的可能性),计算每个分 阅读全文
posted @ 2017-02-12 11:30 SNYang 阅读(6174) 评论(0) 推荐(1) 编辑
摘要: 神经网络学习笔记 02 循环神经网络 本文是根据WildML的 "Recurrent Neural Networks Tutorial" 写的学习笔记。 循环神经网络 循环神经网络适用于处理序列化信息,比如:语言翻译,语音识别等。 如果,我们要实现一个翻译功能。首先需要理解原句中每个单词的含义。 这 阅读全文
posted @ 2017-01-30 23:24 SNYang 阅读(1101) 评论(0) 推荐(1) 编辑
摘要: 神经网络学习笔记 激活函数的作用、定义和微分证明 看到 "知乎" 上对激活函数(Activation Function)的解释。 我一下子迷失了。 因此,匆匆写下我对激活函数的理解。 激活函数被用到了什么地方 目前为止,我见到使用激活函数的地方有两个。 逻辑回归(Logistic Regressio 阅读全文
posted @ 2017-01-29 23:40 SNYang 阅读(14037) 评论(0) 推荐(3) 编辑
摘要: 机器学习中的基本数学知识 注:本文的代码是使用Python 3写的。 <! TOC "机器学习中的基本数学知识" "线性代数(linear algebra)" "第一公式" "矩阵的操作" "换位(transpose)" "矩阵乘法" "矩阵的各种乘积" "内积" "外积" "元素积(element 阅读全文
posted @ 2017-01-25 01:41 SNYang 阅读(73628) 评论(15) 推荐(49) 编辑
摘要: 神经网络学习笔记 01 基本概念 基本概念 Artificial Neural Network 基于神经元的计算方向。 一个人工神经网络系统一般包含多个层,每层包含多个神经元(也称为节点)。 第一层是输入层。 基本上没有什么计算功能,主要是将输入数据映射到每个节点上。 中间的层次为隐藏层。 每层都会 阅读全文
posted @ 2017-01-23 14:48 SNYang 阅读(2169) 评论(0) 推荐(0) 编辑
摘要: Artificial Intelligence Language Objective We know, a true AI program should have ability to understand knowledge and generate code. Obvious the gener 阅读全文
posted @ 2016-12-31 19:47 SNYang 阅读(323) 评论(0) 推荐(0) 编辑
摘要: More descriptive way to declare and use a method in programming languages At present, in most programming language, a method is declared in few parts: 阅读全文
posted @ 2016-11-01 10:49 SNYang 阅读(309) 评论(0) 推荐(0) 编辑
摘要: [comment]: # 蒙特卡洛树搜索算法(UCT): 一个程序猿进化的故事 前言: 本文是根据的文章Introduction to Monte Carlo Tree Search by Jeff Bradberry所写。 Jeff Bradberry还提供了一整套的例子,用python写的。 b 阅读全文
posted @ 2016-10-26 15:54 SNYang 阅读(33710) 评论(7) 推荐(7) 编辑
摘要: [comment]: Spark集群 + Akka + Kafka + Scala 开发(4) : 开发一个Kafka + Spark的应用 前言 在 "Spark集群 + Akka + Kafka + Scala 开发(1) : 配置开发环境" 中,我们已经部署好了一个Spark的开发环境。 在 阅读全文
posted @ 2016-10-02 01:10 SNYang 阅读(3043) 评论(0) 推荐(0) 编辑
摘要: [comment]: Spark集群 + Akka + Kafka + Scala 开发(3) : 开发一个Akka + Spark的应用 前言 在 "Spark集群 + Akka + Kafka + Scala 开发(1) : 配置开发环境" 中,我们已经部署好了一个Spark的开发环境。 在 " 阅读全文
posted @ 2016-10-02 00:59 SNYang 阅读(4153) 评论(2) 推荐(1) 编辑
摘要: [comment]: Spark集群 + Akka + Kafka + Scala 开发(2) : 开发一个Spark应用 前言 在 "Spark集群 + Akka + Kafka + Scala 开发(1) : 配置开发环境" ,我们已经部署好了一个Spark的开发环境。 本文的目标是写一个Spa 阅读全文
posted @ 2016-10-01 22:33 SNYang 阅读(2243) 评论(0) 推荐(0) 编辑
摘要: [comment]: Spark集群 + Akka + Kafka + Scala 开发(1) : 配置开发环境 目标 配置一个spark standalone集群 + akka + kafka + scala的开发环境。 创建一个基于spark的scala工程,并在spark standalone 阅读全文
posted @ 2016-10-01 20:46 SNYang 阅读(2268) 评论(0) 推荐(0) 编辑
摘要: [comment]: 为什么.NET感觉上比Java差一点 其实,我本人很喜欢.NET技术。工作经历中,大部分时间也在使用.NET开发。 这几年,由于工作的原因,开始进入Java+Linux世界。 今年,开始学习Python和Scala。 使用.NET时,有种什么都准备好了的感觉。而使用Java,什 阅读全文
posted @ 2016-09-20 23:52 SNYang 阅读(4881) 评论(2) 推荐(0) 编辑
摘要: [comment]: 学习Scala: 初学者应该了解的知识 Scala开发参照清单 这里列出在开发一个Scala工程中需要参照的资料。 官网网站 http://www.scala lang.org/ 文档网站 http://docs.scala lang.org/index.html Cheats 阅读全文
posted @ 2016-09-18 16:58 SNYang 阅读(4236) 评论(0) 推荐(1) 编辑
摘要: [comment]: 函数式编程 : 一个程序猿进化的故事 阿袁工作的第1天: 函数式编程的历史 阿袁中午和阿静一起吃午餐。阿袁说起他最近看的《艾伦·图灵传 如谜的解谜者》。 由于阿袁最近在学习Scala,所以关注了一下图灵传中关于函数式编程的一些历史。 关于函数式编程的故事,可以从1928年开始讲 阅读全文
posted @ 2016-09-18 16:25 SNYang 阅读(2778) 评论(6) 推荐(3) 编辑
摘要: [comment]: Scala underscore的用途 _ 的用途 scala // import all import scala.io._ // import all, but hide Codec import scala.io.{Codec = _, _} // import all, 阅读全文
posted @ 2016-09-18 15:22 SNYang 阅读(699) 评论(0) 推荐(0) 编辑
摘要: [comment]: 不变(Invariant), 协变(Covarinat), 逆变(Contravariant) : 一个程序猿进化的故事 阿袁工作的第1天: 不变(Invariant), 协变(Covarinat), 逆变(Contravariant)的初次约 阿袁,早!开始工作吧。 阿袁在笔 阅读全文
posted @ 2016-09-16 23:45 SNYang 阅读(948) 评论(1) 推荐(0) 编辑
摘要: [comment]: Scala Collection简介 Traversable vs Iterable Traversable, Iterable 都是trait。 Iterable 继承 Traversable。 Traversable: 支持foreach. Iterable: 支持Inte 阅读全文
posted @ 2016-09-16 00:52 SNYang 阅读(688) 评论(0) 推荐(0) 编辑
摘要: [comment]: C on Visual Studio Code installation Download .NET Core SDK installer and install it. https://www.microsoft.com/net/download .NET Core SDK 阅读全文
posted @ 2016-09-13 11:07 SNYang 阅读(1654) 评论(0) 推荐(0) 编辑
摘要: [comment]: 我的Machine Learning学习之路 从2016年年初,开始用python写一个简单的爬虫,帮我收集一些数据。 6月份,开始学习Machine Learning的相关知识。 9月开始学习Spark和Scala。 现在想,整理一下思路。 先感谢下我的好友王峰给我的一些建议 阅读全文
posted @ 2016-09-10 08:48 SNYang 阅读(2475) 评论(7) 推荐(1) 编辑
摘要: [comment]: Scala on Visual Studio Code Download and install Scala Download a scala installation package from "here" . Then install it. Linux Configure 阅读全文
posted @ 2016-09-08 14:40 SNYang 阅读(7159) 评论(1) 推荐(0) 编辑
摘要: [comment]: Docker on CentOS for beginners Introduction The article will introduce Docker on CentOS. Key concepts Docker Docker is the world's leading 阅读全文
posted @ 2016-09-02 23:30 SNYang 阅读(462) 评论(0) 推荐(0) 编辑
摘要: [comment]: Machine Learning: 学习心得 14 利用SVD简化数据 前言 最近在看Peter Harrington写的“机器学习实战”,这是我的学习心得,这次是第14章 利用SVD简化数据。 这里介绍,机器学习中的降维技术,可简化样品数据。 基本概念 降维(dimensio 阅读全文
posted @ 2016-08-30 23:49 SNYang 阅读(1538) 评论(0) 推荐(1) 编辑
摘要: [comment]: 机器学习实战 读书笔记(13) 利用PCA来简化数据 前言 最近在看Peter Harrington写的“机器学习实战”,这是我的学习心得,这次是第13章 利用PCA来简化数据。 这里介绍,机器学习中的降维技术,可简化样品数据。 降维技术的用途 使得数据集更易使用; 降低很多算 阅读全文
posted @ 2016-08-27 19:22 SNYang 阅读(1286) 评论(0) 推荐(0) 编辑
摘要: [comment]: 机器学习实战 读书笔记(12) 使用FP growth算法来高效发现频繁项集 前言 最近在看Peter Harrington写的“机器学习实战”,这是我的学习心得,这次是第12章 使用FP growth算法来高效发现频繁项集。 基本概念 FP growth算法 FP growt 阅读全文
posted @ 2016-08-27 13:21 SNYang 阅读(1909) 评论(0) 推荐(1) 编辑
摘要: [comment]: 在博客园的markdow编辑器中使用SVG SVG SVG 意为可缩放矢量图形(Scalable Vector Graphics)。 SVG 使用 XML 格式定义图像。 问题 如果在博客园的markdow编辑器中直接使用SVG,由于保存时,markdown引擎会插入一些htm 阅读全文
posted @ 2016-08-26 13:36 SNYang 阅读(6452) 评论(0) 推荐(0) 编辑
摘要: [comment]: 机器学习实战 读书笔记(11) 使用Apriori算法进行关联分析 前言 最近在看Peter Harrington写的“机器学习实战”,这是我的学习心得,这次是第11章 使用Apriori算法进行关联分析。 基本概念 关联分析(association analysis)或者关联 阅读全文
posted @ 2016-08-24 17:36 SNYang 阅读(925) 评论(0) 推荐(1) 编辑
摘要: [comment]: Machine Learning: 机器学习实战读书笔记 03 决策树 机器学习实战读书笔记 03 决策树 解决的问题 一个经典的例子是猜人游戏。参与游戏的一方默想一个人名,另一方向他提问题,最终猜出这个人名。 决策树属于监督学习,可以处理上面的分类问题。这个问题的特点是: 训 阅读全文
posted @ 2016-08-23 17:47 SNYang 阅读(1214) 评论(2) 推荐(0) 编辑
摘要: [comment]: 机器学习实战 读书笔记(10) 利用K 均值聚类算法对未标注数据分组 前言 最近在看Peter Harrington写的“机器学习实战”,这是我的学习心得,这次是第10章 利用K 均值聚类算法对未标注数据分组。 基本概念 非监督学习 Unsupervised learning 阅读全文
posted @ 2016-08-19 16:20 SNYang 阅读(687) 评论(0) 推荐(0) 编辑
摘要: [comment]: Unsupervised Classification Sprawl Classification Algorithm Idea Points (data) in same cluster are near each others, or are connected by ea 阅读全文
posted @ 2016-08-12 14:13 SNYang 阅读(350) 评论(0) 推荐(0) 编辑
摘要: [comment]: Represent code in math equations Introduce The article shows a way to use math equations to represent code's logical. Key ideas logical fir 阅读全文
posted @ 2016-07-27 22:18 SNYang 阅读(352) 评论(0) 推荐(0) 编辑
摘要: [comment]: 机器学习实战 读书笔记(08) 预测数值型数据:回归 前言 最近在看Peter Harrington写的“机器学习实战”,这是我的学习心得,这次是第8章 预测数值型数据:回归。 基本概念 回归(regression) 估算一个依赖变量和其它独立变量的关系。不同于分类的是,它计算 阅读全文
posted @ 2016-07-24 15:50 SNYang 阅读(1240) 评论(0) 推荐(0) 编辑