摘要： 一、三种类型 1. 有监督学习 1) 给定输入，预测输出 2. 增强学习 1) 学习到一个序列，使最终的收益最大（下棋等） 3. 无监督学习 1) 发现输入的内部表示二、有监督学习的两种类型 1. 回归（拟合） 2. 分类三、增强学习 1. 在增强学习中，我们需要学习一个行为序列，但是唯一的有监督信号是最终的一个标量：回报值 2. 目标：每次选择一个行为都最大化最终的回报值 3. 增强学习是困难的，唯一的有监督信息（下棋输赢）提供不了太多的有用信息 4. 增强学习模型很难学习到百万级别的参数个数，一般几十个，最多上千四、无监督学习 1. 不仅仅是聚类，聚类... 阅读全文

摘要： 一、理想化神经元 1. 对事物建模，我们需要理想化它 1) 理想化会移除掉对理解主要原则并不必要的一些细节 2) 易于加入数学或迁移对其他事物建模的知识 3) 一旦理解了基本原则，也就容易在上面增加一些复杂的特征来完善模型 2. 理解一些“错误”的模型是有必要的，但是我们不能忘记它是错的 1) 比如神经元传输的是连续值，而不是离散值二、一些简单的神经元模型 1. Linear neurons 2. Binary threshold neurons 3. Rectified Linear Neurons 4. Sigmoid neurons 5. Stoch... 阅读全文

摘要： 一、为什么要研究神经计算 1. 理解人脑是怎样工作的 2. 理解利用神经元和连接所形成的并行计算（这与串行计算很不相同）： 1) 能够做好人脑擅长的事情（vision） 2) 做不好人脑不擅长的事情（23*45） 3. 利用新的类似人脑工作的学习算法解决实际问题（尽管人脑不是这样工作的，这些算法仍然很有用）二、人脑是怎样工作的 1. 每一个神经元从其他神经元中接收信号 1)一些神经元连接感知器官 2) 交流介质 2. 输入的影响是靠权值控制 1) 权值可正可负 3. 权值会使整个神经网络对一些任务表现较好 4. 每个人大概有10^11神经元，每个神经... 阅读全文

摘要： 一、什么是机器学习？ 1. 有些问题很难用写程序去解决，比如对象识别： 1) 我们不知道人脑是怎么识别对象的，也就没法写程序 2) 即使我们有很好的想法，还是发现很难写 2. 很难计算一个信用卡交易行为是不是异常的： 1) 找不到简单的规则，可能需要结合巨大数量的规则 2) 作弊的手段是随时间变化的，我们的程序需要不断更新二、机器学习方法 1. 收集输入输出对 2. 机器学习算法能够利用这些输入输出对，完成任务 1) 需要很多样例 2)在新的样例上也能起作用 3) 新的训练数据都来，模型可重新训练改变三、一些解决的很好的例子 1. 模式识别：... 阅读全文