二、Deep Learning Basics——Lecture 2: Image Classification with Linear Classifiers

目录

• 二、Deep Learning Basics
  • Lecture 2: Image Classification with Linear Classifiers(用线性分类器进行图像分类)
    • The data-driven approach（数据处理方法）
    • K-nearest neighbor（K最近邻算法/KNN）
    • Linear Classifiers（线性分类器）
    • Algebraic / Visual / Geometric viewpoints（代数/视觉/几何观点）
• (下面PPT是讲SVM的损失函数，没看懂：第67——81页PPT，待解决)
  • • SVM and Softmax loss（SVM算法和Sofxmax损失函数）
• （待解决，比较在平板还没完全搞懂）
  • • Python / Numpy Review Session（Python/Numpy复习课）

二、Deep Learning Basics

Lecture 2: Image Classification with Linear Classifiers(用线性分类器进行图像分类)

图像是一个张量，它是介于[0,255]之间的整数。
面临一些挑战：视角变化（当相机移动时，所有的像素都改变了!）、明亮程度、背景混杂、图像遮挡、变形、同类差异、环境背景等

The data-driven approach（数据处理方法）

1. 收集图像和标签的数据集
2. 使用机器学习算法训练分类器
3. 评估新图像上的分类器

K-nearest neighbor（K最近邻算法/KNN）

最近邻：
原理：

代码：

k-最近邻（距离度量）：
与其从最近的邻居复制标签，不如从K个最近的点进行多数投票
（1）曼哈顿距离

（2）欧几里得距离

K-Nearest Neighbors Demo：http://vision.stanford.edu/teaching/cs231n-demos/knn/

关于训练集(training)、验证集(validation)和测试集(test)，得单独找一个文章专门写。

KNN 总结（KNN原理得单独写一篇文章）：
（1）在图像分类中，我们从图像和标签组成的训练集开始，在测试集上预测标签。
（2）K近邻分类器基于K个最近的训练示例来预测标签
（3）距离度量和K是超参数
（4）使用验证集选择超参数
（5）在最后只在测试集上运行一次!

Linear Classifiers（线性分类器）

Algebraic / Visual / Geometric viewpoints（代数/视觉/几何观点）

1. 定义一个损失函数，用训练数据中的分数来量化我们的不满意。
2. 想出一种方法，有效地找到参数，使损失函数最小化。(优化)
   

(下面PPT是讲SVM的损失函数，没看懂：第67——81页PPT，待解决)

SVM and Softmax loss（SVM算法和Sofxmax损失函数）

（待解决，比较在平板还没完全搞懂）

Python / Numpy Review Session（Python/Numpy复习课）

单独一篇文章学习：https://www.cnblogs.com/yechangxin/articles/16522751.html