李宏毅机器学习p3机器学习基本概念 笔记

机器学习基本概念

任务

Regression:通过输出的是一个数值
Classification:从给出的选项中做出一个选择
Structured Learning:产生一种结构（图像、文档）

如何找到范式呢

1.Function with unknown parameters

例： Model y=b+wx1 based on domain knowledge(基于我们日常的认知)
b and w are unknown parameters(b和w是未知的参数)
x1 是我们已知的东西 feature
和feature相乘的叫做weight（例如例子中的未知参数w），和feature相加的叫做bias（例如例子中的未知参数b）

2.Define Loss from Training Data

Loss is a function of parameters(loss是一个参数的函数)
L（b，w）
Loss: how good a set of values is(loss输出的值可以代表选取未知参数b和w选取的好坏程度)
e=|y-y| L is mean absolute error(MAE)绝对误差
e=|y-y|^2 L is mean square error(MSE)平方差

3.Optimization

w* ，b*=arg min L