吴恩达机器学习笔记16-决策边界(decision boundary)

  现在讲下决策边界(decision boundary)的概念。这个概念能更好地帮助我们理解逻辑回
归的假设函数在计算什么。

在逻辑回归中,我们预测:
当ℎ𝜃(𝑥) >= 0.5时,预测 𝑦 = 1。
当ℎ𝜃(𝑥) < 0.5时,预测 𝑦 = 0 。
根据上面绘制出的 S 形函数图像,我们知道当
𝑧 = 0 时 𝑔(𝑧) = 0.5
𝑧 > 0 时 𝑔(𝑧) > 0.5
𝑧 < 0 时 𝑔(𝑧) < 0.5
又 𝑧 = 𝜃𝑇𝑥 ,即:
𝜃𝑇𝑥 >= 0 时,预测 𝑦 = 1
𝜃𝑇𝑥 < 0 时,预测 𝑦 = 0

现在假设我们有一个模型:

  并且参数𝜃 是向量[-3 1 1]。 则当−3 + 𝑥1 + 𝑥2 ≥ 0,即𝑥1 + 𝑥2 ≥ 3时,模型将预测 𝑦 =
1。 我们可以绘制直线𝑥1 + 𝑥2 = 3,这条线便是我们模型的分界线,将预测为1 的区域和预
测为 0 的区域分隔开。

假使我们的数据呈现这样的分布情况,怎样的模型才能适合呢?

  因为需要用曲线才能分隔 𝑦 = 0 的区域和 𝑦 = 1 的区域,我们需要二次方特征:

是[-1 0 0 1 1],则我们得到的判定边界恰好是圆
点在原点且半径为1 的圆形。
我们可以用非常复杂的模型来适应非常复杂形状的判定边界。

 

posted @ 2019-02-17 12:34  NeoML  阅读(5725)  评论(0编辑  收藏  举报