线性与非线性的区别和关系

来来来，普及一个基本的问题

线性和非线性到底是怎么区分的

https://www.zhihu.com/question/20084968

 

数学里，一般说的线性，是说的线性映射：

"线性"="齐次性"+"可加性",
"齐次性"是指类似于: f(ax)=af(x),
"可加性"是指类似于: f(x+y)=f(x)+f(y),
这里没有太多特别的原因, 就是一个名字. "非线性"当然就是这两条至少之一不成立.

 

前面有说f(x)=ax+b就是线性，但是应该叫线性方程。因为它既不满足可加性也不满足齐次性，叫线性映射是不对的。

 

线性的确是由linear引入的 而linear又是西方文献中描述直线形象的抽象指代
据韦伯斯特linear下的解释呢
第一条就是 ： of, relating to, resembling or having graph that is a line and esp. a straight line :STRAIGHT
词源 ORIGIN mid 17th centL from Latin linearis,"a line"

 

作者：李越阡
链接：https://www.zhihu.com/question/20084968/answer/13923679
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

 

另外，这一篇说曲线其实也是线性。

https://segmentfault.com/a/1190000009596712

其实，线性模型和非线性模型的区别并不在于能不能去拟合曲线。

一个模型如果是线性的，就意味着它的参数项要么是常数，要么是原参数和要预测的特征之间的乘积加和就是我们要预测的值。

 

如果相对于参数是线性，那么即使性对于样本变量的特征是二次方或者多次方，这个回归模型也是线性的 (例如下面的公式)。

 

Y=b+w1x1+w2x22

 

你甚至可以使用 log 或者指数去形式化特征

 

Y=b+w1e−x1+w2e−x2

 

最简单的判断一个模型是不是非线性，就是关注非线性本身，判断它的参数是不是非线性的。非线性有很多种形象，这也是为什么非线性模型能够那么好的拟合那些曲折的函数曲线的原因。比如下面这个：

 

Y=θ1∗xθ2

 

 

Y=θ1+(θ3−θ2)∗e−θ4X

 

与线性模型不一样的是，这些非线性模型的特征因子对应的参数不止一个。

最后的观点，和下一篇，就很类似了。

 

 

另外从下面的文章，可以看出，线性回归和线性分类是要分开看的。线性分类，就是一条直线把样本分开。

http://blog.csdn.net/wbcnb/article/details/78306970

 

1. 线性模型可以是用曲线拟合样本，但是分类的决策边界一定是直线的，例如logistics模型
2. 区分是否为线性模型，主要是看一个乘法式子中自变量x前的系数w,如果w只影响一个x（注：应该是说x只被一个w影响），那么此模型为线性模型。或者判断决策边界是否是线性的