数据分析算法---线性回归(初识)

2020-01-19 15:37:40 浏览数 (1)

        最近在学习数据分析线性回归算法时,产生了很多疑问。作为初学者,我认为应该先从基本概念上进行一些深度理解。下面将我的一些思考总结如下:

        线性回归模型为:

(1)

        其中ε是剩余误差,假设它服从的是高斯分布,然后因此就将线性回归模型和高斯模型联合起来,获取公式如下:

         到这里我是完全没看懂!

         对于线性回归我有4个疑问:

         第一:看到的诸多线性回归、逻辑回归什么的,回归到底是什么意思?

         第二:这个ε剩余误差又有什么样的意义?

         第三:为什么剩余误差服从高斯分布(即正态分布),整个线性回归模型就能写成高斯分布模型?

         第四:这里的线性到底指的是什么?

         接下来,我将针对这四个问题谈一谈自己的理解。

        1. 回归指的是什么意思?

         回归,即将现有的数据向假设的模型拟合接近,还原真实的数据模式。

        2. 如何理解ε剩余误差?

        这里不妨把(1)式进行合适的转换:

(2)

这样就更容易理解,也就是我们只简单地用线性模型来拟合真是的变量间的关系,并不能达到完美的解释。所以,ε就弥补了用模型难以解释的那一部分,即模型外的未知因素的影响。

       3. 为什么剩余误差符合高斯分布,整个线性模型就符合高斯分布?

       看公式(2)应该可以较容易理解,这是纯粹的数学知识。

       4. 这里的线性到底指的是什么?

       关于线性模型中的线性有三种说法:

       (1)变量和参数都是线性的;

       (2)变量是线性的,但参数不是线性的;

       (3)参数是线性的,但变量不是线性的。

       而我们这里所说的线性模型主要是针对(3)而言的。所以只要参数是线性的这类问题,我们对变量无论是转成指数、幂指数等任意一种函数形式,都可以用线性模型来解决问题,因为我们要学习的是这个参数向量,而变量值是确定的。

0 人点赞