多元线性回归

2019-08-29 10:18:54 浏览数 (1)

◆ ◆ ◆ ◆ ◆

什么是多元线性回归

在回归分析中,如果有两个或两个以上的自变量,就称为多元回归。事实上,一种现象常常是与多个因素相联系的,由多个自变量的最优组合共同来预测或估计因变量,比只用一个自变量进行预测或估计更有效,更符合实际。因此多元线性回归比一元线性回归的实用意义更大。

y=β0+β1x1 β2x2 … βpxp ε # 公式

今天讲一个例子

这里有个excel 文件数据,我们来研究到底是哪个因素影响sales最明显,是TV,还是radio,还是newspaper,也就是找的销售额到底是那家个元素引起的,怎么才能提高销售额?

导入相对的库

代码语言:javascript复制
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline
plt.style.use('ggplot')   #使用ggplot样式from sklearn.linear_model import LinearRegression  # 导入线性回归from sklearn.model_selection import train_test_split  # 训练数据from sklearn.metrics import mean_squared_error  #用来计算距离平方误差,评价模型

打开文件

代码语言:javascript复制
data = pd.read_csv('Advertising.csv')
data.head()  #看下data

先画图分析一下

代码语言:javascript复制
plt.scatter(data.TV, data.sales)
代码语言:javascript复制
plt.scatter(data.radio, data.sales)
代码语言:javascript复制
plt.scatter(data.newspaper, data.sales)

从图中分析看出newspaper的点分散太广,预测毫无关系,应该要去除

进入代码环节

代码语言:javascript复制
x = data[['TV','radio','newspaper']]
y = data.sales
x_train,x_test,y_train,y_test = train_test_split(x, y)  #得到训练和测试训练集model = LinearRegression()  #导入线性回归model.fit(x_train, y_train)  # model.coef_    # 斜率 有三个model.intercept_  # 截距

得到三个系数

代码语言:javascript复制
array([ 0.04480311,  0.19277245, -0.00301245])
3.0258997429585506
代码语言:javascript复制
for i in zip(x_train.columns, model.coef_):
    print(i)    #打印对应的参数
代码语言:javascript复制
('TV', 0.04480311217789182)
('radio', 0.19277245418149513)
('newspaper', -0.003012450368706149)
代码语言:javascript复制
mean_squared_error(model.predict(x_test), y_test)  # 模型的好坏用距离的平方和计算
代码语言:javascript复制
4.330748450267551

y =0.04480311217789182 x1 0.19277245418149513 x2 -0.003012450368706149 * x3 3.0258997429585506

我们可以看到newspaper的的系数小于0,说明了投入了,反而影响销售额 那么如何改进模型,就是去掉newspaper的数值

代码语言:javascript复制
x = data[['TV','radio']]
y = data.sales
x_train,x_test,y_train,y_test = train_test_split(x, y)
model2 = LinearRegression()
model2.fit(x_train,y_train)
model2.coef_
model2.intercept_
mean_squared_error(model2.predict(x_test),y_test)
代码语言:javascript复制
array([0.04666856, 0.17769367])
3.1183329992288478
2.984535789030915  # 比第一个model的小,说明更好

y =0.04666856x1 0.17769367 x2 3.118332999228847

0 人点赞