机器学习第5天:逻辑回归

2019-01-22 12:12:29 浏览数 (1)

一、环境

  • Python3.6.5
  • 编译器:jupyter notebook

二、具体实现步骤

第1步:数据预处理

导入库

代码语言:javascript复制
import numpy as np
import matplotlib.pyplot as plt
import pandas as pd

导入数据

代码语言:javascript复制
dataset = pd.read_csv('Social_Network_Ads.csv')
X = dataset.iloc[ : , [2,3]].values
Y = dataset.iloc[ : ,4].values

将数据集分成训练集和测试集

代码语言:javascript复制
from sklearn.model_selection import train_test_split
X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size=0.25, random_state=0)

第2步:逻辑回归模型

代码语言:javascript复制
from sklearn.linear_model import LogisticRegression
classifier = LogisticRegression()
classifier.fit(X_train, Y_train)

第3步:预测结果

代码语言:javascript复制
Y_pred = classifier.predict(X_test)

第4步:评估预测结果

可视化

代码语言:javascript复制
from matplotlib.colors import ListedColormap
#1.训练集可视化
X_set,y_set=X_train,Y_train

x = np.arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max() 1, step=0.01)
y = np.arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max() 1, step=0.01)
#把x,y绑定为网格的形式
X1,X2=np. meshgrid(x,y)

plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), label=j)

plt. title(' LOGISTIC(Training set)')
plt. xlabel(' Age')
plt. ylabel(' Estimated Salary')
plt. legend()
plt. show()

#2.测试集可视化
X_set,y_set=X_test,Y_test

x = np.arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max() 1, step=0.01)
y = np.arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max() 1, step=0.01)
#把x,y绑定为网格的形式
X1,X2=np. meshgrid(x,y)

plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), label=j)

plt. title(' LOGISTIC(Test set)')
plt. xlabel(' Age')
plt. ylabel(' Estimated Salary')
plt. legend()
plt. show()

三、可视化结果展示

四、逻辑回归是什么

简单来说, 逻辑回归(Logistic Regression)是一种用于解决二分类(0 or 1)问题的机器学习方法,用于估计某种事物的可能性。比如某用户购买某商品的可能性,某病人患有某种疾病的可能性,以及某广告被用户点击的可能性等。

逻辑回归是为了解决分类问题,根据一些已知的训练集训练好模型,再对新的数据进行预测属于哪个类。

逻辑回归(Logistic Regression)与线性回归(Linear Regression)都是一种广义线性模型(generalized linear model)。逻辑回归假设因变量 y 服从伯努利分布,而线性回归假设因变量 y 服从高斯分布。(这部分暂时了解了即可)

这篇博客简单介绍一下逻辑回归是个什么东西,下一篇博客将展开对逻辑回归的具体介绍。

五、利用matplotlib实现可视化

1. 函数讲解

(1) np.arange(): arange([start,] stop[, step,], dtype=None)根据start与stop指定的范围以及step设定的步长,生成一个 ndarray可迭代对象。

(2) .ravel(): 将多维数组降为一维数组。

(3) .reshape(): A.reshape(X1.shape)将A的类型重塑为X1的shape。

(4) T: 实现数组转置和轴对换。例如:

代码语言:javascript复制
arr = np.arange(15).reshape(3,5)
"""
输出:
array([[ 0,  1,  2,  3,  4],
       [ 5,  6,  7,  8,  9],
       [10, 11, 12, 13, 14]])
"""
arr.T
"""
输出:
array([[ 0,  5, 10],
       [ 1,  6, 11],
       [ 2,  7, 12],
       [ 3,  8, 13],
       [ 4,  9, 14]])
"""

(5).meshgrid(): meshgrid函数用两个坐标轴上的点在平面上画网格。

(6).contourf(): 用来画红绿两种结果的分界线, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),这个是利用逻辑回归模型预测分界线。

(7)xlim: plt.xlim设置x坐标轴范围。

(8)ylim: plt.ylim设置y坐标轴范围。

(9)unque(): 是一个去重函数。

(10)enumerate: 用于将一个可遍历的数据对象(如列表、元组或字符串)组合为一个索引序列,同时列出数据和数据下标,一般用在 for 循环当中。

今天先了解一下利用matplotlib实现可视化,明天将对matplotlib进行详细介绍。

2. 关于X_set[y_set==j,0]

代码语言:javascript复制
for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), label=j)

关于这个点小编也是半懂,简单谈一下我的理解。y_set == j的结果是一个布尔值这个是肯定的,当y_set == j的结果为False时,plt.scatter语句不执行;当y_set == j的结果为True时,plt.scatter语句执行,X_set[y_set==j,0]的作用效果相当于X_set[ : ,0]。

附上老外的看法:What does X_set[y_set == j, 0] mean?

有不同见解的童鞋可以在下方留言,我们一起交流。

0 人点赞