使用 4 个样本画出 ROC 曲线

2020-04-01 14:57:36 浏览数 (1)

ROC 曲线,作为评价机器学习模型敏感度的一条重要曲线,在分类任务评价机制中应用较多。

但是很多朋友对于 ROC 曲线的理解还是有些模糊,心想着 x 轴是 FPR, y 轴是 TPR, 组条曲线有些神秘。

今天,咱们用 4 个样本,使用逻辑回归,分类阈值分别从 0.,0.2,0.4,0.6,0.8,1.0,依次变化,分别求出对应分类阈值的 FRP 和 TPR 值。

这样不就得到 6 个 (FRP,TPR) 点,组个曲线,不就是 ROC 曲线吗!

代码语言:javascript复制
# 有监督任务,四个样本的实际值:

target = np.array([1,0,1,0])

计算公式:

代码语言:javascript复制
def TPR(TP,FN):
    return TP / (TP   FN)

def FPR(FP,TN):
    return FP / (FP   TN)

使用逻辑回归 Logistic regression,得到 4 个样本的概率分布为:[0.8,0.6,0.4,0.2]

当分类阈值参数 alpha 为 0.0 时

代码语言:javascript复制
y0 = np.array([1,1,1,1])
p00 = [TPR(2,0),FPR(2,0)]
p00

结果:

代码语言:javascript复制
[1.0, 1.0]

当分类阈值参数 alpha 为 0.2 时

代码语言:javascript复制
# 同理,假如分类阈值 alpha = 0.2
#
y02 = np.array([1,1,1,1])
p02 = [TPR(2,0),FPR(2,0)]
p02

结果:

代码语言:javascript复制
[1.0, 1.0]

当分类阈值参数 alpha 为 0.4 时

代码语言:javascript复制
target = np.array([1,0,1,0])
y04 = np.array([1,1,1,0])
p04 = [TPR(2,0),FPR(1,1)]
p04

结果:

代码语言:javascript复制
[1.0, 0.5]

当分类阈值参数 alpha 为 0.6 时

代码语言:javascript复制
# 同理,假如分类阈值 alpha = 0.6
#
target = np.array([1,0,1,0])
y06 = np.array([1,1,0,0])
p06 = [TPR(1,1),FPR(1,1)]
p06

结果:

代码语言:javascript复制
[0.5, 0.5]

当分类阈值参数 alpha 为 0.8 时

代码语言:javascript复制
# 同理,假如分类阈值 alpha = 0.8
#
target = np.array([1,0,1,0])
y08 = np.array([1,0,0,0])
p08 = [TPR(1,1),FPR(0,2)]
p08

结果:

代码语言:javascript复制
[0.5, 0.0]

当分类阈值参数 alpha 为 1.0 时

代码语言:javascript复制
# 同理,假如分类阈值 alpha = 1.0
#
target = np.array([1,0,1,0])
y10 = np.array([0,0,0,0])
p10 = [TPR(0,2),FPR(0,2)]
p10

结果:

代码语言:javascript复制
[0.0, 0.0]

绘制以上 6 个点,得到 ROC 曲线:

代码语言:javascript复制
npxy = np.array(xy)
fpr = npxy[:,1]
tpr = npxy[:,0]
plt.scatter(fpr,tpr)
plt.plot(fpr,tpr)
plt.grid()

alphas = [0.0,0.2,0.4,0.6,0.8,1.0]
for alpha,x,y in zip(alphas,fpr,tpr):
    plt.annotate("alpha=%s" % (alpha,), xy=(x,y), xytext=(-20, 10), textcoords='offset points')

0 人点赞