文章目录
- 精确率与召回率
- F1度量
- ROC与AUC
精确率与召回率
精确率(Precision)与召回率(Recall)是分类任务中的常用指标,首先需要知道混淆矩阵。
在二分类问题中,我们把样例的真实类别与分类模型预测的预测类别,进行排列组合,正例是类别1,反例是类别0,得到如下4种情形:
- 真正例(True Positive,TP)
- 假反例(False Negative,FN)
- 假正例(False Positive,FP)
- 真反例(True Negative,TN)
显然,四者之和等于样例总数,混淆矩阵如下:
精确率
是所有预测类别为1的样本中,真实类别为1的比例,表示查的是准不准。
召回率
是所有真实类别为1的样本中,预测类别为1的比例,表示查的是全不全。
由于总数是固定的,精确率越高则召回率越低,反之亦然,也就是说两者是矛盾的,难以两全其美。
以
为纵坐标,
为横坐标,构建P-R图,如果一个模型A的P-R曲线完全包住模型B,自然模型A比模型B更优,其精准率和召回率都大于B。
但如果出现模型A的精确率比模型B好,而模型B的召回率又比模型A好,即P-R图中出现交点,此时就不好判断两个模型孰优孰劣了,各有千秋。
此时可以综合考虑精确率和召回率,定义F1度量。
F1度量
度量综合考虑了精确率
和召回率
两个指标,反映了模型的稳健性。
当然了,在实际应用场景中,可能对精确率和召回率有偏重,可以乘以加权权重
。
推广到多分类任务中,由于混淆矩阵是对应正反两个类别的,而多分类中类别大于2。使用组合,将组合中每两个类别生成一个对应矩阵,并计算F1,最后再计算所有F1的平均值,得到宏F1(macro-F1)。 类似的,可以计算宏精准率(macro-P)、宏召回率(macro-R)。
(
插播反爬信息)博主CSDN地址:https://wzlodq.blog.csdn.net/
在sklearn库中,可以调用classification_report()
计算这些指标。
from sklearn.metrics import classification_report
print(classification_report(y_test, y_pred))
ROC与AUC
上述指标对于数据相对平衡时,是可以提供一个很好的参考。但是如果对于极不平衡的数据,上述指标就不能正确反映模型的优劣了。
比如肺癌数据集中,99个是肺癌样本,1个不是肺癌样本。如果分类模型不管三七二十一,对于输入全部判为肺癌,那它的正确率仍高达99%。
对于这种不平衡的情况,我们需要参考ROC曲线和AUC指标。
首先定义
和
。
真正例率(True Positive Rate,TPR)是所有真实类别为1的样本中,预测类别为1的比例:
假正例率(False Positive Rate,FPR)是所有真实类别为0的样本中,预测类别为0的比例:
ROC曲线的横坐标就是
,纵坐标就是
,其全称是Receiver Operating Characteristic,受试者工作特征。当
=
时,也就是对角线(下图虚线),表示无论真实类别是0还是1的样本,分类模型预测预测为1的概率是想等的。当ROC曲线越往左上,即
越接近1时,表示模型越好,反之越差。
图片摘自网络。
与P-R图存在相同的问题,如果两个模型的POC曲线有交点时,也不好判断孰优孰劣。此时可以通过AUC指标来判断。
AUC全称Area Under ROC Curve,即ROC曲线下的面积,AUC越大越接近1,则表示模型越好。
可以使用sklearn库中roc_auc_score()
函数来计算ROC下面积,即AUC。
注意正例1反例0,传参记得处理数据。
from sklearn.metrics import roc_auc_score
print(roc_auc_score(y_test, y_pred))
原创不易,请勿转载(
本不富裕的访问量雪上加霜) 博主首页:https://wzlodq.blog.csdn.net/ 来都来了,不评论两句吗