提高EDA(探索性数据分析)效率的 3 个简单工具

2022-04-14 12:17:23 浏览数 (1)

数据对于当今的每个行业都很重要,几乎每家公司都在收集数据并使用它们来做出数据驱动的业务决策。在这个过程中最重要的步骤之一是分析数据。有许多专门用于数据可视化的 python 库。例如 Matplotlib、Seaborn 等,但是他们只提供了图标的功能,如果我们需要进行EDA则需要手动编写代码。在本文中将介绍3个工具,这些工具可以使我们的探索性数据分析几乎自动化。

1、pandas_profiling

pandas_profiling可以扩展DataFrame 的功能,通过使用 df.profile_report () 函数可以进行快速数据分析并提供数据集的描述性摘要。它为数据集提供了报告生成功能,并为生成的报告提供了许多自定义函数。

要安装 pandas_profiling,请在您的 jupyter Notebook 中运行以下命令。

代码语言:javascript复制
!pip install pandas_profiling

从 pandas_profiling 导入 ProfileReport 并运行以下代码。df 是数据集的名称。

代码语言:javascript复制
import pandas_profiling
from pandas_profiling import ProfileReport
profile = ProfileReport(df, explorative=True, dark_mode=True)
profile.to_file('output.html')

上面的代码将生成一个报告,报告会保存在位于正在运行的 Notebook 所在的文件夹中。这个报告包含数据集的详细描述性摘要,并且可以进行互动的自定义分析。以下是生成的报告中的一些片段截图。

DataFrame 的整体概述

单个变量的信息

2、D-Tale

D-Tale 是一个使用 Flask 后端和 React 前端的组合开发的工具。通过它可以查看和分析 Pandas 数据结构,并且可以与 Notebook 和python / ipython 终端无缝集成。目前该工具可以支持 DataFrame、Series、MultiIndex、DatetimeIndex 和 RangeIndex 等 Pandas 对象。

使用下面的代码安装 dtale。

代码语言:javascript复制
!pip install dtale

下面的代码将返回一个表格,可以直接与表格互动进行数据分析的操作。包括数据清理、突出显示异常值、检查缺失值、执行相关性检查以及借助图表进行分析等等。

代码语言:javascript复制
import dtale 
dtale.show(df)

执行上面的代码后在表格选项卡中打开相应的选项就可以进行数据分析的操作了,例如下图:

3、dataprep

Dataprep 是一个开源 Python 库,可以自动化探索性数据分析过程。(这个在我们的以前的文章中有过介绍)

代码语言:javascript复制
!pip install dataprep

下面的代码会自动生成EDA的报告。在报告中可以分别检查每个变量的统计信息。并且提供了多个图表可以进行深入分析。

代码语言:javascript复制
from dataprep.eda import create_report
create_report(df)

上面的代码片段只是 dataprep 工具提供的一部分。Dataprep 也可以用于 NLP中,因为它提供了检查词频等选项。

总结

本文简单的介绍 3 个非常好用的的数据可视化和分析工具,它们只需要很少的代码就可以自动的帮助我们执行快速和详细的数据分析,希望这三个工具对你有所帮助。

作者:Tamanna Sharma

0 人点赞