使用Plotly创建带有回归趋势线的时间序列可视化图表

2021-01-25 10:40:59 浏览数 (1)

数据

为了说明这是如何工作的,让我们假设我们有一个简单的数据集,它有一个datetime列和几个其他分类列。您感兴趣的是某一列(“类型”)在一段时间内(“日期”)的汇总计数。列可以是数字、类别或布尔值,但是这没关系。

注意:初始部分包含用于上下文和显示常见错误的代码,对于现成的解决方案,请参阅最后的GitHub的代码。

代码语言:javascript复制
 # Example Datadata = {'dates':
         ['2012-05-04',
          '2012-05-04',
          '2012-10-08'],
         'types':
         ['a',
          'a',
          'z'],
         'some_col':
         ['n',
          'u',
          'q']
         }
 
 df = pd.DataFrame.from_dict(data)

分组、组织和分类

作为第一步,对数据进行分组、组织和排序,以根据所需度量的时间生成计数。在下面的代码块中,您可以在此阶段进行一些逐行转换。

代码语言:javascript复制
 # some housekeeping
 df['dates'] = pd.to_datetime(df['dates'])
 
 # subset
 df = df[['dates', 'types']]
 
 # groupby and aggregate
 df = df.groupby([pd.Grouper(key='dates')]).agg('count')
 
 # reset index
 df = df.reset_index()# rename the types col (optional)
 df = df.rename(columns={'types':'count'})

为了清晰起见,这些步骤可以通过如下所示的方式使用一些额外的数据来完成。重要的是分组,然后按日期时间计数。

代码语言:javascript复制
 data = {'dates':
         ['2012-05-04',
          '2012-05-04',
          '2012-06-04',
          '2012-08-08'],
         'types':
         ['a',
          'a',
          'z',
          'z',],
         'some_col':
         ['n',
          'u',
          'q',
          '']
         }
 
 df['dates'] = pd.to_datetime(df['dates'])
 
 df = df[['dates', 'types']].groupby([pd.Grouper(key='dates')]).agg('count').reset_index()
 
 df = df.rename(columns={'types:'count'})
 
 print(df)
                         
 """
       dates  count
 1 2012-06-04      1
 2 2012-08-08      1
 0 2012-05-04      2
 """

如果您注意到,前面的代码会按提供的日期分组。但是,如果您想按月或年进行分组呢?为了完成这个任务,使用Grouper参数的频率。

代码语言:javascript复制
 freq='M'
 # or 'D' or 'Y'
 df = df[['dates', 'types']].groupby([pd.Grouper(key='dates', freq=freq)]).agg('count').reset_index()
 
 """
        dates  count
 2 2012-07-31      0
 1 2012-06-30      1
 3 2012-08-31      1
 0 2012-05-31      2
 """
 
 # group by the category being counted, or count in this case
 group = df.groupby('count')
 print(group)
 """
 <pandas.core.groupby.generic.DataFrameGroupBy object at 0x7fc04f3b9cd0>
 """

以上代码来自pandas的doc文档

在上面的代码块中,当使用每月“M”频率的Grouper方法时,请注意结果dataframe是如何为给定的数据范围生成每月行的。最后,作为DataFrame准备的最后一步,通过“计数”将数据分组——我们在处理Plotly之后会回到这个问题上。

Plotly Express 和 Plotly Graph Objects

在所有的图形库中,Plotly是可视化效果最好的了,但是他也存在一些问题。好的一方面是,Plotly能够产生出色的可视化效果,并与HTML集成。从不好的是,在单图和混合图之间切换时,语法可能会非常混乱。例如,使用plotly_express(px),可以传递整个DataFrames作为参数;但是,使用graph_objects(go)时,输入会更改,并且可能需要使用字典和Pandas系列而不是DataFrames。

为了熟悉用法我们先使用Plotly Express进行的简单绘图

代码语言:javascript复制
 import plotly_express as pxfig = px.area(df, x='dates', y='count')
 fig.show()

如果您只需要一个简单的时间序列,例如下面所示的时间序列,那么也许就足够了。但是,在同一x轴(时间)上具有两个或更多数据计数的Plotly呢?

为了解决上面的问题,我们就需要从Plotly Express切换到Plotly Graph Objects。大多数时候,我都会使用Plotly的graph_objects库,因为里面包含了很多Express不可用的功能。例如,使用graph_objects,我可以生成混合子图,并且重要的是,可以覆盖多种类型的数据(例如时间序列)。

在使用px之前,我们将px对象分配给了fig(如上所示),然后使用fig.show()显示了fig。现在,我们不想创建一个包含一系列数据的图形,而是要创建一个空白画布,以后再添加到其中。如果运行以下代码,则将按字面值返回一个空白画布。

代码语言:javascript复制
 import plotly.graph_objects as go
 fig = go.Figure()

在使用空白的graph_objects的情况下,可以向画布添加痕迹(图形)。对于线和散点图等最常见的任务,go.Scatter()方法是您想要使用的方法。

代码语言:javascript复制
 # add a graph to the canvas as a trace
 fig.add_trace(go.Scatter(x=df['dates'], y=df['count']))

尽管这可行,但是您可能会发现输出不是理想的。代替由点按时间顺序连接的点,我们有了某种奇怪的“ z”符号。

运行中的go.Scatter()图,但未达到预期。点的连接顺序错误。下面图形是按日期对值进行排序后的相同数据。

这个小问题可能会令人沮丧,因为使用px,图形可以按您期望的方式运行,而无需进行任何调整,但go并非如此。要解决该问题,只需确保按日期对数组进行排序,以使其按某种逻辑顺序绘制和连接点。

代码语言:javascript复制
 # sort the df by a date col, then show fig
 df = df.sort_values(by='dates')

此时,在相同的时间序列上手动绘制不同类型的数据可能就足够了。例如,如果您有两个不同的具有时间序列数据或多个子集的DataFrame,则可以继续向graph_object添加。

代码语言:javascript复制
 # if multiple DataFrames: df1 and df2
 
 fig.add_trace(go.Scatter(x=df1['dates'], y=df1['count']))
 fig.add_trace(go.Scatter(x=df2['dates'], y=df2['count']))
 # ... and so on

但是,如果您有大量的数据,那么很快就不希望编写同样的代码了。所以我们使用分组来进行优化

代码语言:javascript复制
 df = df.groupby('types')# after grouping, add traces with loops
 for group_name, df in group:
     fig.add_trace(
         go.Scatter(
               x=df['dates']
             , y=df['count']
         ))

把它们放在一起

在前面的小节中,我们逐步介绍了将整个可视化整合在一起所需的一些部件和部件,但是还有一些缺失的部分。例如,使用groupby方法时,我们丢失了类别(a、b)的type列,仅凭三个数据点很难判断是否存在任何类型的趋势。在本节中,让我们切换到一个样本数据集,该数据集有几百条记录和两个类别(a、b),它们跨越了几年时间。

读取和分组数据

在下面的代码块中,一个示例CSV表被加载到一个Pandas数据框架中,列作为类型和日期。类似地,与前面一样,我们将date列转换为datetime。这一次,请注意我们如何在groupby方法中包含types列,然后将types指定为要计数的列。

在一个列中,用分类聚合计数将dataframe分组。

代码语言:javascript复制
 gitcsv = 'https://raw.githubusercontent.com/justinhchae/medium/main/sample.csv'
 df = pd.read_csv(gitcsv, index_col=0)
 
 df['dates'] = pd.to_datetime(df['dates'])
 
 freq='M'
 
 df = df.groupby(['types', pd.Grouper(key='dates', freq=freq)])['types'].agg(['count']).reset_index()
 
 
 print(df)
 
 """
    types      dates  count
 0      b 2016-01-31      1
 1      a 2016-01-31      5
 2      b 2016-02-29      3
 3      a 2016-02-29      4
 4      b 2016-03-31      3
 5      a 2016-03-31      6
 6      b 2016-04-30      1
 ...
 """

以前我们只按一列计数排序,但是我们也需要按日期排序。我们如何根据日期和计数排序?对于这个任务,在sort_values()的' by= '参数中指定列名。

代码语言:javascript复制
 # return a sorted DataFrame by date then count
 df = df.sort_values(by=['dates', 'count'])# if you want to reset the index
 df = df.reset_index(drop=True)

最后,让我们看看使用Plotly Express使用样本数据生成的图是什么样子的。

代码语言:javascript复制
 fig = px.area(df, x='dates', y='count', color='types')

现在,同样的数据表示为回归曲线。

代码语言:javascript复制
 fig = px.scatter(df
                  , x='dates'
                  , y='count'
                  , color='types'
                  , trendline='lowess'
                  )

这些都很好,但是我们如何才能将回归曲线覆盖在时间序列之上呢?有几种方法可以完成这项工作,但是经过一番研究之后,我决定使用图形对象来绘制图表并Plotly表达来生成回归数据。

从绘图对象开始重新绘制时间序列,为了填充每行下面的区域,将fill= ' tozeroy '作为参数添加到add_trace()方法。

代码语言:javascript复制
 import plotly.graph_objects as go
 import plotly_express as px
 
 # group the dataframe
 group = df.groupby('types')
 
 # create a blank canvas
 fig = go.Figure()
 
 # each group iteration returns a tuple
 # (group name, dataframe)
 for group_name, df in group:
     fig.add_trace(
         go.Scatter(
               x=df['dates']
             , y=df['count']
             , fill='tozeroy'
         ))

下面是我从Stack Overflow的帖子中借鉴的一个技巧,在循环中组合Plotly Express和Graph对象。有人想要在条形图中添加趋势线,当我们使用Plotly Express来生成趋势线时,它也会创建数据点——这些数据点可以作为普通的x、y数据访问,就像dataframe中的计数一样。因此,我们可以将它们作为图形对象在循环中绘制出来。

注意,我们使用Graph Objects将两类数据绘制到一个图中,但使用Plotly Express为每个类别的趋势生成数据点。

代码语言:javascript复制
 import plotly.graph_objects as go
 import plotly_express as px
 
 # group the dataframe
 group = df.groupby('types')
 
 # create a blank canvas
 fig = go.Figure()
 
 # each group iteration returns a tuple
 # (group name, dataframe)
 for group_name, df in group:
   # in each loop, draw a time series then a regression line
     fig.add_trace(
         go.Scatter(
               x=df['dates']
             , y=df['count']
             , fill='tozeroy'
         ))
     # source: https://stackoverflow.com/questions/60204175/plotly-how-to-add-trendline-to-a-bar-chart
     # generate a regression line with px
     help_fig = px.scatter(df, x=df['dates'], y=df['count'], trendline="lowess")
     # extract points as plain x and y
     x_trend = help_fig["data"][1]['x']
     y_trend = help_fig["data"][1]['y']
 
     # add the x,y data as a scatter graph object
     fig.add_trace(
         go.Scatter(x=x_trend, y=y_trend, name='trend'))

我们已经有了带有线条和趋势的基本图形对象,但还需要清理一些东西。例如,标签不是很有帮助,颜色都掉了。

要处理一些内部管理问题,需要向go.Scatter()方法添加更多参数。因为我们在for循环中传递了分组的dataframe,所以我们可以迭代地访问组名和数据帧的元素。在这段代码的最终版本中,请注意散点对象中的line和name参数,以指定虚线。

代码语言:javascript复制
 import pandas as pd
 import plotly.graph_objects as go
 import plotly_express as px
 
 gitcsv = 'https://raw.githubusercontent.com/justinhchae/medium/main/sample.csv'
 df = pd.read_csv(gitcsv, index_col=0)
 
 df['dates'] = pd.to_datetime(df['dates'])
 
 freq='M' # or D or Y
 
 df = df.groupby(['types', pd.Grouper(key='dates', freq=freq)])['types'].agg(['count']).reset_index()
 df = df.sort_values(by=['dates', 'count']).reset_index(drop=True)
 
 # group the dataframe
 group = df.groupby('types')
 
 # create a blank canvas
 fig = go.Figure()
 
 # each group iteration returns a tuple
 # (group name, dataframe)
 for group_name, df in group:
     fig.add_trace(
         go.Scatter(
               x=df['dates']
             , y=df['count']
             , fill='tozeroy'
             , name=group_name
         ))
 
     # generate a regression line with px
     help_fig = px.scatter(df, x=df['dates'], y=df['count']
                           , trendline="lowess")
     # extract points as plain x and y
     x_trend = help_fig["data"][1]['x']
     y_trend = help_fig["data"][1]['y']
 
     # add the x,y data as a scatter graph object
     fig.add_trace(
         go.Scatter(x=x_trend, y=y_trend
                    , name=str('trend '   group_name)
                    , line = dict(width=4, dash='dash')))
 
     transparent = 'rgba(0,0,0,0)'
 
     fig.update_layout(
         hovermode='x',
         showlegend=True
         # , title_text=str('Court Data for '   str(year))
         , paper_bgcolor=transparent
         , plot_bgcolor=transparent
         , title='Monthly Time Series of A and B with Regression'
     )
 
 
 fig.show()

将聚合的数据分组并使用for循环对其绘图后的最终结果。

总结

在本文中介绍了使用Plotly将对象绘制成带有趋势线的时间序列来绘制数据。

解决方案通常需要按所需的时间段对数据进行分组,然后再按子类别对数据进行分组。在对数据分组之后,使用Graph Objects库在每个循环中生成数据并为回归线绘制数据。

结果是一个交互式图表,显示了每一类数据随时间变化的计数和趋势线。

译者注:plotly是一个非常好的可视化神器,尤其是在交互操作方面,所以我选择sns和matplotlib

作者:Justin Chae

本文地址:https://towardsdatascience.com/time-series-and-logistic-regression-with-plotly-and-pandas-8b368e76b19f

deephub翻译组

0 人点赞