8 个例子帮你快速掌握 Pandas 索引操作

2021-08-20 10:11:09 浏览数 (1)

如果您使用Python作为数据处理的语言,那么pandas很可能是你代码中使用最多的库之一。pandas的关键数据结构是DataFrame,这是一个类似电子表格的数据表,由行和列组成。在处理dataframe时,我们经常需要处理索引,这可能很棘手。在本文中,让我们回顾一些关于用pandas处理索引的技巧。

在读取时指定索引列

在许多情况下,我们的数据源是一个CSV文件。假设我们有一个名为data.csv的文件,它有以下数据。

代码语言:javascript复制
date,temperature,humidity
07/01/21,95,50
07/02/21,94,55
07/03/21,94,56

默认情况下,pandas将为我们创建一个基于0的索引,如下所示。

代码语言:javascript复制
>>> pd.read_csv("data.csv", parse_dates=["date"])
        date  temperature  humidity
0 2021-07-01           95        50
1 2021-07-02           94        55
2 2021-07-03           94        56

我们可以在导入过程中通过将index_col参数设置为适用的列来直接指定索引列。

代码语言:javascript复制
>>> pd.read_csv("data.csv", parse_dates=["date"], index_col="date")
            temperature  humidity
date                             
2021-07-01           95        50
2021-07-02           94        55
2021-07-03           94        56

DataFrame中设置索引

读取数据或其他一些数据处理步骤后,您可能希望手动设置索引。我们可以使用set_index方法。

代码语言:javascript复制
>>> df = pd.read_csv("data.csv", parse_dates=["date"])
>>> df.set_index("date")
            temperature  humidity
date                             
2021-07-01           95        50
2021-07-02           94        55
2021-07-03           94        56

在此方法中,将指定哪些列作为新索引。这里有两件事值得注意。

默认情况下,此方法将创建一个新的DataFrame。如果你想改变索引的位置,你运行df.set_index(“date”, inplace=True)。

如果希望设置索引后列还存在,可以运行df.set_index(“date”, drop=False)。

代码语言:javascript复制
>>> df.set_index("date", drop=False)
                 date  temperature  humidity
date                                        
2021-07-01 2021-07-01           95        50
2021-07-02 2021-07-02           94        55
2021-07-03 2021-07-03           94        56

在一些操作后重置索引

在处理DataFrame时,一些操作(如删除行、索引选择)将生成原始索引的子集。要重新生成连续索引,可以使用reset_index方法。

代码语言:javascript复制
>>> df0 = pd.DataFrame(np.random.rand(5, 3), columns=list("ABC"))
>>> df0
          A         B         C
0  0.548012  0.288583  0.734276
1  0.342895  0.207917  0.995485
2  0.378794  0.160913  0.971951
3  0.039738  0.008414  0.226510
4  0.581093  0.750331  0.133022
>>> df1 = df0[df0.index % 2 == 0]
>>> df1
          A         B         C
0  0.548012  0.288583  0.734276
2  0.378794  0.160913  0.971951
4  0.581093  0.750331  0.133022
>>> df1.reset_index(drop=True)
          A         B         C
0  0.548012  0.288583  0.734276
1  0.378794  0.160913  0.971951
2  0.581093  0.750331  0.133022

通常,我们不需要保留旧索引,因此我们希望将drop参数设置为True,这意味着该操作将删除旧索引。类似地,如果你想重置索引,不要忘记将inplace参数设置为True,否则将创建一个新的DataFrame。

将索引从groupby操作转换为列

分组是最常用的方法,让我们通过添加分组列来继续使用在上一步中创建的df0 。

代码语言:javascript复制
>>> df0["team"] = ["X", "X", "Y", "Y", "Y"]
>>> df0
          A         B         C team
0  0.548012  0.288583  0.734276    X
1  0.342895  0.207917  0.995485    X
2  0.378794  0.160913  0.971951    Y
3  0.039738  0.008414  0.226510    Y
4  0.581093  0.750331  0.133022    Y
>>> df0.groupby("team").mean()
             A         B         C
team                              
X     0.445453  0.248250  0.864881
Y     0.333208  0.306553  0.443828

使用分组变量和列作为索引,分组操作后创建的DataFrame就不是您需要的DataFrame了。但是你可能希望这些索引是列。有两种方法可以完成所需的操作,如下所示。就我个人而言,我更喜欢第二种方法,它只涉及两个步骤。

代码语言:javascript复制
>>> df0.groupby("team").mean().reset_index()
  team         A         B         C
0    X  0.445453  0.248250  0.864881
1    Y  0.333208  0.306553  0.443828
>>> df0.groupby("team", as_index=False).mean()
  team         A         B         C
0    X  0.445453  0.248250  0.864881
1    Y  0.333208  0.306553  0.443828

排序后重置索引

排序是数据处理过程中非常常见的操作。当我们对行进行排序时,默认情况下,这些行将保留它们各自的索引。但是,这可能不是所需的行为。如果要在排序后重置索引,只需在 sort_values 方法中设置 ignore_index 参数即可。

代码语言:javascript复制
>>> df0.sort_values("A")
          A         B         C team
3  0.039738  0.008414  0.226510    Y
1  0.342895  0.207917  0.995485    X
2  0.378794  0.160913  0.971951    Y
0  0.548012  0.288583  0.734276    X
4  0.581093  0.750331  0.133022    Y
>>> df0.sort_values("A", ignore_index=True)
          A         B         C team
0  0.039738  0.008414  0.226510    Y
1  0.342895  0.207917  0.995485    X
2  0.378794  0.160913  0.971951    Y
3  0.548012  0.288583  0.734276    X
4  0.581093  0.750331  0.133022    Y

删除重复项后重置索引

当我们处理现实生活中的数据集时,经常会出现重复记录的情况。因此,我们需要删除这些副本。在删除之后,我们还希望索引按所需的顺序排列。使用类似的方法,我们可以利用drop_duplicates方法中的ignore_index参数。

为了简单起见,让我们假设每个team只有一个df0 记录。

代码语言:javascript复制
>>> df0
          A         B         C team
0  0.548012  0.288583  0.734276    X
1  0.342895  0.207917  0.995485    X
2  0.378794  0.160913  0.971951    Y
3  0.039738  0.008414  0.226510    Y
4  0.581093  0.750331  0.133022    Y
>>> df0.drop_duplicates("team", ignore_index=True)
          A         B         C team
0  0.548012  0.288583  0.734276    X
1  0.378794  0.160913  0.971951    Y

如上所示,在“team”列删除重复项之后,每个团队只有第一条记录保存在生成的DataFrame中。重要的是,因为我们将ignore_index设置为True,所以新的DataFrame以基于0的方式使用一组新的索引。

索引的直接赋值

当有一个现有的DataFrame时,可能需要使用不同的数据源或来自单独的操作来分配索引。在这种情况下,可以直接将索引分配给现有的DataFrame。

代码语言:javascript复制
>>> better_index = ["X1", "X2", "Y1", "Y2", "Y3"]
>>> df0.index = better_index
>>> df0
           A         B         C team
X1  0.548012  0.288583  0.734276    X
X2  0.342895  0.207917  0.995485    X
Y1  0.378794  0.160913  0.971951    Y
Y2  0.039738  0.008414  0.226510    Y
Y3  0.581093  0.750331  0.133022    Y

写入CSV文件时忽略索引

并不是每个人都使用Python或pandas,所以我们经常需要将数据导出到CSV文件。在许多情况下,DataFrame具有基于0的索引。但是,我们不想在导出的CSV文件中包含它。在本例中,我们可以在to_csv方法中设置索引参数。

代码语言:javascript复制
>>> df0.to_csv("exported_file.csv", index=False)

导出的CSV文件如下所示。文件中没有包含索引列。

总结

在本文中,我们回顾了在pandas中最常见的索引操作。熟悉它们对你处理pandas的数据非常有帮助。当然,我没有讨论MultiIndex,这可以在以后的文章中讨论。

作者:Yong Cui

0 人点赞