前言
在使用 Pandas 进行数据分析时，我们需要经常进行查询和统计分析。
但是Pandas 是如何进行查询和统计分析得嘞, let’s go :
数据筛选查询
- 通过列名索引筛选数据：
import pandas as pd
data = {'name': ['Tom', 'Jerry', 'Lucy', 'Amy'],
'age': [18, 19, 20, 21],
'gender': ['M', 'M', 'F', 'F']}
df = pd.DataFrame(data)
# 选取 'name' 属性
df['name']
# 选取 'age' 和 'gender' 属性
df[['age', 'gender']]- 通过位置索引筛选数据：
# 通过位置索引选取第一行数据
df.iloc[0]
# 通过位置索引选取第一行和第二行数据
df.iloc[0:2]- 通过布尔索引筛选数据：
# 选取年龄大于等于 20 的记录
df[df['age'] >= 20]
# 选取性别为女的记录
df[df['gender'] == 'F']数据统计分析
Pandas 提供丰富的统计函数，可以方便地进行数据分析。
- 描述性统计分析：
# 统计数值型数据的基本描述性统计信息
df.describe()
# 统计各属性的非空值数量
df.count()
# 统计各属性的平均值
df.mean()
# 统计各属性的方差
df.var()
# 统计各属性的标准差
df.std()- 分组统计分析：
# 按照性别分组，统计年龄均值
df.groupby('gender')['age'].mean()
# 按照性别和年龄分组，统计人数
df.groupby(['gender', 'age'])['name'].count()- 交叉表分析：
# 构造一个交叉表，统计不同性别和年龄的人数
pd.crosstab(df['gender'], df['age'])数据排序
- 按照某列数据进行升序排列：
df.sort_values(by='age')- 按照某列数据进行降序排列：
df.sort_values(by='age', ascending=False)数据聚合
- 对整个 DataFrame 进行聚合操作：
# 聚合函数：求和、均值、中位数、最大值、最小值
df.aggregate([sum, 'mean', 'median', max, min])- 对某列数据进行聚合操作：
# 统计年龄平均值
df['age'].mean()
# 统计年龄总和
df['age'].sum()
# 统计年龄最大值
df['age'].max()处理缺失数据
- 判断数据是否为缺失值：
# 返回一个布尔型 DataFrame，表明各元素是否为缺失值
df.isnull()- 删除缺失值所在的行或列：
# 删除所有含有缺失值的行
df.dropna()
# 删除所有含有缺失值的列
df.dropna(axis=1)- 用指定值填充缺失值：
# 将缺失值使用 0 填充
df.fillna(0)数据去重
- 对 DataFrame 去重：
# 根据所有列值的重复性进行去重
df.drop_duplicates()
# 根据指定列值的重复性进行去重
df.drop_duplicates(subset=['name', 'age'])- 对 Series 去重：
# 对 'name' 列进行去重
df['name'].drop_duplicates()数据合并
- 横向（按列）合并 DataFrame：
# 创建一个新的 DataFrame
other_data = {'name': ['Tom', 'Jerry', 'Lucy', 'Amy'],
'score': [80, 90, 85, 95]}
other_df = pd.DataFrame(other_data)
# 将两个 DataFrame 在列上合并
pd.concat([df, other_df], axis=1)- 纵向（按行）合并 DataFrame：
# 创建一个新的 DataFrame
other_data = {'name': ['Kate', 'Jack'],
'age': [19, 20],
'gender': ['F', 'M']}
other_df = pd.DataFrame(other_data)
# 将两个 DataFrame 在行上合并
pd.concat([df, other_df], axis=0)数据透视表
- 创建数据透视表：
# 统计不同性别和年龄的人数，以 'gender' 为行、'age' 为列，'name' 计数
pd.pivot_table(df, values='name', index='gender', columns='age', aggfunc='count')
