精选23个Pandas常用函数
从26个字母中精选出23个Pandas常用的函数,将它们的使用方法介绍给大家。其中o、y、z没有相应的函数。
代码语言:javascript复制import pandas as pd
import numpy as np
下面介绍每个函数的使用方法,更多详细的内容请移步官网:https://pandas.pydata.org/docs/reference/general_functions.html
assign函数
代码语言:javascript复制df = pd.DataFrame({
'temp_c': [17.0, 25.0]},
index=['Portland', 'Berkeley'])
df
temp_c | |
---|---|
Portland | 17.0 |
Berkeley | 25.0 |
# 生成新的字段
df.assign(temp_f=df['temp_c'] * 9 / 5 32)
temp_c | temp_f | |
---|---|---|
Portland | 17.0 | 62.6 |
Berkeley | 25.0 | 77.0 |
df # 原来DataFrame是不改变的
temp_c | |
---|---|
Portland | 17.0 |
Berkeley | 25.0 |
df["temp_f1"] = df["temp_c"] * 9 / 5 32
df
temp_c | temp_f1 | |
---|---|---|
Portland | 17.0 | 62.6 |
Berkeley | 25.0 | 77.0 |
df
temp_c | temp_f1 | |
---|---|---|
Portland | 17.0 | 62.6 |
Berkeley | 25.0 | 77.0 |
bool函数
返回单个Series或者DataFrame中单个元素的bool值:True或者False
代码语言:javascript复制pd.Series([True]).bool()
代码语言:javascript复制True
代码语言:javascript复制pd.Series([False]).bool()
代码语言:javascript复制False
代码语言:javascript复制pd.DataFrame({'col': [True]}).bool()
代码语言:javascript复制True
代码语言:javascript复制pd.DataFrame({'col': [False]}).bool()
代码语言:javascript复制False
代码语言:javascript复制# # 多个元素引发报错
# pd.DataFrame({'col': [True,False]}).bool()
concat函数
该函数是用来表示多个DataFrame的拼接,横向或者纵向皆可。
代码语言:javascript复制df1 = pd.DataFrame({
"sid":["s1","s2"],
"name":["xiaoming","Mike"]})
df1
sid | name | |
---|---|---|
0 | s1 | xiaoming |
1 | s2 | Mike |
df2 = pd.DataFrame({
"sid":["s3","s4"],
"name":["Tom","Peter"]})
df2
sid | name | |
---|---|---|
0 | s3 | Tom |
1 | s4 | Peter |
df3 = pd.DataFrame({
"address":["北京","深圳"],
"sex":["Male","Female"]})
df3
address | sex | |
---|---|---|
0 | 北京 | Male |
1 | 深圳 | Female |
# 使用1:纵向
pd.concat([df1,df2])
sid | name | |
---|---|---|
0 | s1 | xiaoming |
1 | s2 | Mike |
0 | s3 | Tom |
1 | s4 | Peter |
# 使用2:横向
pd.concat([df1,df3],axis=1)
sid | name | address | sex | |
---|---|---|---|---|
0 | s1 | xiaoming | 北京 | Male |
1 | s2 | Mike | 深圳 | Female |
dropna函数
删除空值
代码语言:javascript复制df4 = pd.DataFrame({
"sid":["s1","s2", np.nan],
"name":["xiaoming",np.nan, "Mike"]})
df4
sid | name | |
---|---|---|
0 | s1 | xiaoming |
1 | s2 | NaN |
2 | NaN | Mike |
df4.dropna()
sid | name | |
---|---|---|
0 | s1 | xiaoming |
df4.dropna(subset=["name"])
sid | name | |
---|---|---|
0 | s1 | xiaoming |
2 | NaN | Mike |
explode函数
爆炸函数的使用:将宽表转成长表
代码语言:javascript复制df5 = pd.DataFrame({
"sid":["s1","s2"],
"phones":[["华为","小米","一加"],["三星","苹果"]]
})
df5
sid | phones | |
---|---|---|
0 | s1 | [华为, 小米, 一加] |
1 | s2 | [三星, 苹果] |
df5.explode("phones")
sid | phones | |
---|---|---|
0 | s1 | 华为 |
0 | s1 | 小米 |
0 | s1 | 一加 |
1 | s2 | 三星 |
1 | s2 | 苹果 |
df5
sid | phones | |
---|---|---|
0 | s1 | [华为, 小米, 一加] |
1 | s2 | [三星, 苹果] |
fillna函数
填充缺失值
代码语言:javascript复制df4
sid | name | |
---|---|---|
0 | s1 | xiaoming |
1 | s2 | NaN |
2 | NaN | Mike |
df4.fillna({"sid":"s3","name":"Peter"})
sid | name | |
---|---|---|
0 | s1 | xiaoming |
1 | s2 | Peter |
2 | s3 | Mike |
groupby函数
同组统计的功能
代码语言:javascript复制# 借用这个结果
df6 = df5.explode("phones")
df6
sid | phones | |
---|---|---|
0 | s1 | 华为 |
0 | s1 | 小米 |
0 | s1 | 一加 |
1 | s2 | 三星 |
1 | s2 | 苹果 |
df6.groupby("sid")["phones"].count()
代码语言:javascript复制sid
s1 3
s2 2
Name: phones, dtype: int64
head函数
查看前几行的数据,默认是前5行
代码语言:javascript复制df7 = pd.DataFrame({
"sid":list(range(10)),
"name":list(range(80,100,2))})
df7
sid | name | |
---|---|---|
0 | 0 | 80 |
1 | 1 | 82 |
2 | 2 | 84 |
3 | 3 | 86 |
4 | 4 | 88 |
5 | 5 | 90 |
6 | 6 | 92 |
7 | 7 | 94 |
8 | 8 | 96 |
9 | 9 | 98 |
df7.head() # 默认前5行
sid | name | |
---|---|---|
0 | 0 | 80 |
1 | 1 | 82 |
2 | 2 | 84 |
3 | 3 | 86 |
4 | 4 | 88 |
df7.head(3) # 指定前3行
sid | name | |
---|---|---|
0 | 0 | 80 |
1 | 1 | 82 |
2 | 2 | 84 |
isnull函数
判断是否存在缺失值,超级常用的函数
代码语言:javascript复制df4
sid | name | |
---|---|---|
0 | s1 | xiaoming |
1 | s2 | NaN |
2 | NaN | Mike |
df4.isnull() # True表示缺失
sid | name | |
---|---|---|
0 | False | False |
1 | False | True |
2 | True | False |
df4.isnull().sum() # 每个字段缺失的总和
代码语言:javascript复制sid 1
name 1
dtype: int64
代码语言:javascript复制df6.isnull().sum() # 没有缺失值
代码语言:javascript复制sid 0
phones 0
dtype: int64
join函数
用于连接不同的DataFrame:
代码语言:javascript复制df7 = pd.DataFrame({
'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'],
'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']})
df7
key | A | |
---|---|---|
0 | K0 | A0 |
1 | K1 | A1 |
2 | K2 | A2 |
3 | K3 | A3 |
4 | K4 | A4 |
5 | K5 | A5 |
df8 = pd.DataFrame({
'key': ['K0', 'K1', 'K2'],
'B': ['B0', 'B1', 'B2']})
df8
key | B | |
---|---|---|
0 | K0 | B0 |
1 | K1 | B1 |
2 | K2 | B2 |
df7.join(df8,lsuffix="_df7",rsuffix="_df8")
key_df7 | A | key_df8 | B | |
---|---|---|---|---|
0 | K0 | A0 | K0 | B0 |
1 | K1 | A1 | K1 | B1 |
2 | K2 | A2 | K2 | B2 |
3 | K3 | A3 | NaN | NaN |
4 | K4 | A4 | NaN | NaN |
5 | K5 | A5 | NaN | NaN |
kurt函数
查找数据的峰度值
代码语言:javascript复制df9 = pd.DataFrame({
"A":[12, 4, 5, 44, 1],
"B":[5, 2, 54, 3, 2],
"C":[20, 16, 7, 3, 8],
"D":[14, 3, 17, 2, 6]})
df9
A | B | C | D | |
---|---|---|---|---|
0 | 12 | 5 | 20 | 14 |
1 | 4 | 2 | 16 | 3 |
2 | 5 | 54 | 7 | 17 |
3 | 44 | 3 | 3 | 2 |
4 | 1 | 2 | 8 | 6 |
df9.kurt()
代码语言:javascript复制A 3.936824
B 4.941512
C -1.745717
D -2.508808
dtype: float64
loc函数
loc就是location的缩写,定位查找数据
代码语言:javascript复制df9
A | B | C | D | |
---|---|---|---|---|
0 | 12 | 5 | 20 | 14 |
1 | 4 | 2 | 16 | 3 |
2 | 5 | 54 | 7 | 17 |
3 | 44 | 3 | 3 | 2 |
4 | 1 | 2 | 8 | 6 |
df9.loc[1,:] # 第一行全部列的数据
代码语言:javascript复制A 4
B 2
C 16
D 3
Name: 1, dtype: int64
代码语言:javascript复制df9.loc[1:3,"B"] # 1到3行的B列
代码语言:javascript复制1 2
2 54
3 3
Name: B, dtype: int64
merge函数
同样也是数据的合并函数,类似SQL中的join,功能最为强大
代码语言:javascript复制df7
key | A | |
---|---|---|
0 | K0 | A0 |
1 | K1 | A1 |
2 | K2 | A2 |
3 | K3 | A3 |
4 | K4 | A4 |
5 | K5 | A5 |
df8
key | B | |
---|---|---|
0 | K0 | B0 |
1 | K1 | B1 |
2 | K2 | B2 |
pd.merge(df7,df8) # 默认how的参数是inner
key | A | B | |
---|---|---|---|
0 | K0 | A0 | B0 |
1 | K1 | A1 | B1 |
2 | K2 | A2 | B2 |
pd.merge(df7,df8,how="outer")
key | A | B | |
---|---|---|---|
0 | K0 | A0 | B0 |
1 | K1 | A1 | B1 |
2 | K2 | A2 | B2 |
3 | K3 | A3 | NaN |
4 | K4 | A4 | NaN |
5 | K5 | A5 | NaN |
nunique函数
用于统计数据的唯一值
代码语言:javascript复制df10 = pd.DataFrame({
"sid":list("acbdefg"),
"score":[9,8,9,7,8,9,3]
})
df10
sid | score | |
---|---|---|
0 | a | 9 |
1 | c | 8 |
2 | b | 9 |
3 | d | 7 |
4 | e | 8 |
5 | f | 9 |
6 | g | 3 |
df10.nunique()
代码语言:javascript复制sid 7
score 4
dtype: int64
pct_change函数
计算当前时期和前一个时期的比值
代码语言:javascript复制s = pd.Series([90, 91, 85])
s
代码语言:javascript复制0 90
1 91
2 85
dtype: int64
代码语言:javascript复制s.pct_change()
代码语言:javascript复制0 NaN
1 0.011111
2 -0.065934
dtype: float64
代码语言:javascript复制(91 - 90) / 90
代码语言:javascript复制0.011111111111111112
代码语言:javascript复制(85 - 91) / 91
代码语言:javascript复制-0.06593406593406594
代码语言:javascript复制# 和前两个时期相比
s.pct_change(periods=2)
代码语言:javascript复制0 NaN
1 NaN
2 -0.055556
dtype: float64
代码语言:javascript复制# 如果存在空值,用填充方法
s = pd.Series([90, 91, None, 85])
s
代码语言:javascript复制0 90.0
1 91.0
2 NaN
3 85.0
dtype: float64
代码语言:javascript复制s.pct_change(fill_method='ffill')
代码语言:javascript复制0 NaN
1 0.011111
2 0.000000
3 -0.065934
dtype: float64
query函数
根据条件查询取值
代码语言:javascript复制df10
sid | score | |
---|---|---|
0 | a | 9 |
1 | c | 8 |
2 | b | 9 |
3 | d | 7 |
4 | e | 8 |
5 | f | 9 |
6 | g | 3 |
df10.query("score >= 8")
sid | score | |
---|---|---|
0 | a | 9 |
1 | c | 8 |
2 | b | 9 |
4 | e | 8 |
5 | f | 9 |
rank函数
进行排名的函数,类似SQL的窗口函数功能:
代码语言:javascript复制df10
sid | score | |
---|---|---|
0 | a | 9 |
1 | c | 8 |
2 | b | 9 |
3 | d | 7 |
4 | e | 8 |
5 | f | 9 |
6 | g | 3 |
df10["rank_10"] = df10["score"].rank()
df10
sid | score | rank_10 | |
---|---|---|---|
0 | a | 9 | 6.0 |
1 | c | 8 | 3.5 |
2 | b | 9 | 6.0 |
3 | d | 7 | 2.0 |
4 | e | 8 | 3.5 |
5 | f | 9 | 6.0 |
6 | g | 3 | 1.0 |
df10["rank_10_max"] = df10["score"].rank(method="max")
df10
sid | score | rank_10 | rank_10_max | |
---|---|---|---|---|
0 | a | 9 | 6.0 | 7.0 |
1 | c | 8 | 3.5 | 4.0 |
2 | b | 9 | 6.0 | 7.0 |
3 | d | 7 | 2.0 | 2.0 |
4 | e | 8 | 3.5 | 4.0 |
5 | f | 9 | 6.0 | 7.0 |
6 | g | 3 | 1.0 | 1.0 |
df10["rank_10_min"] = df10["score"].rank(method="min")
df10
sid | score | rank_10 | rank_10_max | rank_10_min | |
---|---|---|---|---|---|
0 | a | 9 | 6.0 | 7.0 | 5.0 |
1 | c | 8 | 3.5 | 4.0 | 3.0 |
2 | b | 9 | 6.0 | 7.0 | 5.0 |
3 | d | 7 | 2.0 | 2.0 | 2.0 |
4 | e | 8 | 3.5 | 4.0 | 3.0 |
5 | f | 9 | 6.0 | 7.0 | 5.0 |
6 | g | 3 | 1.0 | 1.0 | 1.0 |
sort_values函数
根据数据进行排序的函数
代码语言:javascript复制df9
A | B | C | D | |
---|---|---|---|---|
0 | 12 | 5 | 20 | 14 |
1 | 4 | 2 | 16 | 3 |
2 | 5 | 54 | 7 | 17 |
3 | 44 | 3 | 3 | 2 |
4 | 1 | 2 | 8 | 6 |
df9.sort_values("A") # 默认是升序排列
A | B | C | D | |
---|---|---|---|---|
4 | 1 | 2 | 8 | 6 |
1 | 4 | 2 | 16 | 3 |
2 | 5 | 54 | 7 | 17 |
0 | 12 | 5 | 20 | 14 |
3 | 44 | 3 | 3 | 2 |
# 先根据B升序,如果B相同,再根据D降序
df9.sort_values(["B","D"], ascending=[True,False])
A | B | C | D | |
---|---|---|---|---|
4 | 1 | 2 | 8 | 6 |
1 | 4 | 2 | 16 | 3 |
3 | 44 | 3 | 3 | 2 |
0 | 12 | 5 | 20 | 14 |
2 | 5 | 54 | 7 | 17 |
tail函数
查看末尾的数据
代码语言:javascript复制df7.tail()
key | A | |
---|---|---|
1 | K1 | A1 |
2 | K2 | A2 |
3 | K3 | A3 |
4 | K4 | A4 |
5 | K5 | A5 |
df7.tail(3)
key | A | |
---|---|---|
3 | K3 | A3 |
4 | K4 | A4 |
5 | K5 | A5 |
unique函数
查找每个字段的唯一元素
代码语言:javascript复制df10
sid | score | rank_10 | rank_10_max | rank_10_min | |
---|---|---|---|---|---|
0 | a | 9 | 6.0 | 7.0 | 5.0 |
1 | c | 8 | 3.5 | 4.0 | 3.0 |
2 | b | 9 | 6.0 | 7.0 | 5.0 |
3 | d | 7 | 2.0 | 2.0 | 2.0 |
4 | e | 8 | 3.5 | 4.0 | 3.0 |
5 | f | 9 | 6.0 | 7.0 | 5.0 |
6 | g | 3 | 1.0 | 1.0 | 1.0 |
df10["score"].unique()
代码语言:javascript复制array([9, 8, 7, 3])
代码语言:javascript复制df10["rank_10"].unique()
代码语言:javascript复制array([6. , 3.5, 2. , 1. ])
value_counts函数
用于统计字段中每个唯一值的个数
代码语言:javascript复制df6
sid | phones | |
---|---|---|
0 | s1 | 华为 |
0 | s1 | 小米 |
0 | s1 | 一加 |
1 | s2 | 三星 |
1 | s2 | 苹果 |
df6["sid"].value_counts()
代码语言:javascript复制s1 3
s2 2
Name: sid, dtype: int64
代码语言:javascript复制df6["phones"].value_counts()
代码语言:javascript复制华为 1
苹果 1
三星 1
一加 1
小米 1
Name: phones, dtype: int64
where函数
用于查找Series或者DataFrame中满足某个条件的数据
代码语言:javascript复制w = pd.Series(range(7))
w
代码语言:javascript复制0 0
1 1
2 2
3 3
4 4
5 5
6 6
dtype: int64
代码语言:javascript复制# 满足条件的显示;不满足的用空值代替
w.where(w>3)
代码语言:javascript复制0 NaN
1 NaN
2 NaN
3 NaN
4 4.0
5 5.0
6 6.0
dtype: float64
代码语言:javascript复制# 不满足条件的用8代替
w.where(w > 1, 8)
代码语言:javascript复制0 8
1 8
2 2
3 3
4 4
5 5
6 6
dtype: int64
xs函数
该函数是用于多层级索引中用于获取指定索引处的值,使用一个关键参数来选择多索引特定级别的数据。
代码语言:javascript复制d = {'num_legs': [4, 4, 2, 2],
'num_wings': [0, 0, 2, 2],
'class': ['mammal', 'mammal', 'mammal', 'bird'],
'animal': ['cat', 'dog', 'bat', 'penguin'],
'locomotion': ['walks', 'walks', 'flies', 'walks']}
# 生成数据
df11 = pd.DataFrame(data=d)
# 重置索引
df11 = df11.set_index(['class', 'animal', 'locomotion'])
df11
num_legs | num_wings | |||
---|---|---|---|---|
class | animal | locomotion | ||
mammal | cat | walks | 4 | 0 |
dog | walks | 4 | 0 | |
bat | flies | 2 | 2 | |
bird | penguin | walks | 2 | 2 |
# 获取指定索引的值
df11.xs('mammal')
num_legs | num_wings | ||
---|---|---|---|
animal | locomotion | ||
cat | walks | 4 | 0 |
dog | walks | 4 | 0 |
bat | flies | 2 | 2 |
# 指定多个索引处的值
df11.xs(('mammal', 'dog'))
代码语言:javascript复制/Applications/downloads/anaconda/anaconda3/lib/python3.7/site-packages/IPython/core/interactiveshell.py:2881: PerformanceWarning: indexing past lexsort depth may impact performance.
return runner(coro)
num_legs | num_wings | |
---|---|---|
locomotion | ||
walks | 4 | 0 |
# 获取指定索引和级别(level)的值
df11.xs('cat', level=1)
num_legs | num_wings | ||
---|---|---|---|
class | locomotion | ||
mammal | walks | 4 | 0 |
df11
num_legs | num_wings | |||
---|---|---|---|---|
class | animal | locomotion | ||
mammal | cat | walks | 4 | 0 |
dog | walks | 4 | 0 | |
bat | flies | 2 | 2 | |
bird | penguin | walks | 2 | 2 |
# 获取多个索引和级别的值
df11.xs(('bird', 'walks'),level=[0, 'locomotion'])
num_legs | num_wings | |
---|---|---|
animal | ||
penguin | 2 | 2 |
# 获取指定列和轴上的值
df11.xs('num_wings', axis=1)
代码语言:javascript复制class animal locomotion
mammal cat walks 0
dog walks 0
bat flies 2
bird penguin walks 2
Name: num_wings, dtype: int64