数学建模学习笔记(九)数据预处理

2022-06-14 09:42:35 浏览数 (1)

一些数据预处理的基本思路与步骤: 1、删除无关变量 2、检查重复值 3、检查缺失值 4、特殊处理(例如删除不相关评论…)

附pandas和numpy的部分处理代码:

代码语言:javascript复制
import pandas as pd
import numpy as np
df=pd.read_csv('pacifier.tsv', sep='t', header=0)
df= df.drop('product_id',axis=1)
df= df.drop('review_id',axis=1)
df= df.drop('customer_id',axis=1)
df= df.drop('marketplace',axis=1)
df= df.drop('product_title',axis=1)
df= df.drop('product_category',axis=1)
df= df.drop('product_parent',axis=1)

#丢弃缺失数值
df=df.replace(to_replace='?',value=np.nan)
df = df.dropna(how='any')

print(df.shape)
writer = pd.ExcelWriter('naizui.xlsx')
#df = df.to_csv("weibolu.tsv",index=0)
df = df.to_excel(writer)
writer.save()

0 人点赞