作者 | 李秋键
责编 | 晋兆雨
大数据预测是大数据最核心的应用,是它将传统意义的预测拓展到“现测”。大数据预测的优势体现在,它把一个非常困难的预测问题,转化为一个相对简单的描述问题,而这是传统小数据集根本无法企及的。从预测的角度看,大数据预测所得出的结果不仅仅是用于处理现实业务的简单、客观的结论,更是能用于帮助企业经营的决策。
在过去,人们的决策主要是依赖 20% 的结构化数据,而大数据预测则可以利用另外 80% 的非结构化数据来做决策。大数据预测具有更多的数据维度,更快的数据频度和更广的数据宽度。与小数据时代相比,大数据预测的思维具有 3 大改变:实样而非抽样;预测效率而非精确;相关关系而非因果关系。 而今天我们就将利用python制作可视化的大数据预测部分集成工具,其中数据在这里使用一个实验中的数据。普遍性的应用则直接从文件读取即可。其中的效果图如下:
实验前的准备
首先我们使用的python版本是3.6.5所用到的模块如下:
sklearn模块用来创建整个模型训练和保存调用以及算法的搭建框架等等。
numpy模块用来处理数据矩阵运算。
matplotlib模块用来可视化拟合模型效果。
Pillow库用来加载图片至GUI界面。
Pandas模块用来读取csv数据文件。
Tkinter用来创建GUI窗口程序。
数据的训练和训练的GUI窗口
经过算法比较,发现这里我们选择使用sklearn简单的多元回归进行拟合数据可以达到比较好的效果。
(1)首先是是数据的读取,通过设定选定文件夹函数来读取文件,加载数据的效果:
代码语言:javascript复制'''选择文件功能'''
def selectPath():
# 选择文件path_接收文件地址
path_ =tkinter.filedialog.askopenfilename()
# 通过replace函数替换绝对文件地址中的/来使文件可被程序读取
# 注意:\转义后为,所以\\转义后为\
path_ =path_.replace("/", "\\")
# path设置path_的值
path.set(path_)
return path
# 得到的DataFrame读入所有数据
data = pd.read_excel(FILENAME, header=0, usecols="A,B,C,D,E,F,G,H,I")
# DataFrame转化为array
DataArray = data.values
# 读取已使用年限作为标签
Y = DataArray[:, 8]
# 读取其他参数作为自变量,影响因素
X = DataArray[:, 0:8]
# 字符串转变为整数
for i in range(len(Y)):
Y[i] = int(Y[i].replace("年", ""))
X = np.array(X) # 转化为array
Y = np.array(Y) # 转化为array
root = Tk()
root.geometry(" 500 260")
# 背景图设置
canvas = tk.Canvas(root, width=600, height=200, bd=0, highlightthickness=0)
imgpath = '1.jpg'
img = Image.open(imgpath)
photo = ImageTk.PhotoImage(img)
#背景图大小设置
canvas.create_image(700, 400, image=photo)
canvas.pack()
path = StringVar()
#标签名称位置
label1=tk.Label(text = "目标路径:")
label1.pack()
e1=tk.Entry( textvariable = path)
e1.pack()
bn1=tk.Button(text = "路径选择", command = selectPath)
bn1.pack()
bn2=tk.Button(text = "模型训练", command = train)
bn2.pack()
bn3=tk.Button(text = "模型预测", command = test)
bn3.pack()
#标签按钮等放在背景图上
canvas.create_window(50, 50, width=150, height=30,
window=label1)
canvas.create_window(280, 50, width=300, height=30,
window=e1)
canvas.create_window(510, 50, width=150, height=30,
window=bn1)
canvas.create_window(50, 100, width=150, height=30,
window=bn2)
canvas.create_window(510, 100, width=150, height=30,
window=bn3)
root.mainloop()
效果如下可见:
(2)然后是数据的拟合和可视化模型效果:
代码语言:javascript复制# 模型拟合
reg = LinearRegression()
reg.fit(X, Y)
# 预测效果
predict = reg.predict(np.array([X[0]]))
Y_predict = reg.predict(X)
print(Y_predict)
# 横坐标
x_label = []
for i in range(len(Y)):
x_label.append(i)
# 绘图
fig, ax = plt.subplots()
# 真实值分布散点图
plt.scatter(x_label, Y)
# 预测值分布散点图
plt.scatter(x_label, Y_predict)
# 预测值拟合直线图
plt.plot(x_label, Y_predict)
# 横纵坐标
ax.set_xlabel('预测值与真实值模型拟合效果图')
ax.set_ylabel('蓝色为真实值,黄色为预测值')
# 将绘制的图形显示到tkinter:创建属于root的canvas画布,并将图f置于画布上
canvas = FigureCanvasTkAgg(fig, master=root)
canvas.draw() # 注意show方法已经过时了,这里改用draw
canvas.get_tk_widget().pack()
# matplotlib的导航工具栏显示上来(默认是不会显示它的)
toolbar = NavigationToolbar2Tk(canvas, root)
toolbar.update()
canvas._tkcanvas.pack()
#弹窗显示
messagebox.showinfo(title='模型情况', message="模型训练完成!")
其中的效果如下可见:
其中的效果如下可见:
模型的预测和使用
其中模型的预测主要通过两种方式进行预测,分别是:手动输入单个数据进行预测和读取文件进行预测。
其中手动输入数据进行预测需要设置更多的GUI按钮,其中代码如下:
代码语言:javascript复制#子窗口
LOVE = Toplevel(root)
LOVE.geometry(" 100 260")
LOVE.title = "模型测试"
#子窗口各标签名
label = ["上升沿斜率(v/us)", "下降沿斜率(v/us)", "脉宽(ns)", "低状态电平(mv)", "低电平方差(mv2)x10-3", "高状态电平(v)", "高电平方差(v2)", "信号质量因子"]
Label(LOVE, text="1、输入参数预测", font=("微软雅黑", 20)).grid(row=0, column=0)
#标签名称,字体位置
Label(LOVE, text=label[0], font=("微软雅黑",10)).grid(row=1, column=0)
Label(LOVE, text=label[1], font=("微软雅黑", 10)).grid(row=1, column=1)
Label(LOVE, text=label[2], font=("微软雅黑", 10)).grid(row=1, column=2)
Label(LOVE, text=label[3], font=("微软雅黑", 10)).grid(row=1, column=3)
Label(LOVE, text=label[4], font=("微软雅黑", 10)).grid(row=1, column=4)
Label(LOVE, text=label[5], font=("微软雅黑", 10)).grid(row=1, column=5)
Label(LOVE, text=label[6], font=("微软雅黑", 10)).grid(row=1, column=6)
Label(LOVE, text=label[7], font=("微软雅黑", 10)).grid(row=1, column=7)
#编辑框位置和字体
en1=tk.Entry(LOVE, font=("微软雅黑", 8))
en1.grid(row=2, column=0)
en2=tk.Entry(LOVE, font=("微软雅黑", 8))
en2.grid(row=2, column=1)
en3=tk.Entry(LOVE, font=("微软雅黑", 8))
en3.grid(row=2, column=2)
en4=tk.Entry(LOVE, font=("微软雅黑", 8))
en4.grid(row=2, column=3)
en5=tk.Entry(LOVE, font=("微软雅黑", 8))
en5.grid(row=2, column=4)
en6=tk.Entry(LOVE, font=("微软雅黑", 8))
en6.grid(row=2, column=5)
en7=tk.Entry(LOVE, font=("微软雅黑", 8))
en7.grid(row=2, column=6)
en8=tk.Entry(LOVE, font=("微软雅黑", 8))
en8.grid(row=2, column=7)
Label(LOVE, text="", font=("微软雅黑", 10)).grid(row=3, column=0)
#测试输入框预测
def pp():
x=np.array([int(en1.get()),int(en2.get()),int(en3.get()),int(en4.get()),int(en5.get()),int(en6.get()),int(en7.get()),int(en8.get())])
# 预测效果
predict = reg.predict(np.array([x]))
Label(LOVE, text="预测结果已使用年数为:" str(predict[0]) "年", font=("微软雅黑", 10)).grid(row=4, column=3)
print(predict)
Button(LOVE, text="预测:", font=("微软雅黑", 15),command=pp).grid(row=4, column=0)
Label(LOVE, text="2、选择文件预测", font=("微软雅黑", 20)).grid(row=5, column=0)
path1 = StringVar()
label1 = tk.Label(LOVE,text="目标路径:", font=("微软雅黑", 10))
label1.grid(row=6, column=0)
e1 = tk.Entry(LOVE,textvariable=path1, font=("微软雅黑", 10))
e1.grid(row=6, column=2)
label = ["上升沿斜率(v/us)", "下降沿斜率(v/us)", "脉宽(ns)", "低状态电平(mv)", "低电平方差(mv2)x10-3", "高状态电平(v)", "高电平方差(v2)",
"信号质量因子"]
n = 0
for i in predict_value:
print(str(label) "分别为" str(X[n]) "预测出来的结果为:" str(i) "年" "n")
f = open("预测结果.txt", "a")
f.write(str(label) "分别为" str(X[n]) "预测出来的结果为:" str(i) "年" "n")
f.close()
f = open("result.txt", "a")
f.write(str(i) "n")
f.close()
n = 1
messagebox.showinfo(title='模型情况', message="预测结果保存在当前文件夹下的TXT文件中!")
os.system("result.txt")
os.system("预测结果.txt")
Button(LOVE, text="预测:", font=("微软雅黑", 15), command=ppt).grid(row=7, column=0)
效果如下可见:
选择文件进行读取预测和模型训练数据的读取类似,代码如下:
代码语言:javascript复制#选择文件预测
def selectPath1():
# 选择文件path_接收文件地址
path_ =tkinter.filedialog.askopenfilename()
# 通过replace函数替换绝对文件地址中的/来使文件可被程序读取
# 注意:\转义后为,所以\\转义后为\
path_ =path_.replace("/", "\\")
# path设置path_的值
path1.set(path_)
return path
bn1 = tk.Button(LOVE,text="路径选择", font=("微软雅黑", 10), command=selectPath1)
bn1.grid(row=6, column=6)
def ppt():
try:
os.remove("预测结果.txt")
os.remove("result.txt")
except:
pass
# 文件的名字
FILENAME =path1.get()
# 禁用科学计数法
pd.set_option('float_format', lambda x: '%.3f' % x)
np.set_printoptions(threshold=np.inf)
# 得到的DataFrame读入所有数据
data =pd.read_excel(FILENAME, header=0, usecols="A,B,C,D,E,F,G,H")
# DataFrame转化为array
DataArray =data.values
# 读取其他参数作为自变量,影响因素
X = DataArray[:,0:8]
predict_value = reg.predict(X)
print(predict_value)
效果如下:
由于读取文件进行预测的话,数据较多故直接存储在TXT中方便查看:
完整代码链接:
https://pan.baidu.com/s/1yIjK9fc0g8r4Q57_33E-tg
提取码:44mg
作者简介:
李秋键,CSDN博客专家,CSDN达人课作者。硕士在读于中国矿业大学,开发有taptap竞赛获奖等等
代码语言:javascript复制更多精彩推荐
- YouTube 网红程序员一夜走红,修复美、日、俄多国街景视频
- 赠书 | 人工智能识万物:卷积神经网络的前世今生
- 万字长文总结机器学习的模型评估与调参 | 附代码下载
- “Talk is cheap, show me the code”你一行代码有多少漏洞?
- 科普 | 定义 Eth2.0 中的验证者质量