语音指令控制坦克大战

2023-12-18 13:33:39 浏览数 (1)

前言

本文将介绍一个可以通过语音指令来控制坦克大战游戏的程序,用户只需要添加几个疾病区然后控制坦克进行向上、向下、向左、向右、开火、停止等操作。同时还支持指令微调、提高指令的准确率。

安装项目环境

本项目开发换为:

  • Anaconda 3
  • Windows 11
  • Python 3.11
  • Pytorch 2.1.0
  • CUDA 12.1
  1. 安装Pytorch,执行下面命令,如果已经安装了其他版本,若能正常运行,请跳过。
代码语言:javascript复制
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
  1. 安装其他依赖包,执行下面命令,安装完成之后,如果还缺失其他库,请对应安装。
代码语言:javascript复制
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

启动游戏

  1. 运行main.py程序即可启动游戏,可以调整的参数有:sec_time为录制时间,单位秒;last_len为上一部分的数据长度,单位秒;。
  2. 增加指令,需要在instruct.txt添加指令,然后再main.py添加你指令的处理函数。

日志输出:

代码语言:javascript复制
支持指令:['向上', '向下', '向左', '向右', '停止', '开火']
请发出指令...
触发指令:【向上】
触发指令:【开火】
触发指令:【开火】

游戏页面:

微调指令模型

微调指令模型的代码在finetune目录下,微调前切换到finetune目录,具体的训练过程看下面操作。

制作数据

运行record_data.py代码,启动录音程序,默认录制2秒钟,建议录制完成之后,再录制1秒钟的音频,注意录制1秒钟时间非常短,按下回车之后要立马开始说话。其实自定义数据可以参考生成的dataset目录。

输出日志:

代码语言:javascript复制
请输入指令内容:向上
请输入录入次数:10
第1次录音,按回车开始说话:
开始录音......
录音已结束!
第2次录音,按回车开始说话:

训练模型

运行finetune.py代码,训练模型。

输出日志:

代码语言:javascript复制
[ubuntu] 2023-12-17 13:02:53,260 (build_trainer:405) INFO: The best model has been updated: valid.acc
[ubuntu] 2023-12-17 13:02:53,260 (build_trainer:248) INFO: 2/20epoch started. Estimated time to finish: 0.02464581797971429 hours
[ubuntu] 2023-12-17 13:02:54,854 (build_trainer:299) INFO: 2epoch results: [train] iter_time=0.224, forward_time=0.239, loss_att=0.638, acc=0.878, loss_pre=0.120, loss=0.758, backward_time=0.032, optim_step_time=0.005, optim0_lr0=5.000e-09, train_time=0.795, time=0.83 seconds, total_count=2, gpu_max_cached_mem_GB=2.082, [valid] loss_att=0.277, acc=0.933, cer=0.033, wer=0.150, loss_pre=0.011, loss=0.288, time=0.77 seconds, total_count=2, gpu_max_cached_mem_GB=2.082

合并模型

运行merge_model.py代码,将训练好的模型合并成一个模型,最后使用的模型就使用models/paraformer-large-contextual_finetune这个路径下的模型。

0 人点赞