在上文《实践演练Pytorch Bert模型转ONNX模型及预测》中，我们将Bert的Pytorch模型转换成ONNX模型，并使用onnxruntime-gpu完成了python版的ONNX模型预测。今天我们来把预测搬到C++上，模拟一下模型的部署。...

当今的很多AI算法落地，我们都需要依赖特定的机器学习框架，现在比较热门的 AI 工具库如 TensorFlow 和 PyTorch 都出自大厂，并且有很好的生态和资源，借助它们我们可以很快速完成典型的一些任务，如图像分类或自然语言处理。...