华为昇腾AI芯片获得大幅优化:7倍性能于苹果M1处理器

2023-02-09 15:06:56 浏览数 (1)

尽管由于限制,华为拥有设计先进芯片的能力但没法制造出来,但是软硬件优化还是让华为的平台展示出了优秀的性能,日前OpenCV就实现了对华为AI平台昇腾的优化,速度提升很恐怖,差不多是苹果M1处理器的7倍。

1月17日消息,据据南方科技大学计算机系的于仕琪老师介绍,OpenCV中国团队实现了OpenCV4.7对华为昇腾的支持,在华为硬件上,3毫秒就可以完成ResNet50的推理。

这个速度的确很恐怖!要知道,我们把OpenCV针对arm cpu加了winograd conv等的优化了,在苹果标杆CPU m1上都要跑20 ms。

这一工作的最大意义在于,用户不需要学习华为昇腾的复杂API,正常调用OpenCV,就能实现昇腾NPU硬件加速。

据悉,昇腾CANN(Compute Architecture for Neural Networks)是华为针对AI场景推出的异构计算架构。

昇腾CANN支持昇思MindSpore,OpenCV DNN,飞桨Paddle、PyTorch、TensorFlow等神经网络推理和训练框架,并兼容多种底层硬件设备,提供强大异构计算能力。

其中昇腾CANN为用户提供了模型转换工具ATC,以及C/Python的API库AscendCL。

用户可使用ATC将ONNX、TF和Caffe模型转换为被AscendCL支持的OM格式,并调用AscendCL的API读取和在昇腾AI处理器上推理模型。

编辑:芯智讯-林子 来源:快科技

行业交流、合作请加微信:icsmart01 芯智讯官方交流群:221807116

0 人点赞