1
为什么起名叫圈圈虫呢?
中二少年时期正好处于互联网起步阶段,为了降低重名率而设置的网游昵称(机智脸.jpg)
2
虫叔如何看待国产 AI 芯片行业前景?
国产 AI 芯片行业未来的机遇大于挑战。前几年疯狂新增的国产 AI 芯片最近到了交作业的时期了,AI 功能只是传统芯片中锦上添花的功能。
AI 技术的落地应用同时也从高端应用逐步下沉到中长尾的传统行业应用中。各行各业都希望自己的产品能从数字化转型到智能化,那么其中的需求就非常大,给了国产 AI 芯片很大的市场预期。
挑战在于国产 AI 芯片如何能适应前几年国外优秀的 AI 芯片(例如NVIDIA)培养起来的用户使用习惯,我们不否认国外 AI 芯片特别是 NVIDIA 的生态和易用性的确优秀,那么国产 AI 芯片就不仅要达到能用,而且还需要提升到好用、易用的阶段。加强国产 AI 芯片开源生态建设的投入,可以更接地气地满足国内市场对 AI 芯片的需求。
3
虫叔认为目前工业界深度学习推理框架从业同学需要怎样的技术栈,有最佳的实践路径么?
编程语言: C/C 、Python
操作系统:熟悉 Linux 常规使用
熟练使用 PyTorch: 复现常见的开源模型训练
熟悉 ONNX 模型:具备简单裁剪 ONNX 模型的能力,因为现在部署落地 ONNX 模型的接受度最高(虽然问题也不少)
最佳实践路径:加入国内几个比较优秀、人气活跃的推理框架开源项目,例如 ncnn,参与到其中某个特性的维护或者改进就好了!
4
是什么驱使你持续在技术社区中保持创作输出,发光发热?(作为一位开发创作两不误的斜杠青年,你认为内容输出给你带来了怎样的好处)
简单不看版本:
真的可以实现共赢、共同富裕(dog.jpg)
详细版本:
因为这几年的 AI 技术启动、发展、生根落地,都是在开源技术社区先行。也就是说本来所从事的 AI 技术相关行业的源头就是开源技术社区。
保持创造输出,可以强制要求自己定期整理工作中的思路,强制要求自己有更好的文档示例输出。同时在这几年的过程中,能够结交到行业中的其他大佬,从他们身上掌握到了很多技能。也在过程中也间接地鼓励了后入行的同学,见证了他们在行业里成为后浪的过程。(MM 星探:快来和大佬一起“自我运营”,收获开源社区的无限惊喜!)
5
沉浸开源社区多年,虫佬有比较心水的开源项目么?
当然是 ncnn 了!毕竟当年投入了较大的精力实现了国内开源推理库框架中首个支持 8bit 深度学习网路模型量化、压缩、推理加速全流程模块,增强了行业内对 8bit 模型应用落地的信心。
当年提出的分通道量化、动态精度量化、第三方量化因子导入等特性放到现在来看也是很实用的特性。当然这些最大的功劳在于 nihui 开源并长期维护了ncnn项目的发展,我只是锦上添花罢了。(MM 星探:过谦了!)
6
你认为你的开源开发之路上的高光时刻是哪一次?
不同阶段的高光时刻不太一样:
ncnn 时期:AI 模型量化的“出道即巅峰”;
Tengine 时期:默默经营端侧 AI 加速器的软件适配;
AXera 时期(当前):回馈 AI 开源技术社区的 爱芯派 顺利发布。