最近一直有人发信息问:
关于AGX Orin开发套件,我们收到最新的通知是:预计4月初到货,数量未定!
从我们拿到的美金价格来看,这款产品上市后,中国大陆市场价位必然会超过15000元人民币(含13%增值税,请别再用未税或者3%税点的价格来呛我)——注意,我已经是很保守估计价格了,如果你是最终用户,又很希望在第一时间买到这款产品,请你务必要大幅提高你的购买预算。
如果届时市场价格涨到2W人民币的话——请注意是如果!那么买AGX Orin开发套件到底值不值?让我们来分析分析。
首先看一下AGX Orin开发套件的规格:
一.性能
很直观的,NVIDIA在发布AGX Orin的时候,说它的AI性能可以达到200 TOPS——在你对这个指标没有什么感受之前,我们不妨对比一下AGX Xavier,它的AI性能是32TOPS,几乎是一个数量级的提升!据今年年初群友反馈,由于AGX Xavier开发套件的停产,二手市场上Xavier开发套件已经涨到15000元了!这样一看,即便AGX Orin价格为2W,也不算亏啊。
看看GPU,2048个CUDA核,如果是按照8.6而不是8.0的计算能力的算法的话,这2048个SP实际上等于1024个,这样的话,相当于16个SM。这个还是很不错的。说到计算能力,Orin据说计算能力是8.7(我还没有看到文档),目前30系列GPU卡计算能力是8.6,Tesla A100的计算能力是8.0.
考虑到计算能力8.6支持稀疏(sparse)矩阵,那么这货大概也支持,50%的稀疏比例的话,等于性能又翻倍(有待求证)。
在看CPU性能,AGX Xavier 的CPU是NVIDIA Carmel ARMv8.2 (8-core) @ 2.26GHz(4x2MB L2 4MB L3),这个是NVIDIA自家造的,但是到了AGX Orin,NVIDIA似乎放弃努力,直接用Arm核心,使用Arm Cortex-A78AE v8.2(12-core) 64-bit CPU(3MB L2 6MB L3),性能是非常不错的!
二,显存带宽
AGX Orin memory达到32G,但最吸引人的是memory带宽的提升,差不多是Nano 25.6GB/S的8倍,是AGX Xavier137GB/S的1.5倍 。这对于嵌入式产品,到200GB/S 已经很了不起了,要知道曾经卖到2-3W的3090也不过才900GB/s, 人家可是350W的TDP。
这个好处在于,很多人代码写的渣,数据需要反复倒腾多次,这种用Orin很好。毕竟,减少一个程序员的成本,一个月就得多少钱,这样渣代码能跑起来了.....
所以说不能直接与RTX GPU卡去比较,至少这个平台的12个CPU核心,能享受到这200GB/s 的内存带宽,这点独立的PC机很难做到(能做到,但是成本你受不了,例如你上8通道的AMD的EPYC,64核心12线程)。这种显存/内存一体存储器的平台,实际上设计的很均衡,可以实际拿去做产品的,而不是PC那样,最终做产品困难,要么体积巨大,要么成本高昂,要么体积和成本都小,但是却不平衡,CPU过强,内存过弱实际上跑不起来。
三.编解码能力
从规格上看,AGX Orin是16x/24x的1080p30的265解码和编码能力。你看这货直接就能16路和24路的1080p30的实时的编解码,这种做好了一个设备就能接管一条街上的24路摄像头,还是很不错的(你要考虑交警一个摄像头可能就 5000元,甚至上万)。
我知道你看到了Jetson Nano的是4x/8x的1080p30的265的编解码能力,这编解码还是不同的。安培这一代的265编码,有了B帧支持,同样的质量下码率能降低20%-30%,带宽就是成本,因为上一代(7.2)一直没上新编码器,中间隔离了重要的7.5和8.6的编码增强,所以现在这货实际上同样的带宽下,能承载的视频路数多了20%-30%。
你考虑到现在的没有有线网络的情况下,通过4G/5G承载数据,同样的流量费,直接能多出来20%-30%的摄像头路数(假设说,你需要回传的话)。2W元成本岂非很快就能节省回来了。类似的,解码的也是这个道理。
四.10G以太网
这是个亮点,之前都是千兆的,这样一个口顶10个了,甚至如果你不满足的话,还可以通过8X的PCI-E槽,至少能带起来3个额外的10Gbps的口,这下够用了吧。
五.其它接口
USB 3.2 GEN 2接口,这应该是10Gbps的双向USB口了,很良心。其他的,比如支持CAN等,在AGX Xavier上也同样支持。
六.DLA和PVA
AGX Orin支持DLA2.0. 我们已经发了很多文章介绍过DLA是个好东西。千万别小看了DLA了,这货比现在国内的五花八门的各种芯片产品(每种都需要用户独立重新去学习一遍)好很多。NV的DLA当初的目的就是结束这种混战的局面。而结束的方式很简单,只要这些公司里面,有一家公司将自己的设计免费开放,那么其他家就不需要重新设计了(除非他们有显著的其他方面的优势),因为设计一次的成本(芯片)相当高,而站出来的这一家正好是NV而已,这种必然会导致将来的资源或者生态向这一家靠拢,所以说要重视一下。
PVA也是到2.0,具体指标我还没有来得及去查阅,等产品真正上市后,我们再细说。
总之,在GPU价格飞满天的情况下,AGX Orin开发套件秉承AGX Xavier的设计尺寸(两者模组应该是可以兼容的),以及“设计理念”(买GPU送工作站),再加上这是今年NVIDIA推出市场唯一一款开发套件,我有理由相信,这又将会是一款“理财产品”!
好了,让我们做个调查,欢迎大家来投票
更多关于Xavier Orin:
NVIDIA 会出Jetson Orin NX开发套件么?可能不会!
【2021GTC】NVIDIA Orin平台:用于高性能AI计算的可扩展和模块化架构
NVIDIA 发布Jetson Xavier Orin:模块和开发套件预计2022年第一季度上市