智能网卡最新进展:第5层协议卸载

2023-02-15 09:11:16 浏览数 (1)

(一)FPGA智能网卡市场分析报告

(二)Xilinx篇

(三)Intel篇

(四)不服篇

(五)用户篇

(六)赛道篇

(七)存储篇

简介:ASPLOS是计算机系统结构领域的顶级国际会议,涉及体系结构、硬件、编程语言、编译器、操作系统和网络等多个方向,尤其重视不同方向之间的交叉。ASPLOS一直属于中国计算机学会(CCF)推荐的A类国际会议。2021年的ASPLOS大会 Distinguished paper award获得者来自于Nvidia/Mellanox的网卡团队。

摘要:

CPU经常将网络相关的处理任务,比如数据包分拆和校验卸载到网卡上处理,这样可以释放宝贵的CPU周期,所以利用网卡进行卸载有多种优势。

但是,它们的适用性通常仅限于4层协议以下(TCP和更低层的协议),而对于建立在TCP之上的第5层协议(layer-5 protocols:L5Ps)则不适用。这种限制是由于我们称之为 "卸载依赖 "的错误特性造成的,它决定了L5P的卸载还需要卸载底层的≤4层协议和相关功能,TCP, IP, 防火墙等。

注:在TCP之上的第五层网络协议(L5P)是一种常见的、应用广泛的协议。包括:1)传输安全(TLS)加密协议,该协议通过https为浏览器等提供安全通信;2)NVMe-TCP等存储协议,该协议允许系统将远程磁盘驱动器用作本地块设备;3)远程过程调用(RPC)协议,比如Thrift和gRPC;4)key-value 存储协议,比如Memcached和MongoDB。

L5P卸载的依赖性阻碍了创新,因为这意味着复杂的、不断变化的底层协议需要硬连接来实现。

我们提出了 "自主网卡卸载",它消除了卸载的依赖性。自主卸载设计了一个轻量级的软件设备架构,可以加速L5P但不需要将整个≤4层的TCP/IP协议栈移植到NIC中。

注:自主卸载的基本思路是让L5P和网卡在对中间TCP/IP堆栈透明的情况下共同处理L5P消息(可能包括多个TCP段)。当发送消息时,L5P代码 "跳过 "执行卸载的操作,从而将 "错误的 "字节从堆栈传递给网卡。然后由NIC执行上述被跳过的操作,从而在链路上发送正确的信息。在反方向,在对TCP/IP协议栈无感知的情况下,由NIC而不是L5P来解析传入的消息,并同样执行卸载的操作。

自主卸载解决的一个主要挑战是如何应对失序的数据包。我们对两个L5P进行了自主卸载。

(i) NVMe-over-TCP零拷贝和CRC计算;

(ii) https认证、加密和解密;

我们的自主卸载将吞吐量提高了3.3倍,而且它们的CPU消耗和延迟分别降至0.4倍和0.7倍。

并非所有的L5P都可以自动卸载。NVIDIA在最新一代的Mellanox ConnectX ASIC网卡中实现了TLS自动卸载,包括TLS认证、加密和解密功能;NVM-TCP自主卸载将在下一个模型中发布,支持接收端的数据放置(因此用于零拷贝)和两端的CRC计算和验证。

0 人点赞