获取完整原文和代码，公众号回复：10090817440
论文地址： http://arxiv.org/pdf/2110.09408v3.pdf
代码： 公众号回复：10090817440
来源： 中国科学院大学
论文名称：HRFormer High-Resolution Transformer for Dense Prediction
原文作者：Yuhui Yuan
内容提要
我们提供了一种高分辨率Transformer (HRFormer)，它可以为密集的预测任务学习高分辨率表示，而原始的Vision Transformer产生低分辨率表示，并具有较高的内存和计算成本。我们利用了高分辨率卷积网络(HRNet)中引入的多分辨率并行设计，以及本地窗口自注意(该自注意对小的非重叠图像窗口进行自我注意)，以提高内存和计算效率。此外，我们引入一个卷积到FFN，以交换信息跨越断开的图像窗口。我们证明了高分辨率Transformer在人体姿态估计和语义分割任务上的有效性，例如，HRFormer在COCO姿态估计上的性能比Swin Transformer强1.3 AP，参数减少50%，FLOPs减少30%。
主要框架及实验结果
声明：文章来自于网络，仅用于学习分享，版权归原作者所有，侵权请加上文微信联系删除。
