#今日论文推荐#XPixel团队提出混合注意力机制HAT:Transformer超分性能大涨1dB

本文介绍作者提出的一种基于混合注意机制的Transformer(Hybrid Attention Transformer, HAT)。近日,来自澳门大学、中国科学院深圳先进技术研究院等机构的XPixel团队研究人员通过分析和实验指出,目前的方法无论是在模型设计,还是预训练策略上,都仍存在较大的提升空间。为此,作者提出了一种基于混合注意机制的Transformer (Hybrid Attention Transformer, HAT)。该方法结合了通道注意力,自注意力以及一种新提出的重叠交叉注意力等多种注意力机制。此外,还提出了使用更大的数据集在相同任务上进行预训练的策略。

论文题目:Activating More Pixels in Image Super-Resolution Transformer
详细解读:https://www.aminer.cn/research_report/62a174007cb68b460fce055a?download=falseicon-default.png?t=M4ADhttps://www.aminer.cn/research_report/62a174007cb68b460fce055a?download=false
AMiner链接:https://www.aminer.cn/?f=cs

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐