摘要

本文提出一种基于状态空间模型的图像恢复新方法MambaIR,通过引入局部增强和通道注意力机制,解决了传统模型在全局感受野与计算效率之间的权衡问题。实验表明,MambaIR在图像超分辨率和去噪任务上均优于SwinIR等先进方法,在Manga109数据集上PSNR提升0.45dB,且保持线性复杂度。

关键词:图像恢复 状态空间模型 MambaIR 局部增强 通道注意力

1. 图像恢复的挑战与现状

图像恢复作为计算机视觉的核心任务,旨在从低质量输入中重建高质量图像。传统方法如CNN和Transformer面临两大困境:

  • CNN:依赖局部卷积,感受野有限(图1a),难以捕捉全局依赖。
  • Transformer:通过自注意力实现全局建模,但计算复杂度为O(n²),难以处理高分辨率图像。

在这里插入图片描述

图1:不同模型的有效感受野对比

2. MambaIR核心技术解析

2.1 状态空间模型的引入

MambaIR基于改进的状态空间模型(SSM),通过离散化线性时不变系统(LTI)实现长距离依赖建模:
h′(t)=Ah(t)+Bx(t),y(t)=Ch(t)+Dx(t), \begin{aligned} h'(t) &=A h(t)+B x(t), \\ y(t) &=C h(t)+D x(t), \end{aligned} h(t)y(t)=Ah(t)+Bx(t),=Ch(t)+Dx(t),
通过零阶保持(ZOH)离散化后,系统可转换为递归形式:
hk=A‾hk−1+B‾xk,yk=Chk+Dxk. \begin{aligned} h_{k} &= \overline{A} h_{k-1} + \overline{B} x_{k}, \\ y_{k} &= C h_{k} + D x_{k}. \end{aligned} hkyk=Ahk1+Bxk,=Chk+Dxk.
该模型具有线性复杂度,支持并行扫描,适合GPU加速。

2.2 网络架构设计

MambaIR包含三个核心模块(图2):

  1. 浅层特征提取:3×3卷积层提取初始特征。
  2. 深层特征提取:堆叠残差状态空间块(RSSB),结合局部增强和通道注意力。
  3. 图像重建:融合深浅层特征,生成最终结果。

在这里插入图片描述

图2:MambaIR整体架构

2.3 残差状态空间块(RSSB)

RSSB通过以下创新解决Mamba的局限性:

  • 局部增强:引入瓶颈卷积补偿展平序列导致的局部像素遗忘(图2a)。
  • 通道注意力:利用Squeeze-and-Excitation机制减少通道冗余(图2b)。
  • 可学习比例因子:动态控制残差连接权重。

2.4 视觉状态空间模块(VSSM)

VSSM通过四向扫描(图3)将二维图像转换为一维序列,结合深度卷积和哈达玛积,实现全局依赖建模:
X1=LN(2D-SSM(SiLU(DWConv(Linear(X))))),X2=SiLU(Linear(X)),Xout=Linear(X1⊙X2). \begin{aligned} X_1 &= \text{LN}(2\text{D-SSM}(\text{SiLU}(\text{DWConv}(\text{Linear}(X))))), \\ X_2 &= \text{SiLU}(\text{Linear}(X)), \\ X_{\text{out}} &= \text{Linear}(X_1 \odot X_2). \end{aligned} X1X2Xout=LN(2D-SSM(SiLU(DWConv(Linear(X))))),=SiLU(Linear(X)),=Linear(X1X2).

在这里插入图片描述

图3:局部增强与通道注意力效果

3. 实验结果与性能对比

3.1 消融实验

表1显示:

  • 局部卷积提升0.15dB PSNR(基线 vs 无Conv)。
  • 通道注意力进一步提升0.08dB(无Conv vs 无Conv+CA)。
  • 替换为MLP导致性能下降,验证SSM与Transformer的差异。
设置参数数量(#param)乘加运算量(MACs)Set5Set14B100Urban100Manga109
(0)基线16.7M439G38.5734.6732.5834.1540.28
(1)+无卷积(w/o Conv)11.9M316G38.4834.5432.5634.0440.20
(2)+无卷积+通道注意力(w/o Conv+CA)11.8M315G38.5534.6432.5734.0640.14
(3)+替换为多层感知机(replace with MLP)14.3M379G38.5534.6832.5934.2240.13

3.2 超分辨率对比

在经典超分辨率任务中,MambaIR在所有数据集上均超越SwinIR(表5)。例如,Manga109数据集×2尺度下PSNR达39.59dB,较SwinIR提升0.41dB。

在这里插入图片描述

3.3 去噪任务表现

高斯去噪实验(σ=50)显示,MambaIR在Urban100数据集上PSNR达30.07dB,较SwinIR提升0.25dB(表6)。

在这里插入图片描述

4. 结论与展望

MambaIR通过状态空间模型实现了全局感受野与线性复杂度的平衡,在多个图像恢复任务中取得SOTA性能。未来可探索:

  • 更高效的扫描策略
  • 动态调整的局部增强机制
  • 与其他轻量化模块的结合

代码已开源:https://github.com/csguoh/MambaIR

本文结合学术论文核心内容,通过技术解析与实验数据展示了MambaIR的创新点与优势。如需进一步了解实现细节,可参考原文及补充材料。

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐